Debate sobre cómo se comunica el riesgo de la inteligencia artificial
Resumen En qué punto está
Investigadores de seguridad en IA discuten públicamente si el foco debe estar en riesgos existenciales especulativos o en riesgos concretos e inmediatos. Steven Pinker rechazó un debate formal con Scott Alexander y pidió centrarse en ingeniería de seguridad práctica frente a bioterrorismo, ciberataques y agentes sin supervisión. En España, investigadores del SMC criticaron que el lenguaje que antropomorfiza la IA y habla de 'incidentes' en vez de cibercrímenes diluye la responsabilidad empresarial. Ambos casos apuntan a una tensión entre el relato de riesgo existencial, con intereses comerciales asociados, y los riesgos ya presentes como vigilancia, sesgos y comportamientos emergentes de agentes.
Resumen generado mediante IA a partir de las 2 noticias de la historia. Última actualización: hace 58 min.
Enviar esta historia por correo
Línea temporal
-
Investigadores españoles critican la distorsión del debate mediático sobre riesgos existenciales de la IA
En una sesión organizada por el SMC España el 18 de septiembre, investigadores como Nuria Oliver (ELLIS Alicante), Ramón López de Mántaras (IIIA-CSIC) y Senén Barro (CiTIUS) criticaron el uso de lenguaje que atribuye…
-
Steven Pinker rechaza debate público sobre riesgo existencial de la IA y pide ingeniería de seguridad práctica
El psicólogo de Harvard Steven Pinker publicó una carta abierta en Quillette dirigida a Scott Alexander, tras rechazar un debate público sobre riesgos existenciales de la IA. Alexander estima en un 20% la probabilidad…