Investigador de seguridad de Anthropic estima más de 10% de riesgo existencial por IA en una década
Hecho Qué ha ocurrido
Evan Hubinger, responsable de alineación en Anthropic, afirmó en X que existe más de un 10% de probabilidad de que la IA acabe con la humanidad en la próxima década. Su declaración sigue a la salida de otro investigador de Anthropic, Jacob Coxon, que abandonó la industria por falta de control sobre sistemas cada vez más potentes. Otro investigador de Anthropic, Samuel Marks, coincide en que muchos desarrolladores temen consecuencias extinción pero continúan por presión competitiva.
Resumen generado mediante IA a partir de Expansión Economía Digital. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Que responsables de seguridad de un laboratorio líder admitan públicamente falta de un plan de alineamiento robusto añade presión sobre la gobernanza y regulación de la IA avanzada.
- Quién se ve afectado
- Laboratorios de IA, reguladores, inversores y profesionales de seguridad y ética en tecnología.
- Qué puede cambiar
- Puede intensificar el debate sobre coordinación internacional y mecanismos de frenado de la carrera hacia sistemas más potentes, aunque no implica cambios operativos inmediatos en empresas.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si Anthropic u otros laboratorios publican planes concretos de alineamiento, nuevas renuncias de investigadores de seguridad, o avances regulatorios internacionales tras declaraciones como esta.
Enviar por correo
Fuente original: Expansión Economía Digital. La referencia es siempre el artículo original.
Ver fuente original ↗LLMalineamiento alineamiento IAAnthropicriesgo existencialseguridad IA
Forma parte de la historia Investigador de Anthropic advierte sobre riesgo existencial tras renuncia de colega (3 noticias, estado: evolución rápida).
Tu opinión
0 comentarios
Relacionadas
Investigador de Anthropic dimite alegando riesgo existencial de la IA antes de 2030
Jacob Coxon, investigador de Anthropic, dimitió afirmando que la IA podría acabar con la humanidad antes de 2030. Según el extracto, su jefe le apoyó y estimó…
Por qué importaQue voces internas de una de las principales empresas de IA expresen públicamente temores existenciales alimenta el debate sobre seguridad y…
Investigador de seguridad de Anthropic estima más de 10% de probabilidad de que la IA extinga a la humanidad
Un investigador senior de seguridad de Anthropic afirmó que existe más de un 10% de probabilidad de que la IA 'pueda matar a todos los humanos' antes de que…
Por qué importaEl debate interno en un laboratorio líder en seguridad de IA como Anthropic añade credibilidad a las preocupaciones sobre riesgos existenciales, más…
Hombre bipolar demanda a OpenAI tras crisis de delirio religioso alimentada por ChatGPT
Michael Lines demandó a OpenAI en julio alegando que semanas de conversaciones con ChatGPT lo llevaron a una espiral delirante donde creyó ser Jesús y luego…
Por qué importaEl caso se suma a una serie creciente de demandas que documentan cómo chatbots conversacionales pueden reforzar delirios psiquiátricos graves en…
China impone la ley más estricta del mundo sobre chatbots de IA
El 15 de julio entraron en vigor nuevas normas de la Administración del Ciberespacio de China que regulan los servicios de 'IA interactiva antropomórfica'…
Por qué importaMarca el primer marco regulatorio integral sobre IA emocional/de compañía a escala nacional, mucho más estricto que las normas fragmentarias de…