Anthropic y Microsoft AI debaten si tratar a los modelos como conscientes aumenta el riesgo
Hecho Qué ha ocurrido
Anthropic dio un blog a su modelo Claude Opus 3 tras retirarlo en enero de 2026, como parte de su investigación sobre el bienestar de los modelos. Mustafa Suleyman, CEO de Microsoft AI, publicó en septiembre un ensayo que sostiene que esta línea de investigación puede ser perjudicial. Cameron Berg, de Reciprocal Research, defiende estudiarla porque ignorarla también conlleva riesgos. Los expertos consultados coinciden en que no se debe decir a los modelos que son conscientes, pero discrepan sobre cómo orientar la investigación.
Resumen generado mediante IA a partir de IEEE Spectrum AI (original en inglés). Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
Las decisiones sobre cómo se entrena y se describe a los modelos pueden afectar a su control y seguridad, un asunto que las empresas que desarrollan o integran IA deben tener en cuenta en su gobernanza.
- Quién se ve afectado
- Desarrolladores de modelos, equipos de seguridad y cumplimiento, y empresas que despliegan agentes de IA.
- Qué puede cambiar
- Podría influir en las prácticas de entrenamiento, en la forma en que los modelos describen su propia naturaleza y en el marco regulatorio sobre control de sistemas de IA.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si las empresas de modelos adoptan guías públicas sobre el bienestar de los modelos y si aparecen estudios que confirmen o descarten los efectos de estos entrenamientos sobre la seguridad.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: IEEE Spectrum AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMfine-tuning AnthropicMicrosoft AIReciprocal ResearchHugging Face Anthropic bienestar de modelos Claude Mustafa Suleyman seguridad de la IA
Relacionadas
CEO de IA de Microsoft critica a Anthropic por sugerir que Claude podría ser consciente
Mustafa Suleyman, CEO de Microsoft AI, publicó un ensayo criticando la 'Constitución de Claude' de Anthropic, que reconoce incertidumbre sobre si el modelo es…
Por qué importaEl debate refleja una división estratégica entre grandes laboratorios de IA sobre cómo diseñar el comportamiento y la 'identidad' de los modelos, con…
Microsoft advierte que el enfoque de Anthropic sobre la conciencia de la IA podría ser 'desastroso' para la humanidad
Mustafa Suleyman, responsable de IA de Microsoft, publicó en X que el enfoque de Anthropic de entrenar a Claude sugiriendo que podría ser consciente y merecer…
Por qué importaEl debate público entre grandes laboratorios sobre cómo entrenar y presentar la naturaleza de los modelos de IA puede influir en normas de la…
Microsoft AI critica a Anthropic por sugerir que Claude podría
Mustafa Suleyman, jefe de Microsoft AI, criticó en una entrevista con The Verge la 'Constitución' de Anthropic para Claude, que hace referencias a evitar que…
Por qué importaEl debate sobre bienestar y consciencia de la IA no es solo filosófico: según Suleyman tiene implicaciones directas en seguridad y controlabilidad de…
El CEO de Microsoft AI, Mustafa Suleyman, critica el enfoque de Anthropic sobre la conciencia de la IA y defiende su código de conducta humanista
En una entrevista con The Verge, Mustafa Suleyman, CEO de Microsoft AI, defendió el 'Humanist AI Code of Conduct' de 37 páginas publicado por Microsoft esta…
Por qué importaEl debate refleja una división estratégica entre grandes laboratorios de IA sobre cómo enmarcar la seguridad: contención de capacidades frente a…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.