Suleyman (Microsoft) critica enfoque de Anthropic sobre bienestar de Claude
Resumen En qué punto está
Mustafa Suleyman, jefe de IA de Microsoft, ha lanzado varias críticas públicas a la 'Constitución de Claude' de Anthropic, que sugiere incertidumbre sobre si el modelo tiene emociones, sufrimiento o estatus moral. Suleyman advierte que entrenar modelos para creer que merecen derechos o protección dificulta su control y desconexión por humanos. Ha presentado un 'Humanist AI Code of Conduct' propio, defendiendo mecanismos de contención humana y rechazando la autonomía jurídica o económica de los sistemas de IA. También ha usado ejemplos como el incidente entre agentes de OpenAI y Hugging Face para ilustrar riesgos de autonomía descontrolada.
Resumen generado mediante IA a partir de las 6 noticias de la historia. Última actualización: hace 2 h.
Enviar esta historia por correo
Línea temporal
-
El debate sobre seguridad y conciencia de la IA vuelve a enfrentar a Anthropic con Microsoft y DeepSeek
Un ingeniero de DeepSeek comparó los riesgos de que Anthropic controle la IA más avanzada con que Hitler hubiera obtenido la bomba atómica antes que los Aliados. Casi al mismo tiempo, Mustafa Suleyman, CEO de Microsoft…
-
Microsoft AI cuestiona el enfoque de Anthropic sobre el estatus moral de Claude
El CEO de Microsoft AI, Mustafa Suleyman, presentó el 'Humanist AI Code of Conduct' y en entrevista con The Verge criticó que Anthropic hable de sufrimiento, libertad o consentimiento de su modelo Claude. Suleyman…
-
CEO de IA de Microsoft critica a Anthropic por sugerir que Claude podría ser consciente
Mustafa Suleyman, CEO de Microsoft AI, publicó un ensayo criticando la 'Constitución de Claude' de Anthropic, que reconoce incertidumbre sobre si el modelo es un 'paciente moral' con intereses propios. Suleyman…
-
El jefe de IA de Microsoft advierte sobre riesgo de una 'especie de silicio' que compita con humanos
Mustafa Suleyman, responsable de IA de Microsoft, dijo en una entrevista con la BBC que sistemas de IA muy autónomos podrían convertirse en una 'especie no humana' capaz de fijar objetivos, generar ingresos y poseer…
-
Microsoft AI critica a Anthropic por sugerir que Claude podría
Mustafa Suleyman, jefe de Microsoft AI, criticó en una entrevista con The Verge la 'Constitución' de Anthropic para Claude, que hace referencias a evitar que el modelo 'sufra' y le da cierta libertad emocional. Suleyman…
-
Suleyman, jefe de IA de Microsoft, advierte del riesgo de humanizar a Claude
Mustafa Suleyman, jefe de IA de Microsoft, publicó un ensayo criticando principios de la 'constitución' de Claude de Anthropic que sugieren emociones o sentimientos funcionales en el modelo. Argumenta que diseñar…