Suleyman (Microsoft) cuestiona el enfoque de Anthropic sobre bienestar de Claude
Resumen En qué punto está
Mustafa Suleyman, jefe de IA de Microsoft, ha intensificado sus críticas públicas a la 'Constitución de Claude' de Anthropic, que reconoce incertidumbre sobre si el modelo tiene emociones o estatus moral. En entrevistas con The Verge y la BBC, y en un ensayo, advierte que atribuir conciencia o derechos a la IA dificulta su control y desconexión, y plantea el riesgo hipotético de una 'especie de silicio' autónoma. Ha presentado un 'Humanist AI Code of Conduct' que defiende la contención humana y rechaza autonomía jurídica o económica para sistemas de IA. Un ingeniero de DeepSeek se sumó al debate con una comparación polémica sobre los riesgos de que Anthropic controle la IA más avanzada, evidenciando una fractura pública entre laboratorios sobre cómo diseñar la alineación de estos sistemas.
Resumen generado mediante IA a partir de las 6 noticias de la historia. Última actualización: 19 sep.
Qué ha cambiado
Suleyman había criticado la 'Constitución de Claude' de Anthropic y presentado su propio código humanista, alertando sobre riesgos de control si se atribuyen derechos o emociones a la IA.
Suleyman amplió sus críticas con el riesgo hipotético de una 'especie de silicio' autónoma en entrevista con la BBC, y un ingeniero de DeepSeek se sumó al debate comparando el control de Anthropic sobre la IA avanzada con un escenario tipo Hitler-bomba atómica.
El debate ya no es bilateral entre Microsoft y Anthropic, sino que se extiende a otros actores de la industria (DeepSeek), evidenciando una fractura más amplia sobre gobernanza y control de la IA que podría influir en estándares futuros de la industria.
Enviar esta historia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Línea temporal
-
El debate sobre seguridad y conciencia de la IA vuelve a enfrentar a Anthropic con Microsoft y DeepSeek
Un ingeniero de DeepSeek comparó los riesgos de que Anthropic controle la IA más avanzada con que Hitler hubiera obtenido la bomba atómica antes que los Aliados. Casi al mismo tiempo, Mustafa Suleyman, CEO de Microsoft…
-
Microsoft AI cuestiona el enfoque de Anthropic sobre el estatus moral de Claude
El CEO de Microsoft AI, Mustafa Suleyman, presentó el 'Humanist AI Code of Conduct' y en entrevista con The Verge criticó que Anthropic hable de sufrimiento, libertad o consentimiento de su modelo Claude. Suleyman…
-
CEO de IA de Microsoft critica a Anthropic por sugerir que Claude podría ser consciente
Mustafa Suleyman, CEO de Microsoft AI, publicó un ensayo criticando la 'Constitución de Claude' de Anthropic, que reconoce incertidumbre sobre si el modelo es un 'paciente moral' con intereses propios. Suleyman…
-
El jefe de IA de Microsoft advierte sobre riesgo de una 'especie de silicio' que compita con humanos
Mustafa Suleyman, responsable de IA de Microsoft, dijo en una entrevista con la BBC que sistemas de IA muy autónomos podrían convertirse en una 'especie no humana' capaz de fijar objetivos, generar ingresos y poseer…
-
Microsoft AI critica a Anthropic por sugerir que Claude podría
Mustafa Suleyman, jefe de Microsoft AI, criticó en una entrevista con The Verge la 'Constitución' de Anthropic para Claude, que hace referencias a evitar que el modelo 'sufra' y le da cierta libertad emocional. Suleyman…
-
Suleyman, jefe de IA de Microsoft, advierte del riesgo de humanizar a Claude
Mustafa Suleyman, jefe de IA de Microsoft, publicó un ensayo criticando principios de la 'constitución' de Claude de Anthropic que sugieren emociones o sentimientos funcionales en el modelo. Argumenta que diseñar…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.