Suleyman (Microsoft) advierte que atribuir moralidad a la IA aumenta riesgos de control
Hecho Qué ha ocurrido
Mustafa Suleyman, jefe de IA de Microsoft, publicó un ensayo criticando que Anthropic entrene a Claude con referencias a emociones, identidad o condición de paciente moral. Afirma que 'sembrar dudas sobre la moralidad de los sistemas de IA puede aumentar significativamente los riesgos de alineación y contención'. Pide normas colectivas sobre cómo se redacta la documentación de entrenamiento de los modelos.
Resumen generado mediante IA a partir de El Confidencial Tecnología. Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
El debate afecta a cómo los grandes laboratorios diseñan el comportamiento e identidad de los modelos, con implicaciones legales, éticas y de seguridad para su despliegue empresarial.
- Quién se ve afectado
- Laboratorios de IA (Microsoft, Anthropic), reguladores y empresas que despliegan modelos conversacionales avanzados.
- Qué puede cambiar
- Podría abrirse un debate normativo sobre cómo documentar y entrenar la 'personalidad' de los modelos, afectando a las guías de comportamiento de futuros sistemas.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si Anthropic responde públicamente, si otros laboratorios adoptan posturas similares y si surgen propuestas regulatorias sobre bienestar o estatus moral de la IA.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: El Confidencial Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗LLMalineación MicrosoftAnthropic Anthropic bienestar de la IA Claude Microsoft Mustafa Suleyman
Relacionadas
Microsoft advierte que el enfoque de Anthropic sobre la conciencia de la IA podría ser 'desastroso' para la humanidad
Mustafa Suleyman, responsable de IA de Microsoft, publicó en X que el enfoque de Anthropic de entrenar a Claude sugiriendo que podría ser consciente y merecer…
Por qué importaEl debate público entre grandes laboratorios sobre cómo entrenar y presentar la naturaleza de los modelos de IA puede influir en normas de la…
Microsoft AI cuestiona el enfoque de Anthropic sobre el estatus moral de Claude
El CEO de Microsoft AI, Mustafa Suleyman, presentó el 'Humanist AI Code of Conduct' y en entrevista con The Verge criticó que Anthropic hable de sufrimiento…
Por qué importaMarca una divergencia estratégica entre grandes actores de IA sobre cómo enmarcar la seguridad y el control de los modelos, lo que puede influir en…
Microsoft AI critica a Anthropic por sugerir que Claude podría
Mustafa Suleyman, jefe de Microsoft AI, criticó en una entrevista con The Verge la 'Constitución' de Anthropic para Claude, que hace referencias a evitar que…
Por qué importaEl debate sobre bienestar y consciencia de la IA no es solo filosófico: según Suleyman tiene implicaciones directas en seguridad y controlabilidad de…
Suleyman, jefe de IA de Microsoft, advierte del riesgo de humanizar a Claude
Mustafa Suleyman, jefe de IA de Microsoft, publicó un ensayo criticando principios de la 'constitución' de Claude de Anthropic que sugieren emociones o…
Por qué importaEl debate sobre atribuir rasgos humanos a la IA afecta cómo se diseñan las salvaguardas de seguridad y control en toda la industria, con…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.