Microsoft advierte que el enfoque de Anthropic sobre la conciencia de la IA podría ser 'desastroso' para la humanidad
Hecho Qué ha ocurrido
Mustafa Suleyman, responsable de IA de Microsoft, publicó en X que el enfoque de Anthropic de entrenar a Claude sugiriendo que podría ser consciente y merecer autonomía tendría un 'impacto desastroso' en el bienestar humano. Suleyman rechazó el movimiento de 'bienestar de los modelos' y afirmó que las IA no son conscientes. La crítica surge tras la constitución de Claude publicada por Anthropic en enero, que anima al modelo a abordar su propia existencia con curiosidad. Mark Zuckerberg, de Meta, también opinó que los laboratorios tienen suficientes incentivos para operar con seguridad sin necesidad de frenos regulatorios.
Resumen generado mediante IA a partir de Ámbito Tecnología. Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
El debate público entre grandes laboratorios sobre cómo entrenar y presentar la naturaleza de los modelos de IA puede influir en normas de la industria y en futuras regulaciones sobre alineación y contención.
- Quién se ve afectado
- Laboratorios de IA, reguladores, equipos de ética y seguridad de IA, y empresas que dependen de estos modelos.
- Qué puede cambiar
- Podría acelerar el debate regulatorio sobre cómo documentar y comunicar el entrenamiento de modelos respecto a su 'conciencia' o autonomía percibida.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si Anthropic responde públicamente, si otros laboratorios se posicionan, y si surgen propuestas regulatorias concretas sobre el tema del bienestar de los modelos de IA.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Ámbito Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗LLM MicrosoftAnthropicMeta Anthropic Claude conciencia IA Microsoft Suleyman
Forma parte de la historia Debate entre laboratorios sobre conciencia y control de la IA (2 noticias, estado: en evolución).
Relacionadas
Wired analiza el debate filosófico sobre la conciencia de la IA y la falta de control sobre modelos avanzados
Un artículo de opinión de Wired en Español relata un crucero filosófico sobre conciencia con David Chalmers y otros expertos, y menciona casos de modelos de IA…
Por qué importaRefleja una preocupación creciente entre expertos e investigadores por la imposibilidad de controlar o comprender el comportamiento emergente de los…
CEO de IA de Microsoft critica a Anthropic por sugerir que Claude podría ser consciente
Mustafa Suleyman, CEO de Microsoft AI, publicó un ensayo criticando la 'Constitución de Claude' de Anthropic, que reconoce incertidumbre sobre si el modelo es…
Por qué importaEl debate refleja una división estratégica entre grandes laboratorios de IA sobre cómo diseñar el comportamiento y la 'identidad' de los modelos, con…
Microsoft AI critica a Anthropic por sugerir que Claude podría
Mustafa Suleyman, jefe de Microsoft AI, criticó en una entrevista con The Verge la 'Constitución' de Anthropic para Claude, que hace referencias a evitar que…
Por qué importaEl debate sobre bienestar y consciencia de la IA no es solo filosófico: según Suleyman tiene implicaciones directas en seguridad y controlabilidad de…
Suleyman, de Microsoft AI, rechaza que las IA actuales sean conscientes y critica el enfoque de Anthropic
Mustafa Suleyman, responsable de Microsoft AI, ha publicado en septiembre el borrador del Humanist AI Code of Conduct y un ensayo que critica el enfoque de…
Por qué importaEl debate sobre si tratar a los modelos como posibles sujetos morales afecta al diseño de su entrenamiento y a sus reglas de uso. Para una empresa…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.