Un rabino que asesora a Anthropic rechaza atribuir consciencia a la IA y advierte de sus riesgos
Hecho Qué ha ocurrido
El rabino Mois Navon participó en un encuentro organizado por Anthropic, el 'Wisdom Traditions Convening', donde se debatió cómo debería comportarse Claude. Según el texto, Christopher Olah, cofundador de Anthropic, dijo en mayo que sus investigadores encuentran en los modelos estados que podrían reflejar alegría, miedo o dolor. Navon sostiene que la consciencia depende de procesos biológicos y que crear una IA consciente sería ético problemático.
Resumen generado mediante IA a partir de ABC Tecnología. Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
El debate sobre si los modelos pueden tener estados internos afecta a cómo las empresas diseñan, presentan y limitan sus asistentes. También plantea riesgos de confianza y de uso de chatbots para asesoramiento personal o espiritual.
- Quién se ve afectado
- Empresas que desarrollan o despliegan chatbots de cara al público, responsables de producto y de cumplimiento, y equipos de atención a clientes.
- Qué puede cambiar
- Si el debate sobre el estatus moral de la IA gana peso, podrían surgir criterios de diseño sobre cómo presentar los asistentes y qué usos sensibles limitar. Por ahora son posiciones de expertos y de empresas, sin cambios normativos descritos en el texto.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si las empresas del sector adoptan lenguaje o políticas sobre el estatus de sus modelos, y si aparecen propuestas regulatorias sobre usos personales o emocionales de la IA. Conviene seguir también las posiciones públicas de OpenAI y Google DeepMind.
Enviar esta noticia por correo
Fuente original: ABC Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗LLMchatbots AnthropicOpenAIGoogle DeepMind AnthropicClaudeconsciencia artificialética de la IAMois Navon
Tu opinión
0 comentarios
Relacionadas
Editoriales y autores impulsan sellos que certifican que un libro fue escrito por una persona
Editoriales independientes y la asociación Authors Guild, en Estados Unidos, impulsan sellos que identifican obras creadas por personas. El sello de Authors…
Por qué importaLas certificaciones de autoría podrían convertirse en un estándar de transparencia para el sector editorial, aunque los criterios sobre qué usos de…
Amazon dejará de usar acuerdos de confidencialidad al negociar centros de datos con gobiernos locales
Amazon ha anunciado que dejará de usar acuerdos de no divulgación (NDA) en las negociaciones con gobiernos locales sobre centros de datos, siguiendo a…
Por qué importaLas negociaciones secretas han sido una fuente de desconfianza local, y la transparencia puede acelerar o frenar la aprobación de nuevas…
Un investigador mexicano pierde su empleo en una empresa de EE. UU. tras adoptar la IA en su trabajo
Kevin Contreras, investigador mexicano con 17 años en una empresa estadounidense de tecnología educativa, fue despedido en 2025 junto a unos 20 empleados en un…
Por qué importaEl caso ilustra el riesgo de que la adopción de IA se perciba como un paso previo a reducciones de plantilla, lo que afecta a la confianza de los…
Frances Haugen pide observadores independientes dentro de los laboratorios de IA para verificar lo que cuentan
Frances Haugen, exdata scientist de Facebook que filtró 'Los archivos de Facebook', habla en una entrevista con Business Insider España sobre la película 'El…
Por qué importaLa entrevista sitúa en el centro del debate la distancia entre lo que las empresas de IA saben de sus productos y lo que pueden comprobar terceros…