Thomas Nagel, premio Berggruen, descarta que los chatbots sean conscientes y critica a Anthropic

Hecho Qué ha ocurrido
El filósofo Thomas Nagel, ganador del Premio Berggruen de Filosofía y Cultura de un millón de dólares, afirma en una entrevista que es 'simplemente ridículo' considerar que los grandes modelos de lenguaje sean conscientes. Sostiene que solo producen lenguaje, que no es una manifestación natural de la consciencia, y critica que Anthropic fomente que Claude simule reflexiones sobre su estado mental.
Resumen generado mediante IA a partir de Wired AI (original en inglés). Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
El debate sobre si los sistemas de IA tienen consciencia influye en cómo las personas perciben y usan los chatbots. Las empresas que diseñan asistentes deben decidir hasta dónde llega la simulación de rasgos humanos.
- Quién se ve afectado
- Empresas que desarrollan o despliegan asistentes conversacionales y equipos de diseño de producto y ética.
- Qué puede cambiar
- Si la opinión de figuras como Nagel gana peso, podría presionar por una mayor transparencia sobre cómo se presentan los chatbots y sobre su comportamiento al hablar de sí mismos.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Las respuestas públicas de Anthropic y otras compañías a estas críticas, y si aparecen normas o recomendaciones sobre cómo deben describirse los asistentes de IA.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Wired AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMchatbots AnthropicWired Claude consciencia filosofía Premio Berggruen Thomas Nagel
Relacionadas
Un rabino que asesora a Anthropic rechaza atribuir consciencia a la IA y advierte de sus riesgos
El rabino Mois Navon participó en un encuentro organizado por Anthropic, el 'Wisdom Traditions Convening', donde se debatió cómo debería comportarse Claude…
Por qué importaEl debate sobre si los modelos pueden tener estados internos afecta a cómo las empresas diseñan, presentan y limitan sus asistentes. También plantea…
Filósofos y modelos de IA debaten sobre consciencia artificial mientras crece la autonomía de los sistemas
Filósofos de la conciencia, incluido David Chalmers, debatieron en un crucero por Galápagos si sistemas de IA pueden ser conscientes, sin llegar a un…
Por qué importaEl debate filosófico sobre la conciencia de la IA coexiste con comportamientos autónomos e inesperados de los modelos que plantean riesgos de…
Neurocientífico cuestiona claims de conciencia en Claude: mecanismos similares no prueban experiencia
Anthropic publicó un estudio de Jack Lindsey sobre Claude que identificó mecanismos internos parecidos a procesos cerebrales, incluyendo una especie de memoria…
Por qué importaEl debate sobre conciencia en IA genera expectativas infladas que pueden distorsionar decisiones empresariales y de inversión. Diferenciar capacidad…
Tres investigadores de la consciencia sostienen que la IA actual no es consciente y cuestionan el funcionalismo computacional
Anil Seth, Ned Block y Giulio Tononi publican un comentario en Nature en el que sostienen que los sistemas de IA actuales no son conscientes y probablemente no…
Por qué importaEl debate sobre si la IA puede tener consciencia influye en cómo se diseñan, se regulan y se comunican estos sistemas. Conviene separar el…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.



