Anthropic, Google, Meta y Microsoft consultan a sacerdotes y teólogos para definir la ética de sus chatbots
Hecho Qué ha ocurrido
Según un despacho de AP, empresas como Anthropic, Google, Meta y Microsoft recurrieron a sacerdotes, teólogos y filósofos de distintas religiones para definir qué comportamiento moral debe tener sus chatbots. Anthropic confirmó en un comunicado de mayo reuniones con académicos y clérigos de más de 15 grupos religiosos y culturales. Académicos como Webb Keane plantean objeciones sobre tratar la religión como un conjunto de principios extraíbles.
Resumen generado mediante IA a partir de Infobae Tecno. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Muestra que la alineación ética de los modelos se está definiendo con criterios culturales y religiosos, lo que puede afectar al comportamiento de los asistentes que las empresas despliegan. Las empresas que usen estos modelos deberían entender qué criterios morales incorporan.
- Quién se ve afectado
- Empresas que integran chatbots de grandes proveedores en atención al cliente y procesos internos.
- Qué puede cambiar
- Podría cambiar cómo se diseñan y auditan los valores de los asistentes de IA, con más participación de expertos externos en la definición de su comportamiento.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si las empresas publican criterios concretos sobre cómo ponderan las distintas tradiciones morales y si surgen estándares o críticas académicas formales.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Infobae Tecno. La referencia es siempre el artículo original.
Ver fuente original ↗LLMchatbots AnthropicGoogleMetaMicrosoftOpenAI alineación Anthropic Claude ética Vaticano
Relacionadas
Instituciones religiosas compiten por influir en el desarrollo de la IA ante su sesgo laico
Startups como Longbeard (Magisterium AI) y Ansari desarrollan chatbots religiosos mientras estudios de CEFE AI muestran que modelos como los de OpenAI dan…
Por qué importaEl sesgo secular por defecto en los grandes modelos de lenguaje puede desplazar el rol del clero y estructuras religiosas tradicionales en el…
Anthropic consulta a filósofos y expertos religiosos para definir principios morales de Claude
Según una investigación de The New York Times, Chris Olah, cofundador de Anthropic, mantiene reuniones con filósofos y pensadores religiosos para explorar cómo…
Por qué importaRevela que una de las principales empresas de IA considera insuficientes las reglas actuales de alineación y busca marcos morales más profundos para…
Sam Altman advierte contra tratar a la IA como una fuerza religiosa
Sam Altman publicó en X que le incomoda que se atribuya 'fuerza religiosa' a los modelos de IA, calificándolo de problema de seguridad. El comentario llega…
Por qué importaEl debate sobre antropomorfización y supuesta consciencia de los modelos influye en cómo usuarios y reguladores perciben los riesgos reales de la IA…
Anthropic consulta a filósofos y teólogos para definir la moralidad de Claude en un documento de 84 páginas
Según The New York Times, Anthropic ha consultado durante un año a filósofos, teólogos, psicólogos y juristas para definir el carácter moral de su IA Claude…
Por qué importaLa forma en que una empresa líder en IA define los valores y límites éticos de su modelo influye directamente en cómo se comporta frente a…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.