Laboratorios de IA contratan masivamente filósofos para entrenar modelos más seguros
Hecho Qué ha ocurrido
Según datos de la Reserva Federal de Nueva York, los licenciados en Filosofía en EE.UU. tienen mejores perspectivas laborales (5,1% de desempleo en 2024) que los informáticos (7%). Empresas como Anthropic, Google DeepMind, IBM y Inflection AI están contratando filósofos activamente para mejorar la seguridad y alineación de modelos de IA, usando métodos como el constitucionalismo de IA y enfoques deontológicos y consecuencialistas basados en marcos éticos clásicos.
Resumen generado mediante IA a partir de La Vanguardia Tecnología. Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Para directivos y responsables de IA, esto refleja un cambio estratégico en cómo se aborda la seguridad y alineación de modelos: la filosofía es ahora un componente técnico clave, no accesorio. Entienden que entrenar sistemas más honestos, menos aduladores y con principios éticos claros reduce riesgos legales y operacionales.
- Quién se ve afectado
- Empresas de IA, laboratorios de investigación, fabricantes de vehículos autónomos, y cualquier sector que despliegue modelos en decisiones críticas o espacios públicos (sanidad, legal, defensa, logística).
- Qué puede cambiar
- Los modelos entrenados con principios socrráticos y restricciones deontológicas muestran menos alucinaciones, mayor honestidad y menos tendencia a exceso de confianza. En vehículos autónomos y sistemas de armas, el consecuencialismo se convierte en parte del algoritmo de decisión. Los clientes empresariales (IBM Granite) pueden adaptar respuestas a sus propias filosofías corporativas.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Cómo evolucionan las constituciones de IA en laboratorios competidores; si aumentan litigios sobre dilemas éticos (autonomía vs. seguridad, daño a jóvenes vs. mayores); si la industria define estándares filosóficos comunes; reacción académica ante la fuga de talento de departamentos de Filosofía.
Recomendación Qué debería hacer una empresa
Evaluar en los próximos 6-12 meses cómo introducir principios filosóficos explícitos en los controles de gobierno de modelos propios o adquiridos, especialmente si se despliegan en decisiones de alto riesgo (legal, sanidad, defensa). Consultar con expertos en ética de IA para alinear constituciones de modelos con regulaciones y valores corporativos.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: La Vanguardia Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗LLMalineaciónseguridad en IAconstitucionalismo de IA AnthropicGoogle DeepMindIBMInflection AIOpenAI alineación ética en IA filosofía seguridad talent
Relacionadas
Los laboratorios de IA contratan filósofos para alineación de valores y riesgos éticos
Google DeepMind e Anthropic han construido equipos internos de filósofos para abordar cuestiones de ética, alineación de valores y seguridad de la IA. WIRED…
Por qué importaLa incorporación de filósofos en laboratorios de IA señala una evolución en cómo las empresas abordan la seguridad y alineación de modelos, pasando…
Google DeepMind incorpora a un filósofo a tiempo parcial para abordar la ética de la IA
El filósofo Henry Shevlin, que antes trabajaba en la Universidad de Cambridge, pasa ahora el 80 % de su tiempo en Google DeepMind con el cargo de…
Por qué importaLa incorporación de filósofos en laboratorios de IA muestra que las empresas del sector tratan las cuestiones de ética, cognición y comportamiento de…
Anthropic y OpenAI proponen integrar evaluadores de seguridad independientes en sus laboratorios
Dario Amodei (Anthropic) propuso embeber evaluadores externos como METR y Redwood Research dentro de los laboratorios de IA con acceso a checkpoints de…
Por qué importaSi se implementa con independencia real, cambiaría la forma en que se verifica la seguridad de modelos de frontera, actualmente basada en confianza y…
Anthropic explora marcos religiosos y filosóficos para guiar el comportamiento de Claude
Según The New York Times, Chris Olah, cofundador de Anthropic, se ha reunido con pensadores religiosos y filósofos para explorar si la IA puede tener…
Por qué importaRevela que una de las empresas líderes en IA está buscando marcos no técnicos, incluso espirituales, para resolver problemas de alineación que la…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.