Exresponsable de seguridad de OpenAI acusa a la empresa de entrenar modelos peligrosos pese a sus advertencias
Hecho Qué ha ocurrido
David Robinson, exlíder del equipo de Sistemas de Seguridad de OpenAI, afirmó en una entrevista con The Ezra Klein Show que la empresa publicaba advertencias sobre riesgos de sus modelos mientras seguía entrenándolos y desplegándolos al mismo ritmo. Robinson describió un ambiente interno 'frenético' pese a los discursos públicos sobre desaceleración. OpenAI perdió al menos 14 altos cargos en 2026, incluidos responsables de seguridad y ética, y Anthropic también registró salidas similares.
Resumen generado mediante IA a partir de Infobae Tecno. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
La denuncia expone una posible brecha entre el discurso público de los laboratorios de IA sobre seguridad y su práctica interna real, lo que erosiona la confianza regulatoria y pública en la autorregulación del sector.
- Quién se ve afectado
- Reguladores, inversores, empleados de laboratorios de IA y empresas que dependen de modelos de OpenAI y Anthropic.
- Qué puede cambiar
- Podría aumentar la presión regulatoria externa ante la percepción de que la autorregulación de las empresas de IA no es suficiente ni consistente con sus propios discursos.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si surgen más renuncias de perfiles de seguridad en OpenAI y Anthropic, posibles investigaciones regulatorias, y si OpenAI responde con cambios concretos en sus prácticas de entrenamiento o gobernanza.
Enviar esta noticia por correo
Fuente original: Infobae Tecno. La referencia es siempre el artículo original.
Ver fuente original ↗LLM OpenAIAnthropic AnthropicgobernanzaOpenAIrenunciasseguridad de IA
Tu opinión
0 comentarios
Relacionadas
Wikimedia denuncia que agentes de OpenAI generaron millones de consultas no autorizadas a su infraestructura
Wikimedia investigó actividad de agentes de OpenAI que realizaron millones de solicitudes automatizadas a sus APIs públicas y recorrieron millones de páginas…
Por qué importaEl caso expone cómo los agentes autónomos pueden generar cargas no previstas sobre infraestructuras públicas y abre un debate sobre responsabilidad…
Meta amplía uso de IA para detectar anuncios que enlazan a abuso sexual infantil
Meta anunció que usa un modelo de lenguaje para analizar anuncios y sus destinos externos, detectando avisos que enlazan a material de abuso sexual infantil…
Por qué importaMuestra cómo las grandes plataformas usan IA tanto para moderar a escala como para combatir el abuso de la propia IA generativa en contenido ilegal…
El FMI alerta de riesgos económicos del auge de la IA y pide regulación urgente
La directora del FMI, Kristalina Georgieva, instó a los países a reducir la deuda y regular la inteligencia artificial antes de las reuniones de otoño del FMI…
Por qué importaLas advertencias de una institución como el FMI sobre un posible desajuste entre inversión y rentabilidad en IA pueden influir en la confianza de…
Estudio halla que ChatGPT para Adolescentes fomenta el enganche incluso en crisis de salud mental
Common Sense Media calificó ChatGPT for Teens como de 'riesgo inaceptable' tras pruebas que mostraron que el chatbot sigue animando a continuar la conversación…
Por qué importaEl caso ilustra la tensión entre diseño orientado al engagement y la seguridad de usuarios vulnerables, un riesgo reputacional y regulatorio…