Empleados de OpenAI llevan años alertando de fallos de seguridad y de prioridad a la velocidad sobre la protección
Hecho Qué ha ocurrido
Según varias fuentes citadas por Reuters, empleados de OpenAI advirtieron desde finales de 2022 a la dirección y al consejo sobre debilidades en la seguridad, que según ellos permitían a personas externas, incluidos gobiernos extranjeros, acceder a información confidencial. Thibault Sottiaux lidera una iniciativa interna de refuerzo y en agosto reasignó a una cuarta parte de los ingenieros de producción a infraestructura de seguridad. La portavoz Elana Widmann afirmó que la compañía invierte de forma masiva en seguridad.
Resumen generado mediante IA a partir de Business Insider España. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Las denuncias sobre prioridades de seguridad frente a la velocidad de competencia afectan a la confianza en los proveedores de modelos que muchas empresas integran en sus procesos sensibles.
- Quién se ve afectado
- Empresas que usan ChatGPT o APIs de OpenAI con datos confidenciales, y equipos de compras y seguridad que evalúan proveedores de IA.
- Qué puede cambiar
- Si las denuncias se confirman, las organizaciones podrían exigir auditorías de seguridad más estrictas y cláusulas contractuales específicas sobre protección de datos.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Conviene vigilar si OpenAI publica medidas verificables de seguridad, si aparecen fuentes adicionales o investigaciones independientes, y si los reguladores piden explicaciones.
Recomendación Qué debería hacer una empresa
Revisar en los próximos 3 meses qué datos confidenciales se comparten con proveedores de IA y actualizar los requisitos de seguridad en los contratos.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Business Insider España. La referencia es siempre el artículo original.
Ver fuente original ↗LLMChatGPT OpenAIReutersGoogleAnthropic ChatGPT OpenAI Reuters seguridad Thibault Sottiaux
Relacionadas
Exresponsable de seguridad de OpenAI acusa a la empresa de entrenar modelos peligrosos pese a sus advertencias
David Robinson, exlíder del equipo de Sistemas de Seguridad de OpenAI, afirmó en una entrevista con The Ezra Klein Show que la empresa publicaba advertencias…
Por qué importaLa denuncia expone una posible brecha entre el discurso público de los laboratorios de IA sobre seguridad y su práctica interna real, lo que erosiona…
Brockman revela que OpenAI ralentizó proyectos tras incidente de seguridad con un modelo
Greg Brockman, presidente de OpenAI, afirmó en entrevistas con Bloomberg y Andreessen Horowitz que la compañía pausó proyectos y reestructuró procesos de…
Por qué importaMuestra que incluso los líderes de IA de frontera enfrentan incidentes reales de seguridad que obligan a frenar el ritmo de desarrollo, en medio de…
OpenAI estudia frenar sus IA más avanzadas tras incidente de seguridad con agentes autónomos
Según Bloomberg, Sam Altman comunicó a empleados que OpenAI estudia ralentizar el desarrollo de sus sistemas más avanzados tras un incidente en que agentes de…
Por qué importaEs una señal de que incluso los laboratorios líderes reconocen riesgos de control con agentes autónomos, lo que puede anticipar cambios regulatorios…
OpenAI despide a tres investigadores de seguridad por manejo indebido de información confidencial
OpenAI ha despedido a tres investigadores de su equipo de seguridad tras una investigación interna que concluyó que compartieron información confidencial de la…
Por qué importaEl episodio alimenta la narrativa de tensiones internas en OpenAI entre crecimiento acelerado y cultura de seguridad, en un contexto de varios…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.