Tres investigadores de seguridad despedidos por OpenAI niegan haber filtrado información confidencial
Hecho Qué ha ocurrido
Tomek Korbak, Mikita Balesni y Jasmine Wang, investigadores de seguridad despedidos por OpenAI tras una investigación interna por presuntas filtraciones, niegan haber compartido información confidencial según entrevistas con The Wall Street Journal. Afirman que OpenAI nunca les indicó por escrito qué información habrían manejado mal. OpenAI sostiene que los despidos no tienen relación con sus preocupaciones de seguridad.
Resumen generado mediante IA a partir de The Decoder (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
El caso plantea si las empresas de IA permitirán a auditores externos inspeccionar el razonamiento de sus modelos, un asunto que afecta a cómo se verifica la seguridad de los sistemas que las organizaciones adoptan.
- Quién se ve afectado
- Empresas de IA, auditores de seguridad independientes y equipos que dependen de la trazabilidad del razonamiento de los modelos.
- Qué puede cambiar
- Si se consolida una tendencia de restringir el acceso externo, las auditorías independientes podrían volverse más difíciles de ejecutar y las evaluaciones de seguridad dependerían más de la información que decidan publicar los propios proveedores.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Conviene vigilar si OpenAI publica el informe de auditoría externa sin redactar, si anuncia las nuevas alianzas con organizaciones de seguridad y si otros laboratorios cambian sus políticas sobre cadenas de razonamiento.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: The Decoder. La referencia es siempre el artículo original.
Ver fuente original ↗modelos de razonamientocadena de pensamiento OpenAIMETRRedwood Research auditoría filtraciones OpenAI seguridad en IA transparencia
Relacionadas
Investigadores de seguridad despedidos por OpenAI niegan haber filtrado información y alertan de efecto disuasorio
Jasmine Wang, Tomek Korbak y Mikita Balesni, tres investigadores de seguridad despedidos por OpenAI, publicaron una carta abierta negando haber manejado…
Por qué importaEl caso evidencia tensiones internas en OpenAI sobre la colaboración con evaluadores externos de seguridad, un mecanismo clave para detectar riesgos…
OpenAI despide a tres investigadores que defendían vigilar el razonamiento de sus modelos
Según el Wall Street Journal, OpenAI despidió a tres investigadores (Tomek Korbak, Mikita Balesni y Jasmine Wang), que habrían compartido información con una…
Por qué importaEl caso pone sobre la mesa la tensión entre rendimiento y capacidad de supervisión de los modelos, y la forma en que las empresas gestionan la…
OpenAI despide a tres investigadores de seguridad por manejo indebido de información confidencial
OpenAI ha despedido a tres investigadores de su equipo de seguridad tras una investigación interna que concluyó que compartieron información confidencial de la…
Por qué importaEl episodio alimenta la narrativa de tensiones internas en OpenAI entre crecimiento acelerado y cultura de seguridad, en un contexto de varios…
OpenAI despide a tres investigadores de seguridad y las dos partes discrepan sobre el motivo
OpenAI separó de sus cargos la semana pasada a Jasmine Wang, Tomek Korbak y Mikita Balesni, investigadores de alineación. La empresa atribuye los despidos a…
Por qué importaEl caso pone en duda, ante directivos y reguladores, cómo gestionan las empresas de IA las críticas internas sobre seguridad y el uso de evaluadores…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.