OpenAI y Anthropic quieren controlar qué fallos publican los evaluadores externos de IA
Hecho Qué ha ocurrido
Según una investigación de Reuters, OpenAI y Anthropic quieren ejercer un «control significativo» sobre lo que publican los evaluadores externos, por temor a que los hallazgos revelen secretos comerciales. Anthropic indica que, con evaluadores que ya han colaborado, estos mantienen el control de métodos, conclusiones y publicación, pero se reserva comentar y aprobar los informes de las nuevas evaluadoras. OpenAI niega que busque aprobar el contenido íntegro de los informes.
Resumen generado mediante IA a partir de 20minutos Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
La independencia de las evaluaciones de seguridad determina qué riesgos de los modelos llegan a conocerse. Las empresas que usan estos modelos dependen de esa información para decidir cómo desplegarlos.
- Quién se ve afectado
- Empresas que contratan o usan modelos de OpenAI y Anthropic, consultoras de evaluación de IA y responsables de cumplimiento.
- Qué puede cambiar
- Si se extiende el control de publicación, los informes externos podrían omitir riesgos relevantes con el argumento de la confidencialidad. Las condiciones de acceso a los modelos podrían pasar a influir en lo que se comunica.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Qué normas de publicación se fijan en los acuerdos con evaluadores, si aparecen estándares públicos o regulatorios sobre evaluación independiente y si surgen disputas o informes censurados.
Recomendación Qué debería hacer una empresa
Si se contrata evaluación externa de modelos, revisar en los próximos 6 meses quién aprueba la publicación de los informes y en qué condiciones.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: 20minutos Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗LLMevaluación de seguridad de modelos OpenAIAnthropic Anthropicauditoríaevaluadores externosOpenAIseguridad de IA
Tu opinión
0 comentarios
Relacionadas
Graylark amplía Raven para localizar una casa a partir de una foto de su interior, sin datos GPS
Graylark Technologies ha añadido a Raven, su herramienta anteriormente llamada GeoSpy, una función que permite obtener la dirección de una casa a partir de una…
Por qué importaLa geolocalización a partir de imágenes de interiores amplía el riesgo de identificar viviendas sin depender de metadatos, algo que muchas personas y…
Detienen en San Francisco a un hombre acusado de ocultar un micrófono espía en una sala de OpenAI
El Departamento de Justicia de EE.UU. anunció la detención de Abdulrahman Alfozan, de 35 años y nacionalidad saudí, acusado de ocultar un dispositivo de…
Por qué importaMuestra que los proyectos de IA de las grandes empresas son objetivo de espionaje físico, no solo digital, y que el hardware de bajo coste facilita…
Ocho fiscales estatales de EE.UU. demandan a OpenAI por ChatGPT y los riesgos para menores de edad
Ocho fiscales generales de Estados Unidos (Arkansas, Arizona, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental) presentaron demandas separadas en…
Por qué importaEs la acción coordinada más amplia de gobiernos estatales contra una empresa de IA hasta ahora, y se apoya en leyes de protección al consumidor que…
El CCN añade a INÉS una herramienta para evaluar la preparación frente a la IA ofensiva
Según el artículo, el Centro Criptológico Nacional publicó en junio de 2026 una guía sobre IA ofensiva que identifica riesgos como el reconocimiento…
Por qué importaPara las organizaciones sujetas al Esquema Nacional de Seguridad, la evaluación de preparación frente a IA ofensiva pasa a formar parte de la gestión…