OpenAI y Anthropic negocian condiciones para controlar lo que publican los evaluadores externos de IA
Hecho Qué ha ocurrido
Según una investigación de Reuters, OpenAI y Anthropic mantienen conversaciones sobre las condiciones que deben cumplir los evaluadores independientes de sus modelos. Entre las medidas consideradas figuran la supervisión de los equipos evaluadores y limitar que revisen modelos de dos empresas a la vez. Anthropic afirma que los evaluadores ya colaboradores conservan el control de sus métodos y conclusiones, pero se reserva el derecho a comentar y aprobar los informes de las nuevas organizaciones. OpenAI niega que busque aprobar todo el contenido y dice que su práctica habitual es eliminar información confidencial.
Resumen generado mediante IA a partir de Infobae Tecno. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Si las empresas que desarrollan los modelos pueden influir en lo que se publica de sus auditorías, la fiabilidad de la evaluación externa de riesgos queda en duda. Para cualquier organización que confíe en esas evaluaciones, conviene entender quién controla la información.
- Quién se ve afectado
- Laboratorios de IA, evaluadores externos y empresas que usan modelos de terceros basándose en sus informes de seguridad.
- Qué puede cambiar
- Podrían fijarse reglas comunes sobre qué información puede ocultarse de un informe de evaluación y qué resultados deben publicarse. Sin ellas, la independencia de las auditorías dependerá de los acuerdos de cada empresa.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si se publican estándares o condiciones formales para evaluadores externos, qué informes de seguridad se difunden tras los próximos lanzamientos y si reguladores o gobiernos intervienen en el debate.
Enviar esta noticia por correo
Fuente original: Infobae Tecno. La referencia es siempre el artículo original.
Ver fuente original ↗LLM OpenAIAnthropic auditorías de IAReutersseguridadtransparencia
Forma parte de la historia Acceso de evaluadores externos a los modelos de Anthropic y OpenAI (2 noticias, estado: en evolución).
Tu opinión
0 comentarios
Relacionadas
Anthropic da a METR acceso interno a nivel de empleado y les permite publicar sus evaluaciones sobre riesgos
Anthropic concede a seis investigadores de METR, organización sin ánimo de lucro que evalúa modelos de frontera, acceso a nivel de empleado para analizar sus…
Por qué importaEs un ejemplo concreto de cómo podría articularse la evaluación externa de sistemas de IA dentro de la propia empresa desarrolladora. Para directivos…
Un estudio financiado por CCIA Europe estima en 115.000 millones el coste de la soberanía en la nube de la UE
La Comisión Europea propone en junio de 2026 la ley Cloud and AI Development Act (CADA), que establece cuatro niveles de garantías de soberanía para los…
Por qué importaSi la propuesta avanza, las empresas de sectores esenciales y las administraciones tendrán que revisar dónde alojan sus datos y aplicaciones y qué…
Una demanda colectiva acusa a OpenAI de usar datos de menores sin consentimiento parental en ChatGPT
El 13 de octubre de 2026 se registró en el Tribunal de Distrito del Norte de California una demanda colectiva, presentada por una madre de Hawái, que acusa a…
Por qué importaSi prospera la tesis de que los términos de uso no son válidos para menores, las empresas que ofrecen chatbots a usuarios jóvenes podrían tener que…
Meta Muse, asistente de IA personal, pide acceso a datos de amigos y contactos, según una columna de The Verge
Según The Verge, el asistente de IA personal Muse de Meta, lanzado el mes pasado, pide a los usuarios ceder también datos de amigos, familiares y otros…
Por qué importaLos asistentes que acceden a contactos y datos de terceros plantean riesgos de privacidad y de cumplimiento que las empresas deben evaluar antes de…