Acceso de evaluadores externos a los modelos de Anthropic y OpenAI
Resumen En qué punto está
Anthropic ha concedido a METR, organización evaluadora sin ánimo de lucro, acceso interno a nivel de empleado a sus modelos y procesos de seguridad, permitiéndole publicar evaluaciones sin veto previo salvo en categorías predefinidas de información sensible. Casi simultáneamente, Reuters reveló que OpenAI y Anthropic negocian condiciones para supervisar a los evaluadores externos, incluyendo restricciones sobre si pueden revisar modelos de ambas empresas a la vez y mecanismos de comentario o aprobación de informes. Anthropic sostiene que los evaluadores ya colaboradores mantienen control sobre sus conclusiones, mientras OpenAI niega buscar aprobación total del contenido. El asunto deja en evidencia una tensión entre la transparencia declarada y el control que las empresas desarrolladoras ejercen sobre la evaluación independiente de riesgos.
Resumen generado mediante IA a partir de las 2 noticias de la historia. Última actualización: hace 2 h.
Enviar esta historia por correo
Línea temporal
-
OpenAI y Anthropic negocian condiciones para controlar lo que publican los evaluadores externos de IA
Según una investigación de Reuters, OpenAI y Anthropic mantienen conversaciones sobre las condiciones que deben cumplir los evaluadores independientes de sus modelos. Entre las medidas consideradas figuran la…
-
Anthropic da a METR acceso interno a nivel de empleado y les permite publicar sus evaluaciones sobre riesgos
Anthropic concede a seis investigadores de METR, organización sin ánimo de lucro que evalúa modelos de frontera, acceso a nivel de empleado para analizar sus modelos, prácticas de seguridad y gestión de riesgos. METR…