Anthropic da a METR acceso interno a nivel de empleado y les permite publicar sus evaluaciones sobre riesgos
Hecho Qué ha ocurrido
Anthropic concede a seis investigadores de METR, organización sin ánimo de lucro que evalúa modelos de frontera, acceso a nivel de empleado para analizar sus modelos, prácticas de seguridad y gestión de riesgos. METR podrá publicar sus propias evaluaciones y Anthropic renuncia a vetarlas, aunque puede exigir tachar información en categorías predefinidas como datos de clientes o arquitecturas de modelos. La empresa compara el esquema con los inspectores residentes que los reguladores sitúan en los grandes bancos.
Resumen generado mediante IA a partir de TechCrunch AI (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Es un ejemplo concreto de cómo podría articularse la evaluación externa de sistemas de IA dentro de la propia empresa desarrolladora. Para directivos que usan modelos de terceros, marca un estándar de transparencia que puede pasar a ser referencia en contratos y due diligence.
- Quién se ve afectado
- Desarrolladores de modelos de frontera, equipos de cumplimiento y gobierno de IA, y proveedores que evalúan o auditan sistemas de IA.
- Qué puede cambiar
- Si el modelo se extiende, las evaluaciones independientes dejarán de depender solo de pruebas desde fuera y tendrán acceso a procesos internos. Esto podría elevar las exigencias de transparencia que los clientes pidan a sus proveedores de IA.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si otros laboratorios como OpenAI replican acceso similar, qué evaluaciones publica METR y cuántas redacciones aplica Anthropic, y si el acuerdo se convierte en requisito en la normativa o en los compromisos con el Gobierno de EE. UU.
Enviar esta noticia por correo
Fuente original: TechCrunch AI. La referencia es siempre el artículo original.
Ver fuente original ↗modelos de fronteraagentes de IA AnthropicMETRSecureBio Anthropicevaluación independientegobernanzaMETRseguridad de IA
Forma parte de la historia Acceso de evaluadores externos a los modelos de Anthropic y OpenAI (2 noticias, estado: en evolución).
Tu opinión
0 comentarios
Relacionadas
OpenAI y Anthropic negocian condiciones para controlar lo que publican los evaluadores externos de IA
Según una investigación de Reuters, OpenAI y Anthropic mantienen conversaciones sobre las condiciones que deben cumplir los evaluadores independientes de sus…
Por qué importaSi las empresas que desarrollan los modelos pueden influir en lo que se publica de sus auditorías, la fiabilidad de la evaluación externa de riesgos…
Un estudio financiado por CCIA Europe estima en 115.000 millones el coste de la soberanía en la nube de la UE
La Comisión Europea propone en junio de 2026 la ley Cloud and AI Development Act (CADA), que establece cuatro niveles de garantías de soberanía para los…
Por qué importaSi la propuesta avanza, las empresas de sectores esenciales y las administraciones tendrán que revisar dónde alojan sus datos y aplicaciones y qué…
Una demanda colectiva acusa a OpenAI de usar datos de menores sin consentimiento parental en ChatGPT
El 13 de octubre de 2026 se registró en el Tribunal de Distrito del Norte de California una demanda colectiva, presentada por una madre de Hawái, que acusa a…
Por qué importaSi prospera la tesis de que los términos de uso no son válidos para menores, las empresas que ofrecen chatbots a usuarios jóvenes podrían tener que…
Meta Muse, asistente de IA personal, pide acceso a datos de amigos y contactos, según una columna de The Verge
Según The Verge, el asistente de IA personal Muse de Meta, lanzado el mes pasado, pide a los usuarios ceder también datos de amigos, familiares y otros…
Por qué importaLos asistentes que acceden a contactos y datos de terceros plantean riesgos de privacidad y de cumplimiento que las empresas deben evaluar antes de…