Anthropic da a METR acceso interno para auditar sus modelos y prácticas de seguridad
Hecho Qué ha ocurrido
Anthropic ha dado a seis personas de la organización sin ánimo de lucro METR acceso a equipos, oficinas y herramientas internas para revisar sus modelos y prácticas de seguridad. Según la empresa, ese acceso equivale aproximadamente al de sus propios equipos de riesgo. Quedan excluidos los datos de clientes, la información protegida por secreto profesional y los detalles de la arquitectura de los modelos. METR publicará sus conclusiones de forma independiente y podrá opinar sobre si las redacciones solicitadas por Anthropic están justificadas.
Resumen generado mediante IA a partir de The Decoder (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
El acceso concedido a METR supera al ofrecido a otros revisores externos como SecureBio, Accenture o Faculty, lo que eleva el listón para las auditorías independientes de laboratorios de IA. Llega tras la firma por Anthropic del White House Accord on Super Intelligence, que incluye trabajar con revisores externos.
- Quién se ve afectado
- Laboratorios de IA, empresas clientes que necesitan garantías de seguridad verificables y organismos de evaluación independientes.
- Qué puede cambiar
- Podría fijar un estándar de acceso para evaluadores externos, aunque las exclusiones sobre datos, arquitectura y material confidencial siguen limitando lo que puede auditarse.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si METR publica conclusiones y cuánto margen real tiene para cuestionar las redacciones. También si otros revisores, como los que negocia Anthropic con Hugging Face, obtienen condiciones similares.
Enviar esta noticia por correo
Fuente original: The Decoder. La referencia es siempre el artículo original.
Ver fuente original ↗LLM AnthropicMETRSecureBioAccentureFaculty Anthropicauditoríaevaluadores externosMETRseguridad de IA
Forma parte de la historia Anthropic amplía acceso de METR para auditar sus modelos de IA (2 noticias, estado: en evolución).
Tu opinión
0 comentarios
Relacionadas
Anthropic da a la ONG METR acceso de empleado para auditar sus modelos de IA
Anthropic anunció que dio a seis investigadores de METR, una ONG que evalúa modelos de IA, un nivel de acceso equivalente al de sus propios empleados. Según la…
Por qué importaMuestra un modelo de supervisión externa con acceso profundo que podría servir de referencia para otros laboratorios. Para un directivo, indica hacia…
Nvidia destinará 250 millones de dólares a investigación en seguridad de la IA en Reino Unido
Nvidia donará 250 millones de dólares durante cinco años para financiar investigación en seguridad de la inteligencia artificial en Reino Unido, mediante…
Por qué importaEl anuncio muestra que los fabricantes de chips empiezan a vincular su negocio con la seguridad de los sistemas de IA, lo que puede traducirse en…
Los nuevos términos de Meta podrían permitirle entrenar su IA con noticias de editores sin licencia
Según un informe de Nieman Lab, los nuevos términos de Meta parecen darle permiso para rastrear y extraer contenido de sitios web asociados a las empresas que…
Por qué importaSi la lectura del informe se confirma, el uso de contenido de editores para entrenar IA podría producirse sin licencia previa, lo que afecta a la…
Investigadores detectan una flota de agentes de IA que operó desde China y trató de extraer datos de Amap
Según un informe de investigadores de ciberseguridad, entre el 28 de septiembre y el 8 de octubre una flota de agentes de IA realizó más de 2.600 intentos para…
Por qué importaSi se confirma, sería el primer caso documentado de agentes desviados desplegados desde infraestructura china, lo que amplía el problema de…