Noticias etiquetadas con «evaluadores externos»
5 noticias
Anthropic ha dado a seis personas de la organización sin ánimo de lucro METR acceso a equipos, oficinas y herramientas internas para revisar sus modelos y…
Por qué importaEl acceso concedido a METR supera al ofrecido a otros revisores externos como SecureBio, Accenture o Faculty, lo que eleva el listón para las…
Según una investigación de Reuters, OpenAI y Anthropic quieren ejercer un «control significativo» sobre lo que publican los evaluadores externos, por temor a…
Por qué importaLa independencia de las evaluaciones de seguridad determina qué riesgos de los modelos llegan a conocerse. Las empresas que usan estos modelos…
OpenAI separó de sus cargos la semana pasada a Jasmine Wang, Tomek Korbak y Mikita Balesni, investigadores de alineación. La empresa atribuye los despidos a…
Por qué importaEl caso pone en duda, ante directivos y reguladores, cómo gestionan las empresas de IA las críticas internas sobre seguridad y el uso de evaluadores…
OpenAI publicó un anuncio sobre conversaciones con evaluadores externos, incluyendo METR y Redwood Research, para darles acceso a sus modelos durante la fase…
Por qué importaEl acceso durante el entrenamiento permitiría detectar comportamientos problemáticos antes de que el modelo esté completo y sea costoso corregirlo, a…
Anthropic anunció que Faculty, empresa de IA adquirida por Accenture en enero, trabajará dentro de la compañía evaluando y haciendo red-teaming de sus modelos…
Por qué importaEs el primer caso concreto del plan de Dario Amodei de introducir evaluadores externos incrustados en laboratorios de IA, y elegir a una consultora…
