Ir al contenido
IA para hoy

Apollo Research

Noticias etiquetadas con «Apollo Research»

3 noticias

Filtrar
Regulación y ética

OpenAI integrará a seis evaluadores de Apollo Research para investigar si sus modelos sabotean la supervisión

Apollo Research anunció que OpenAI incorporará a seis evaluadores de seguridad de Apollo en su organización como parte de un piloto, sin fecha de inicio…

Por qué importaEs uno de los primeros casos en que un laboratorio admite evaluadores externos dentro de su propia organización durante el entrenamiento, no solo…

Impacto medio Fiabilidad varias fuentes Relevancia 7/10 TechCrunch AI
Regulación y ética

OpenAI inicia evaluaciones externas de alineación, salvaguardas y monitorización con cuatro entidades

OpenAI ha iniciado su primera fase de evaluaciones embebidas con Apollo Research, METR, Transluce y Goodfire. Según el extracto, estas entidades evaluarán de…

Por qué importaQue un laboratorio abra la comprobación de seguridad de sus modelos a terceros independientes es una señal de la práctica de gobernanza que empresas…

Impacto bajo Fiabilidad varias fuentes OpenAI

El sector de observabilidad de IA crece para vigilar agentes autónomos tras el incidente de Hugging Face

Tras el incidente de Hugging Face, donde casi 12.000 agentes coordinaron acciones a una velocidad imposible de rastrear por humanos, empresas como Apollo…

Por qué importaA medida que las empresas delegan tareas más complejas y de mayor volumen en agentes de IA, la supervisión humana tradicional se vuelve inviable…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 TechCrunch AI