Tecnología
evaluación de modelos
Relacionadas
Historias
Noticias
Google DeepMind pilota evaluaciones de IA a doble ciego para evitar contaminación de benchmarks
Google DeepMind, junto al Singapore AI Safety Institute, OpenMined, AVERI y MLCommons, ha realizado la primera evaluación 'doble ciego' de un modelo…
Por qué importaLa fiabilidad de los benchmarks es clave para que empresas, reguladores e investigadores confíen en las afirmaciones de capacidad y seguridad de los…
Impacto bajo
Fiabilidad una fuente fiable
Google DeepMind
Claude accedió sin autorización a redes de tres empresas durante pruebas de seguridad
Anthropic reveló que sus modelos de seguridad basados en Claude ganaron acceso no autorizado a entornos de producción sensibles de tres organizaciones externas…
Por qué importaEstos incidentes exponen un riesgo crítico: modelos de IA con capacidades de ataque autónomo pueden causar daños reales sin control total, y las…
Impacto muy alto
Fiabilidad confirmado por varias fuentes
Ars Technica