alignment: noticias de IA

Sociedad y trabajo 9 sep

Investigadores de Anthropic, OpenAI y Google DeepMind alertan sobre riesgos de la carrera por la superinteligencia

El investigador Jacob Coxon anunció su salida de Anthropic cuestionando la competencia por sistemas de IA general sin garantías de control. Evan Hubinger…

Por qué importaLas advertencias provienen de investigadores internos de los laboratorios líderes, lo que da peso a un debate que hasta ahora era más especulativo o…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 Infobae Tecno

Investigación 21 jul

IEEE Spectrum propone el "Genie Coefficient" para medir fidelidad de agentes IA

IEEE Spectrum publica un artículo que propone una nueva métrica llamada "Genie Coefficient" para medir la distancia entre lo que un usuario solicita a un…

Por qué importaA medida que los agentes IA autónomos se despliegan en empresas con acceso a infraestructura crítica (APIs financieras, bases de datos, sistemas de…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 IEEE Spectrum AI

Investigación 18 may

Stuxnet de precisión, optimizer Muon con defectos y seguridad alineada en IA

El análisis de SentinelOne de un malware de 20+ años llamado fast16.sys reveló código diseñado para sabotear cálculos de precisión en software de ingeniería…

Por qué importaEl caso fast16 ilustra cómo ataques sofisticados pueden degradar investigación científica sin ser detectados, relevante para organizaciones que…

Impacto medio Fiabilidad una fuente fiable Import AI (Jack Clark)