Empresa
UK AI Security Institute
Evolución en 16 semanas
El momentum semanal se estima con la misma fórmula que el momentum actual: volumen, aceleración respecto a la semana anterior, diversidad de fuentes e impacto.
Relacionadas
LLM ×2OpenAI ×2Anthropic ×1Google DeepMind ×1ciberseguridad ×1modelos abiertos ×1DeepSeek ×1Cognition ×1Stanford University ×1evaluación de seguridad ×1
Historias
UK: brecha cibernética entre modelos abiertos y propietarios se reduce a 4-7 meses
IA supera expertos en persuasión textual y recaudación de fondos
Sequent: nueva organización independiente para investigación de alineación de IA
Google DeepMind amplía investigación de seguridad con agencia británica
Noticias
Brecha entre modelos abiertos y propietarios en ciberseguridad se reduce, alerta UK
El Instituto de Seguridad de IA del Reino Unido ha analizado la diferencia en capacidades de ciberseguridad entre modelos propietarios y abiertos, encontrando…
Por qué importaLa difusión de modelos abiertos con capacidades cibernéticas cercanas a la frontera plantea un cambio drástico en el balance ofensiva-defensa global…
Sistemas de IA superan a expertos humanos en persuasión; investigadores alertan de riesgos
Investigadores de Oxford, UK AI Security Institute, Stanford y LSE han demostrado que sistemas de IA actuales superan consistentemente a humanos expertos en…
Por qué importaSi la IA puede persuadir mejor que expertos, quienes controlen estos sistemas podrían consolidar influencia y cambiar el comportamiento social a…
Sequent: nueva startup de seguridad de IA fundada por expertos de alineación
Investigadores del UK AI Security Institute y la startup Timaeus han formado Sequent, una organización sin ánimo de lucro dedicada a desarrollar técnicas de…
Por qué importaLa alineación es crítica para la seguridad de sistemas de IA muy avanzados, especialmente si experimentan mejora recursiva autónoma. Una organización…
Google DeepMind amplía investigación de seguridad con el Instituto de Seguridad de IA del Reino Unido
Google DeepMind y el UK AI Security Institute (AISI) anuncian una asociación ampliada mediante un Memorándum de Entendimiento para investigación fundamental de…
Por qué importaLas evaluaciones de seguridad externas e independientes son críticas para desarrollar sistemas de IA confiables a escala. Esta alianza entre un…