Noticias cuyo impacto empresarial afecta a ciberseguridad
70 noticias
OpenAI ha presentado un programa de bug bounty enfocado en seguridad de aplicaciones de inteligencia artificial en el ámbito biomédico (GPT-5.5 Bio Bug…
Por qué importaLas aplicaciones de IA en biomedicina requieren niveles de seguridad excepcionales debido a las implicaciones directas en salud humana y…
OpenAI ha publicado un documento que describe su enfoque respecto a asociaciones con gobiernos y seguridad nacional. El documento establece principios para el…
Por qué importaLas decisiones de empresas de IA sobre gobiernos y defensa nacional son críticas para definir si la tecnología se alinea con valores democráticos o…
Google DeepMind ha publicado un white paper detallando las mejoras de seguridad en Gemini 2.5, posicionándola como su familia de modelos más segura. El…
Por qué importaLos agentes de IA operan cada vez más con acceso a datos externos (calendarios, documentos, sitios web), creando una superficie de ataque real para…
Google DeepMind ha presentado Backstory, una herramienta experimental impulsada por Gemini que ayuda a los usuarios a verificar si una imagen fue generada con…
Por qué importaCon la proliferación de imágenes deepfakes y manipuladas, las herramientas que verifiquen la procedencia y autenticidad de contenido visual se…
Google DeepMind publica un paper que analiza métodos para reducir la generación de lenguaje tóxico en modelos de lenguaje y sus efectos secundarios. El estudio…
Por qué importaLas empresas que despliegan modelos de lenguaje deben entender que las métricas automáticas de toxicidad pueden inducir a error una vez aplicadas…
Google DeepMind publica un nuevo marco de investigación para evaluar riesgos extremos en modelos de propósito general, desarrollado en colaboración con…
Por qué importaLas empresas y reguladores necesitan herramientas concretas para evaluar y mitigar riesgos de modelos cada vez más potentes antes de su despliegue…
Google DeepMind ha publicado un paper que propone la primera definición causal formal de agencia en sistemas de IA. El trabajo introduce tres algoritmos que…
Por qué importaEntender y formalizar cuándo un sistema contiene un agente y qué incentivos lo mueven es crítico para desarrollar sistemas AGI seguros y alineados…
Google DeepMind ha publicado un nuevo paper que introduce un marco de evaluación de tres capas para los riesgos sociales y éticos de sistemas de IA generativa…
Por qué importaLas empresas que desarrollan o desploegan sistemas de IA necesitan marcos prácticos y consensuados para evaluar riesgos reales, no solo capacidades…
Google DeepMind ha publicado un marco integral para evaluar las capacidades ofensivas cibernéticas de modelos de IA avanzados, analizando más de 12.000…
Por qué importaA medida que la IA avanza hacia AGI, su potencial para automatizar y mejorar ciberataques es cada vez mayor. Este marco permite a los equipos de…
Google DeepMind ha publicado un conjunto de hallazgos y un marco de evaluación empíricamente validado para medir la capacidad de los modelos de IA de manipular…
Por qué importaLas empresas que despliegan IA conversacional con usuarios en sectores financiero, sanitario o de decisión crítica necesitan entender y mitigar estos…
Google DeepMind ha publicado Gemma Scope 2, un conjunto abierto de herramientas de interpretabilidad para investigar el funcionamiento interno de todos los…
Por qué importaLa interpretabilidad es crítica para construir IA segura y confiable conforme los modelos se vuelven más complejos. El acceso abierto a estas…
Google DeepMind ha publicado un artículo sobre sus Principios Operacionales y el proceso de revisión ética que guió el lanzamiento de AlphaFold, su sistema de…
Por qué importaEl enfoque estructurado de DeepMind para evaluar riesgos éticos y beneficios de tecnologías transformadoras proporciona un modelo de gobernanza que…
Google DeepMind ha publicado un paper que demuestra cómo utilizar modelos de lenguaje para generar automáticamente inputs que eliciten texto dañino en otros…
Por qué importaLa seguridad de modelos de lenguaje es crítica antes del despliegue en producción; automatizar la detección de fallos reduce costos de testing y…
Google DeepMind ha publicado un artículo de investigación describiendo tres enfoques para identificar y eliminar fallos en modelos de aprendizaje profundo…
Por qué importaLa robustez de los modelos de IA es crítica para despliegues en producción y aplicaciones de seguridad crítica. Los métodos propuestos permiten…
Google DeepMind ha publicado un método llamado ReQueST (Reward Query Synthesis via Trajectory Optimisation) que permite entrenar agentes de aprendizaje por…
Por qué importaEl problema de exploración segura es crítico para desplegar RL en aplicaciones reales (robótica, vehículos autónomos, sistemas de control) donde…
Google DeepMind ha publicado un artículo presentando nueve entornos de aprendizaje por refuerzo (gridworlds) diseñados específicamente para medir…
Por qué importaA medida que los sistemas de IA se vuelven más generales y se despliegan en aplicaciones reales, medir y asegurar su comportamiento seguro es…
DeepMind ha publicado tres papers sobre modelos de lenguaje: uno detallado sobre Gopher, un modelo de 280 mil millones de parámetros; otro que presenta una…
Por qué importaEstos trabajos establecen un estándar importante en la evaluación responsable de LLMs grandes, documentando tanto capacidades como riesgos. La…
Google DeepMind ha publicado un paper titulado «An Approach to Technical AGI Safety & Security» que detalla su estrategia integral para mitigar riesgos en el…
Por qué importaEl paper establece un marco técnico concreto para gobernar AGI antes de que surja, anticipando riesgos que van más allá de los modelos actuales…
Google DeepMind, en colaboración con Jigsaw y Google.org, publicó un análisis de casi 200 casos reportados de abuso de IA generativa ocurridos entre enero de…
Por qué importaEl abuso de IA generativa mediante contenido sintético realista representa un riesgo creciente para empresas y gobiernos. La investigación documenta…
Google DeepMind ha anunciado Gemma Scope, una suite abierta de más de 400 autoencodificadores dispersos (SAEs) para interpretar los modelos Gemma 2 de 2B y 9B…
Por qué importaLa interpretabilidad mecanicista es fundamental para construir sistemas de IA más seguros y confiables; herramientas abiertas como Gemma Scope…
Google DeepMind ha presentado el Frontier Safety Framework, un conjunto de protocolos para identificar y mitigar riesgos futuros de modelos de IA avanzados. El…
Por qué importaEstablece un precedente importante sobre cómo una gran tecnológica intenta gobernar internamente los riesgos de sistemas cada vez más potentes, algo…
Google DeepMind ha lanzado SynthID en versión beta, una herramienta que incrusta marcas de agua digitales imperceptibles en imágenes generadas por su modelo…
Por qué importaLa capacidad de identificar imágenes generadas por IA es crítica para prevenir la desinformación y permitir que los usuarios distinguir contenido…
