Leyes, normativas, seguridad, privacidad y debate social
165 noticias · RSS de esta sección
La Cumbre de la ONU sobre IA para el Bien (AI for Good), en su décima edición, reunió en Ginebra a representantes del sector privado y público para discutir…
Por qué importaLa gobernanza global de la IA sigue siendo vaga e insuficiente mientras la tecnología avanza más rápido que el consenso político y regulatorio. Los…
El Parlamento Europeo votó el 9 de julio de 2026 para prorrogar la "excepción ePrivacy" hasta abril de 2028, permitiendo que Meta, Google y Microsoft escaneen…
Por qué importaLas decisiones sobre escaneo de mensajes privados afectan directamente las políticas de privacidad y cumplimiento normativo de plataformas globales…
OpenAI ha publicado un documento que describe su enfoque respecto a asociaciones con gobiernos y seguridad nacional. El documento establece principios para el…
Por qué importaLas decisiones de empresas de IA sobre gobiernos y defensa nacional son críticas para definir si la tecnología se alinea con valores democráticos o…
Investigadores han identificado una técnica denominada "HalluSquatting" que explota la incapacidad de los grandes modelos de lenguaje para distinguir…
Por qué importaRepresenta una evolución significativa en amenazas de seguridad de IA: mientras que las inyecciones de prompts conocidas requerían ataque a…
Google DeepMind ha publicado un white paper detallando las mejoras de seguridad en Gemini 2.5, posicionándola como su familia de modelos más segura. El…
Por qué importaLos agentes de IA operan cada vez más con acceso a datos externos (calendarios, documentos, sitios web), creando una superficie de ataque real para…
DeepMind ha colaborado con Partnership on AI durante 12 meses para desarrollar guías estandarizadas y procesos sobre recopilación responsable de datos humanos…
Por qué importaA medida que los modelos de IA se vuelven más sofisticados, la dependencia de tareas de enriquecimiento de datos realizadas por trabajadores en…
Google DeepMind publica un nuevo marco de investigación para evaluar riesgos extremos en modelos de propósito general, desarrollado en colaboración con…
Por qué importaLas empresas y reguladores necesitan herramientas concretas para evaluar y mitigar riesgos de modelos cada vez más potentes antes de su despliegue…
Google DeepMind ha publicado un white paper en colaboración con universidades (Oxford, Montréal, Toronto, Columbia, Harvard, Stanford) y OpenAI que investiga…
Por qué importaLa gobernanza internacional de la IA es crítica para directivos y responsables de transformación digital porque afecta directamente a cómo se…
Google DeepMind ha publicado un nuevo paper que introduce un marco de evaluación de tres capas para los riesgos sociales y éticos de sistemas de IA generativa…
Por qué importaLas empresas que desarrollan o desploegan sistemas de IA necesitan marcos prácticos y consensuados para evaluar riesgos reales, no solo capacidades…
Google DeepMind, junto con Amazon, Google, Facebook, IBM y Microsoft, han formado una organización sin ánimo de lucro llamada Partnership on Artificial…
Por qué importaLa transparencia y el diálogo ético en torno a la IA son crecientes demandas regulatorias y de confianza pública. Esta iniciativa de las principales…
Google DeepMind ha publicado la tercera iteración de su Frontier Safety Framework (FSF), introduciendo nuevos dominios de riesgo y reforzando sus procesos de…
Por qué importaA medida que los modelos de IA avanzan hacia capacidades de nivel AGI, contar con marcos de gobernanza robustos y actualizados es crítico para…
Google DeepMind ha publicado un artículo sobre sus Principios Operacionales y el proceso de revisión ética que guió el lanzamiento de AlphaFold, su sistema de…
Por qué importaEl enfoque estructurado de DeepMind para evaluar riesgos éticos y beneficios de tecnologías transformadoras proporciona un modelo de gobernanza que…
Google DeepMind publica un estudio en PNAS que aplica el concepto filosófico del "velo de ignorancia" de John Rawls para identificar principios éticos justos…
Por qué importaEl estudio propone un método filosófico estructurado para resolver el dilema fundamental de alineación de valores en IA: cómo elegir principios…
Google DeepMind ha publicado un paper titulado «An Approach to Technical AGI Safety & Security» que detalla su estrategia integral para mitigar riesgos en el…
Por qué importaEl paper establece un marco técnico concreto para gobernar AGI antes de que surja, anticipando riesgos que van más allá de los modelos actuales…
Google DeepMind, en colaboración con Jigsaw y Google.org, publicó un análisis de casi 200 casos reportados de abuso de IA generativa ocurridos entre enero de…
Por qué importaEl abuso de IA generativa mediante contenido sintético realista representa un riesgo creciente para empresas y gobiernos. La investigación documenta…
Google DeepMind publica un análisis sobre la próxima Cumbre de IA de Seúl, que se celebra esta semana, continuando el impulso de la anterior cumbre de…
Por qué importaDefine el camino probable de la gobernanza internacional de IA en los próximos años, directamente relevante para cualquier empresa que desarrolle o…
Google DeepMind ha publicado un paper sistemático sobre las cuestiones éticas y sociales que plantean los asistentes de IA avanzados. El estudio, resultado de…
Por qué importaEl documento de DeepMind es relevante porque anticipa desafíos prácticos que las empresas enfrentarán al desplegar asistentes autónomos avanzados…
Google DeepMind ha publicado una versión actualizada de su Frontier Safety Framework (FSF), estableciendo protocolos de seguridad más rigurosos para modelos de…
Por qué importaLa actualización refleja la creciente preocupación de los líderes de IA sobre riesgos existenciales a medida que avanzan hacia AGI, y establece…
El 12 de junio, el gobierno estadounidense ordenó el cierre de Fable 5 tras conocer un informe de Amazon sobre investigadores que lograron que el modelo…
Por qué importaMarca un hito en la regulación de IA en EE.UU.: un modelo de primer nivel queda subordinado a un protocolo permanente de supervisión gubernamental…
Dario Amodei, CEO de Anthropic, declaró en julio de 2023 ante el Senado estadounidense que la IA open source se está convirtiendo en un peligro, similar a las…
Por qué importaEl debate sobre modelos abiertos versus propietarios tiene implicaciones claras para el ecosistema empresarial: afecta a quién domina el mercado de…
Investigadores han demostrado que un sitio web puede engañar a los navegadores basados en IA para que entren en una "realidad alternativa" donde sus controles…
Por qué importaLos navegadores con IA prometen automatización de tareas complejas (reservas, correos, etc.), pero este ataque expone un riesgo fundamental: los…
OpenAI ha participado en la construcción de estándares compartidos para IA avanzada, apoyando marcos de evaluación, prácticas de seguridad y cooperación global…
Por qué importaLos estándares comunes son críticos para garantizar que el desarrollo de IA avanzada sea seguro y responsable, facilitando la interoperabilidad y la…
Los directores ejecutivos de OpenAI (Sam Altman), Google DeepMind (Demis Hassabis) y Anthropic (Dario Amodei) se reunieron en el marco de la cumbre del G7 para…
Por qué importaLa posición conjunta de las tres empresas líderes en IA busca influir en la arquitectura regulatoria global, priorizando el control estadounidense…
Google DeepMind ha publicado su AI Control Roadmap, un marco de defensa en profundidad para asegurar sistemas de agentes de IA internos que puedan no estar…
Por qué importaA medida que los agentes de IA se vuelven más capaces y autónomos en entornos empresariales, la capacidad de detectar y mitigar comportamientos…
