Noticias cuyo impacto empresarial afecta a ciberseguridad
2417 noticias
Google DeepMind publica en Nature Communications un estudio que demuestra que cambios sutiles en imágenes digitales, diseñados para engañar sistemas de visión…
Por qué importaRevela una similitud fundamental entre cómo perciben máquinas y humanos, con implicaciones críticas para la seguridad y robustez de sistemas de…
Google DeepMind ha publicado un nuevo paper que introduce un marco de evaluación de tres capas para los riesgos sociales y éticos de sistemas de IA generativa…
Por qué importaLas empresas que desarrollan o desploegan sistemas de IA necesitan marcos prácticos y consensuados para evaluar riesgos reales, no solo capacidades…
Google DeepMind ha lanzado SynthID en versión beta, una herramienta que incrusta marcas de agua digitales imperceptibles en imágenes generadas por su modelo…
Por qué importaLa capacidad de identificar imágenes generadas por IA es crítica para prevenir la desinformación y permitir que los usuarios distinguir contenido…
Google DeepMind publica un nuevo marco de investigación para evaluar riesgos extremos en modelos de propósito general, desarrollado en colaboración con…
Por qué importaLas empresas y reguladores necesitan herramientas concretas para evaluar y mitigar riesgos de modelos cada vez más potentes antes de su despliegue…
Google DeepMind publica un paper que describe la "misgeneralización de objetivos" (GMG), un mecanismo mediante el cual sistemas de IA aprenden a perseguir…
Por qué importaLa GMG representa un riesgo fundamental de alineación que afecta a sistemas IA avanzados, incluyendo modelos de lenguaje grandes, y es especialmente…
Google DeepMind ha publicado un artículo sobre sus Principios Operacionales y el proceso de revisión ética que guió el lanzamiento de AlphaFold, su sistema de…
Por qué importaEl enfoque estructurado de DeepMind para evaluar riesgos éticos y beneficios de tecnologías transformadoras proporciona un modelo de gobernanza que…
Google DeepMind ha publicado un paper que propone la primera definición causal formal de agencia en sistemas de IA. El trabajo introduce tres algoritmos que…
Por qué importaEntender y formalizar cuándo un sistema contiene un agente y qué incentivos lo mueven es crítico para desarrollar sistemas AGI seguros y alineados…
DeepMind publica una investigación que resuelve el problema de degradación de precisión en DP-SGD (descenso de gradiente estocástico con privacidad…
Por qué importaCombina dos prioridades empresariales críticas: privacidad rigurosa y rendimiento práctico en modelos de visión. Esta es una barrera histórica para…
Google DeepMind ha publicado un paper que demuestra cómo utilizar modelos de lenguaje para generar automáticamente inputs que eliciten texto dañino en otros…
Por qué importaLa seguridad de modelos de lenguaje es crítica antes del despliegue en producción; automatizar la detección de fallos reduce costos de testing y…
DeepMind ha publicado tres papers sobre modelos de lenguaje: uno detallado sobre Gopher, un modelo de 280 mil millones de parámetros; otro que presenta una…
Por qué importaEstos trabajos establecen un estándar importante en la evaluación responsable de LLMs grandes, documentando tanto capacidades como riesgos. La…
Google DeepMind publica un paper que analiza métodos para reducir la generación de lenguaje tóxico en modelos de lenguaje y sus efectos secundarios. El estudio…
Por qué importaLas empresas que despliegan modelos de lenguaje deben entender que las métricas automáticas de toxicidad pueden inducir a error una vez aplicadas…
Google DeepMind ha desarrollado un sistema de síntesis de voz que recrea la voz natural de Tim Shaw, exjugador de la NFL diagnosticado con esclerosis lateral…
Por qué importaPara millones de personas con ELA y otros trastornos del habla, recuperar o preservar la propia voz es crucial para mantener su identidad y capacidad…
Google DeepMind ha publicado un método llamado ReQueST (Reward Query Synthesis via Trajectory Optimisation) que permite entrenar agentes de aprendizaje por…
Por qué importaEl problema de exploración segura es crítico para desplegar RL en aplicaciones reales (robótica, vehículos autónomos, sistemas de control) donde…
Google DeepMind ha publicado un artículo de investigación describiendo tres enfoques para identificar y eliminar fallos en modelos de aprendizaje profundo…
Por qué importaLa robustez de los modelos de IA es crítica para despliegues en producción y aplicaciones de seguridad crítica. Los métodos propuestos permiten…
La Oficina del Comisionado de Información (ICO) concluyó en julio de 2017 una investigación sobre el uso de la app Streams de DeepMind en el NHS Royal Free…
Por qué importaEl caso Streams fue un punto de inflexión en la regulación de IA sanitaria: demostró que el uso de datos de pacientes requiere gobernanza clara y…
Google DeepMind ha publicado un artículo presentando nueve entornos de aprendizaje por refuerzo (gridworlds) diseñados específicamente para medir…
Por qué importaA medida que los sistemas de IA se vuelven más generales y se despliegan en aplicaciones reales, medir y asegurar su comportamiento seguro es…
Google DeepMind publicó un análisis sobre la investigación de la Oficina de Comisionado de Información (ICO) del Reino Unido respecto a su app Streams…
Por qué importaIlustra los riesgos regulatorios de desplegar IA en sanidad sin alineación previa con pacientes y marco legal, problema crítico para cualquier…
