DeepMind usa agentes de IA para verificar formalmente el código del protocolo de cifrado de Signal
Hecho Qué ha ocurrido
Google DeepMind afirma que sus agentes de IA, dentro del marco AlphaProof Code, demostraron matemáticamente propiedades de seguridad del código real del protocolo de Signal. Según la compañía, generaron más de seis millones de líneas en Lean y el proceso tardó cuatro semanas. DeepMind dice que, para comprobar el método, reintrodujo dos fallos ya corregidos y el sistema demostró que la versión defectuosa era insegura. La compañía indica que publicará los artefactos de verificación como código abierto.
Resumen generado mediante IA a partir de Google DeepMind (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Muestra que la IA puede llevar la verificación formal, hasta ahora muy costosa, al código real de sistemas de cifrado usados por millones de personas. Para empresas, abre la vía a auditorías de seguridad más profundas en software crítico.
- Quién se ve afectado
- Equipos de ciberseguridad, desarrolladores de software criptográfico y empresas de mensajería o de servicios que dependen de cifrado extremo a extremo.
- Qué puede cambiar
- Si el enfoque se generaliza, la verificación matemática del código podría dejar de limitarse al diseño teórico y extenderse a la implementación real. Esto podría reducir el margen para fallos ocultos entre diseño y código.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Conviene vigilar la publicación del artículo técnico y del código abierto, la revisión independiente de los resultados y si el método se aplica a otros sistemas con costes razonables.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Google DeepMind (fuente primaria). La referencia es siempre el artículo original.
Ver fuente original ↗agentes de IAverificación formalLeanLLM Google DeepMindSignal ciberseguridad DeepMind Lean Signal verificación formal
Forma parte de la historia DeepMind verifica con IA agéntica garantías criptográficas de Signal (3 noticias, estado: evolución rápida).
Relacionadas
Google DeepMind usa IA para verificar matemáticamente partes del cifrado de Signal, sin hallar fallos nuevos
Investigadores de Google DeepMind usaron IA, con su sistema AlphaProof Code, para demostrar matemáticamente varias garantías del protocolo criptográfico de…
Por qué importaMuestra que la verificación formal, hasta ahora lenta y dependiente de especialistas, puede acelerarse con agentes de IA. Para empresas que dependen…
DeepMind usa IA agéntica para verificar formalmente garantías criptográficas del protocolo Signal
Investigadores de Google DeepMind emplearon IA agéntica para demostrar matemáticamente varias garantías criptográficas clave del protocolo Signal, en un…
Por qué importaMuestra que la verificación formal asistida por IA puede acelerarse de forma notable, algo que hasta ahora requería mucho tiempo de especialistas…
Investigadores cuestionan viabilidad matemática de agentes IA autónomos complejos
Un paper reciente de Vishal Sikka (exCTO de SAP) y su hijo argumenta que los modelos de lenguaje tienen limitaciones matemáticas inherentes que los incapacitan…
Por qué importaLas limitaciones en fiabilidad de los agentes IA definirán su adopción corporativa real en los próximos años. Las empresas necesitan entender si…
Google DeepMind publica marco de control para asegurar agentes de IA internos
Google DeepMind ha publicado su AI Control Roadmap, un marco de defensa en profundidad para asegurar sistemas de agentes de IA internos que puedan no estar…
Por qué importaA medida que los agentes de IA se vuelven más capaces y autónomos en entornos empresariales, la capacidad de detectar y mitigar comportamientos…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.