Anthropic publica FlashProve, un prototipo que usa criptografía para verificar qué modelo generó una respuesta
Hecho Qué ha ocurrido
Anthropic ha publicado FlashProve, un prototipo de investigación de código abierto que usa pruebas criptográficas zkSNARK para comprobar que una respuesta de IA procede del modelo declarado sin revelar sus pesos. Según el informe técnico de la empresa, genera pruebas a unos 110 tokens por segundo en una H100 para Llama 4 Maverick, con pruebas de unos 19 MB verificables en 17 segundos en CPU, y solo admite contextos de hasta 1.024 tokens.
Resumen generado mediante IA a partir de The Decoder (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Si la verificación del modelo servido se vuelve práctica, los clientes podrían comprobar que un proveedor no sustituye modelos más baratos o manipula las respuestas. Hoy esa confianza no es verificable.
- Quién se ve afectado
- Empresas que contratan modelos a través de terceros o routers, reguladores y equipos de seguridad y cumplimiento.
- Qué puede cambiar
- Abre la posibilidad de auditar qué modelo responde realmente, pero el coste de cómputo y las limitaciones actuales impiden su uso en producción general.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Ampliación del contexto por encima de 1.024 tokens, soporte para muestreo aleatorio (no solo el token más probable) y adopción por parte de proveedores o reguladores.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: The Decoder. La referencia es siempre el artículo original.
Ver fuente original ↗zkSNARKLLMverificación criptográfica AnthropicMeta Anthropic FlashProve Llama 4 verificación zkSNARK
Forma parte de la historia Anthropic presenta FlashProve, verificación criptográfica de modelos de IA (5 noticias, estado: evolución rápida).
Relacionadas
Anthropic publica FlashProve, código abierto para verificar criptográficamente que una API sirve el modelo pagado
Anthropic publicó FlashProve, un prototipo de código abierto bajo licencia Apache 2.0, que genera pruebas criptográficas basadas en zkSNARK para certificar que…
Por qué importaSi el estándar prospera, los clientes de API podrían comprobar qué modelo reciben realmente, algo que hoy no es verificable. Por ahora es una…
Anthropic presenta FlashProve, un prototipo abierto que verifica con criptografía qué modelo generó una respuesta
Anthropic publicó el 2 de noviembre FlashProve, un sistema de código abierto que usa pruebas criptográficas zkSNARK para demostrar que una respuesta fue…
Por qué importaSi la verificación de modelo se generaliza, un cliente podría comprobar que el servicio que contrata no sustituye el modelo por uno más barato. Para…
Anthropic trabaja en FlashProve, un sistema de código abierto para verificar qué modelo generó una respuesta
Anthropic trabaja en FlashProve, un sistema de código abierto que verifica qué modelo de IA generó una respuesta. Su objetivo es que evaluadores independientes…
Por qué importaSi la verificación funciona, los clientes podrían auditar lo que compran cuando contratan modelos de IA por tokens, algo útil para el control de…
Anthropic desarrolla FlashProve, un sistema de código abierto para verificar qué modelo de IA generó una respuesta
Anthropic publicó en un blog un proyecto de código abierto llamado FlashProve, que busca ofrecer una prueba criptográfica de que una salida proviene de un…
Por qué importaSi funciona, permitiría comprobar que un proveedor no cambia en secreto a un modelo más barato o más caro, algo relevante para quien paga por el uso…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.