Anthropic libera FlashProve, un prototipo que demuestra con criptografía qué modelo generó una respuesta
Hecho Qué ha ocurrido
Anthropic ha publicado en código abierto FlashProve, un prototipo que usa pruebas de conocimiento cero (zkSNARK) para comprobar que una respuesta procede del modelo declarado sin revelar sus pesos. Lo probó con Llama 4 Maverick y publicó las garantías de seguridad verificadas en Lean. Generar cada prueba exige entre 70 y 95 veces el tiempo de GPU de la inferencia normal, y por ahora solo admite contextos de 1.024 tokens y modelos de mezcla de expertos. La propia empresa no prevé desplegarlo.
Resumen generado mediante IA a partir de WWWhat's new. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Si los clientes no pueden comprobar qué modelo les sirve un proveedor o un enrutador, la confianza pasa a ser el único control. Esta línea de trabajo apunta a una auditoría verificable del modelo servido.
- Quién se ve afectado
- Empresas que contratan IA a través de terceros o enrutadores, auditores, evaluadores y reguladores.
- Qué puede cambiar
- Si la técnica madura, la verificación de qué modelo responde podría exigirse en contratos y auditorías de servicios de IA. Hoy el coste la deja en fase de prueba de concepto.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Reducción del overhead de 70-95 veces, ampliación de contextos más allá de 1.024 tokens y si otros laboratorios o proveedores de nube adoptan estándares similares.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: WWWhat's new. La referencia es siempre el artículo original.
Ver fuente original ↗zkSNARKLLMverificación formal AnthropicMeta Anthropic código abierto criptografía FlashProve verificación
Relacionadas
Anthropic presenta FlashProve, un prototipo abierto que verifica con criptografía qué modelo generó una respuesta
Anthropic publicó el 2 de noviembre FlashProve, un sistema de código abierto que usa pruebas criptográficas zkSNARK para demostrar que una respuesta fue…
Por qué importaSi la verificación de modelo se generaliza, un cliente podría comprobar que el servicio que contrata no sustituye el modelo por uno más barato. Para…
Anthropic publica FlashProve, un prototipo que usa criptografía para verificar qué modelo generó una respuesta
Anthropic ha publicado FlashProve, un prototipo de investigación de código abierto que usa pruebas criptográficas zkSNARK para comprobar que una respuesta de…
Por qué importaSi la verificación del modelo servido se vuelve práctica, los clientes podrían comprobar que un proveedor no sustituye modelos más baratos o manipula…
Anthropic publica FlashProve, código abierto para verificar criptográficamente que una API sirve el modelo pagado
Anthropic publicó FlashProve, un prototipo de código abierto bajo licencia Apache 2.0, que genera pruebas criptográficas basadas en zkSNARK para certificar que…
Por qué importaSi el estándar prospera, los clientes de API podrían comprobar qué modelo reciben realmente, algo que hoy no es verificable. Por ahora es una…
Anthropic desarrolla FlashProve, un sistema de código abierto para verificar qué modelo de IA generó una respuesta
Anthropic publicó en un blog un proyecto de código abierto llamado FlashProve, que busca ofrecer una prueba criptográfica de que una salida proviene de un…
Por qué importaSi funciona, permitiría comprobar que un proveedor no cambia en secreto a un modelo más barato o más caro, algo relevante para quien paga por el uso…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.