Anthropic presenta FlashProve, un prototipo abierto que verifica con criptografía qué modelo generó una respuesta
Hecho Qué ha ocurrido
Anthropic publicó el 2 de noviembre FlashProve, un sistema de código abierto que usa pruebas criptográficas zkSNARK para demostrar que una respuesta fue generada por un modelo concreto. Según la compañía, es un prototipo de investigación. En sus pruebas con Llama 4 Maverick, el generador de pruebas procesa unos 110 tokens por segundo en una H100 y requiere entre 70 y 95 veces el tiempo de GPU que usa vLLM, y solo admite contextos de hasta 1.024 tokens.
Resumen generado mediante IA a partir de Infobae Tecno. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Si la verificación de modelo se generaliza, un cliente podría comprobar que el servicio que contrata no sustituye el modelo por uno más barato. Para empresas que pagan por modelos concretos, es un argumento de auditoría que hoy no existe.
- Quién se ve afectado
- Empresas que contratan APIs de IA, evaluadores de seguridad y reguladores que exijan modelos aprobados.
- Qué puede cambiar
- En la práctica, los proveedores podrían publicar huellas de sus pesos y adjuntar pruebas a sus respuestas, lo que permitiría auditar el modelo servido. Por ahora, la limitación de contexto y el coste lo hacen inviable para uso general.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Se deben vigilar el coste de generación de pruebas, la ampliación a contextos más largos y a modelos densos, y si otros proveedores o reguladores adoptan estándares similares.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Infobae Tecno. La referencia es siempre el artículo original.
Ver fuente original ↗zkSNARKLLMverificación formal AnthropicMeta Anthropic FlashProve Llama 4 Maverick verificación zkSNARK
Forma parte de la historia Anthropic presenta FlashProve, verificación criptográfica de modelos de IA (4 noticias, estado: evolución rápida).
Relacionadas
Anthropic publica FlashProve, código abierto para verificar criptográficamente que una API sirve el modelo pagado
Anthropic publicó FlashProve, un prototipo de código abierto bajo licencia Apache 2.0, que genera pruebas criptográficas basadas en zkSNARK para certificar que…
Por qué importaSi el estándar prospera, los clientes de API podrían comprobar qué modelo reciben realmente, algo que hoy no es verificable. Por ahora es una…
Anthropic trabaja en FlashProve, un sistema de código abierto para verificar qué modelo generó una respuesta
Anthropic trabaja en FlashProve, un sistema de código abierto que verifica qué modelo de IA generó una respuesta. Su objetivo es que evaluadores independientes…
Por qué importaSi la verificación funciona, los clientes podrían auditar lo que compran cuando contratan modelos de IA por tokens, algo útil para el control de…
Anthropic desarrolla FlashProve, un sistema de código abierto para verificar qué modelo de IA generó una respuesta
Anthropic publicó en un blog un proyecto de código abierto llamado FlashProve, que busca ofrecer una prueba criptográfica de que una salida proviene de un…
Por qué importaSi funciona, permitiría comprobar que un proveedor no cambia en secreto a un modelo más barato o más caro, algo relevante para quien paga por el uso…
Anthropic publica métricas internas sobre cuánto de su I+D lidera Claude, con metodología cuestionable
Anthropic difundió por primera vez métricas sobre el desarrollo de sus propios modelos: según la escala de Epoch AI (AL0 a AL5), el 26% del trabajo de…
Por qué importaLa métrica sirve tanto como reclamo de producto como argumento para la propuesta de Dario Amodei de frenar coordinadamente el desarrollo de IA de…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.