Anthropic presenta FlashProve, una prueba criptográfica para verificar qué modelo de IA generó una respuesta
Hecho Qué ha ocurrido
Anthropic ha presentado FlashProve, un sistema que genera una prueba criptográfica (zkSNARK) para confirmar qué modelo de IA produjo una respuesta concreta, sin revelar sus pesos. Según la publicación técnica, la compañía liberó código, informe y pruebas formales bajo licencia de código abierto. Los propios investigadores lo describen como un progreso intermedio, no una herramienta lista para producción.
Resumen generado mediante IA a partir de Infobae Tecno. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Si la verificación del modelo servido se vuelve práctica, los clientes que contratan IA a través de intermediarios podrían comprobar que no reciben una versión más barata o alterada. Afecta a la confianza en la compra de servicios de IA.
- Quién se ve afectado
- Empresas que contratan modelos vía terceros, auditores, evaluadores independientes y reguladores.
- Qué puede cambiar
- Podría añadirse una capa de verificación a los contratos de servicios de IA, con pruebas que acompañen cada respuesta. Hoy no existe un mecanismo generalizado para ello.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si Anthropic u otros proveedores adoptan el sistema en producción, cuánto coste computacional añade a cada respuesta y si OpenAI u otros grandes proveedores publican mecanismos similares.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Infobae Tecno. La referencia es siempre el artículo original.
Ver fuente original ↗zkSNARKverificación criptográfica AnthropicOpenAI Anthropic código abierto FlashProve verificación zkSNARK
Relacionadas
Anthropic publica FlashProve, un prototipo que usa criptografía para verificar qué modelo generó una respuesta
Anthropic ha publicado FlashProve, un prototipo de investigación de código abierto que usa pruebas criptográficas zkSNARK para comprobar que una respuesta de…
Por qué importaSi la verificación del modelo servido se vuelve práctica, los clientes podrían comprobar que un proveedor no sustituye modelos más baratos o manipula…
Anthropic desarrolla FlashProve, un sistema de código abierto para verificar qué modelo de IA generó una respuesta
Anthropic publicó en un blog un proyecto de código abierto llamado FlashProve, que busca ofrecer una prueba criptográfica de que una salida proviene de un…
Por qué importaSi funciona, permitiría comprobar que un proveedor no cambia en secreto a un modelo más barato o más caro, algo relevante para quien paga por el uso…
Anthropic presenta FlashProve, un prototipo abierto que verifica con criptografía qué modelo generó una respuesta
Anthropic publicó el 2 de noviembre FlashProve, un sistema de código abierto que usa pruebas criptográficas zkSNARK para demostrar que una respuesta fue…
Por qué importaSi la verificación de modelo se generaliza, un cliente podría comprobar que el servicio que contrata no sustituye el modelo por uno más barato. Para…
Anthropic publica FlashProve, código abierto para verificar criptográficamente que una API sirve el modelo pagado
Anthropic publicó FlashProve, un prototipo de código abierto bajo licencia Apache 2.0, que genera pruebas criptográficas basadas en zkSNARK para certificar que…
Por qué importaSi el estándar prospera, los clientes de API podrían comprobar qué modelo reciben realmente, algo que hoy no es verificable. Por ahora es una…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.