Anthropic trabaja en FlashProve, un sistema de código abierto para verificar qué modelo generó una respuesta
Hecho Qué ha ocurrido
Anthropic trabaja en FlashProve, un sistema de código abierto que verifica qué modelo de IA generó una respuesta. Su objetivo es que evaluadores independientes y clientes comprueben que los tokens facturados proceden del modelo por el que pagaron o que evalúan.
Resumen generado mediante IA a partir de Europa Press Portaltic. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Si la verificación funciona, los clientes podrían auditar lo que compran cuando contratan modelos de IA por tokens, algo útil para el control de costes y la confianza en los proveedores.
- Quién se ve afectado
- Empresas que consumen APIs de modelos de IA por tokens y evaluadores independientes de sistemas de IA.
- Qué puede cambiar
- Podría facilitar auditorías externas del uso de modelos y reducir la incertidumbre sobre si el proveedor sirve el modelo contratado. Aún no hay detalles técnicos ni fecha de disponibilidad en el texto.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Publicación del código y de la especificación, adopción por evaluadores o proveedores de nube y si otros fabricantes de modelos anuncian mecanismos similares.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Europa Press Portaltic. La referencia es siempre el artículo original.
Ver fuente original ↗LLM Anthropic Anthropic código abierto FlashProve tokens verificación de modelos
Forma parte de la historia Anthropic presenta FlashProve, verificación criptográfica de modelos de IA (2 noticias, estado: en evolución).
Relacionadas
Anthropic desarrolla FlashProve, un sistema de código abierto para verificar qué modelo de IA generó una respuesta
Anthropic publicó en un blog un proyecto de código abierto llamado FlashProve, que busca ofrecer una prueba criptográfica de que una salida proviene de un…
Por qué importaSi funciona, permitiría comprobar que un proveedor no cambia en secreto a un modelo más barato o más caro, algo relevante para quien paga por el uso…
Anthropic evalúa lanzar un nuevo modelo antes de su salida a bolsa
Anthropic estaría considerando lanzar un nuevo modelo de IA antes de su salida a bolsa, según una fuente citada por Reuters, mientras evalúa la seguridad del…
Por qué importaRefleja la presión competitiva y financiera sobre los grandes laboratorios de IA para mostrar crecimiento y rentabilidad antes de cotizar en bolsa, y…
Anthropic busca conciliar su salida a Bolsa con su misión de seguridad mediante una gobernanza inusual
Anthropic prepara su próxima salida a Bolsa (OPV) y, según The Verge, quiere combinar el acceso a los mercados públicos con su compromiso de desarrollar IA de…
Por qué importaMuestra cómo una empresa de IA de primer nivel intenta conciliar la presión de los accionistas con los costes de seguridad, un dilema que afecta a…
Anthropic publica métricas internas sobre cuánto de su I+D lidera Claude, con metodología cuestionable
Anthropic difundió por primera vez métricas sobre el desarrollo de sus propios modelos: según la escala de Epoch AI (AL0 a AL5), el 26% del trabajo de…
Por qué importaLa métrica sirve tanto como reclamo de producto como argumento para la propuesta de Dario Amodei de frenar coordinadamente el desarrollo de IA de…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.