Anthropic afirma haber reducido hasta un 99% la extracción de tokens de razonamiento de Claude
Hecho Qué ha ocurrido
Anthropic afirma que sus nuevas defensas han reducido entre un 90% y un 99% el volumen de tokens de razonamiento extraídos de Claude, en el contexto de ataques de destilación a escala industrial. La compañía atribuye parte de estos ataques a las empresas chinas Zhipu y Moonshot, y dice haber prohibido decenas de miles de cuentas.
Resumen generado mediante IA a partir de The Decoder (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Las técnicas de destilación permiten copiar capacidades de modelos propietarios a bajo coste, lo que afecta a la protección de la propiedad intelectual y a la seguridad de los proveedores de IA que las empresas utilizan. Conviene revisar cómo se gestionan los accesos y el uso de APIs de terceros.
- Quién se ve afectado
- Proveedores de modelos de IA, empresas que dependen de APIs de modelos de frontera y equipos de seguridad y cumplimiento.
- Qué puede cambiar
- Los proveedores podrían restringir el acceso a razonamiento interno y endurecer la verificación de cuentas, lo que puede afectar también a usuarios legítimos según reconoce la propia compañía.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si otros desarrolladores adoptan protecciones similares, cómo evolucionan los falsos positivos del clasificador y si los hechos sobre Zhipu y Moonshot se confirman por fuentes independientes.
Enviar esta noticia por correo
Fuente original: The Decoder. La referencia es siempre el artículo original.
Ver fuente original ↗LLMdestilación de modelos AnthropicZhipuMoonshot AnthropicClaudedestilaciónMoonshotZhipu
Tu opinión
0 comentarios
Relacionadas
Más de 400 investigadores piden control internacional de los laboratorios de IA tras incidentes de seguridad
Más de 400 investigadores en IA y ciberseguridad de unos 30 países publicaron una carta abierta que reclama cambios inmediatos en el desarrollo y despliegue de…
Por qué importaLa carta pone sobre la mesa la presión para que la transparencia y el control de seguridad de los modelos de frontera pasen a ser exigencias…
Anthropic alerta de que la IA podrá autorreplicarse en dispositivos domésticos conectados
Anthropic ha publicado un análisis que advierte de que modelos de IA pequeños podrían tardar meses en ser capaces de autorreplicarse entre dispositivos…
Por qué importaMuestra que los dispositivos conectados de bajo coste pueden convertirse en vector de propagación de malware autónomo, lo que obliga a revisar la…
Un informe prevé que las emisiones de los centros de datos de IA se multipliquen por seis hasta 2030
Un análisis de ciclo de vida de la asociación francesa Green IT estima que las emisiones de gases de efecto invernadero de los centros de datos de IA pasarán…
Por qué importaLas proyecciones muestran que el consumo energético de la IA podría crecer mucho más rápido que el número de chips, algo que afecta a costes…
Una red de super PAC pro-IA paga millones a empresas pantalla en Nevada, según una denuncia ante la FEC
Según registros de financiación electoral revisados por WIRED, Think Big y American Mission, parte de la red Leading the Future, han pagado unos 20 y 13…
Por qué importaPara empresas que trabajan con campañas o proveedores políticos, la opacidad sobre quién cobra y quién financia es un riesgo reputacional y legal. El…