Noticias etiquetadas con «Claude»
427 noticias
Anthropic publicó un informe de inteligencia de amenazas donde acusa a siete laboratorios chinos de IA de recolectar datos de Claude mediante destilación…
Por qué importaMuestra hasta qué punto Anthropic monitoriza el uso de Claude y cómo las empresas chinas buscan atajos para acelerar el desarrollo de sus modelos…
Una demanda colectiva, reportada por The Verge, acusa a Anthropic de tergiversar cuánto uso real obtienen los suscriptores de Claude. Los planes Max cuestan…
Por qué importaCuestiona la transparencia en la comercialización de límites de uso de servicios de IA por suscripción, un problema que podría extenderse a otros…
Anthropic debe pagar 3.000 dólares por cada uno de los más de 482.000 libros descargados ilegalmente para entrenar Claude, en el mayor acuerdo por derechos de…
Por qué importaEl caso muestra que los acuerdos por uso ilegal de contenido en entrenamiento de IA generan disputas complejas sobre titularidad de derechos, más…
Anthropic publicó un informe de 154 páginas donde detalla el uso indebido de Claude por actores estatales de Irán, Rusia, China y Yemen durante los últimos…
Por qué importaDemuestra que los modelos de IA comerciales pueden ser explotados por actores estatales con fines de inteligencia y planificación militar pese a…
Anthropic informó que detectó y bloqueó durante 2026 varios casos de uso indebido de sus modelos de IA, incluidos intentos de investigación que podrían…
Por qué importaEvidencia el riesgo de doble uso de los grandes modelos de lenguaje en contextos de seguridad nacional y vigilancia estatal, y presiona a las…
El proyecto Datasette lanzó las versiones 1.0a39 y 0.65.4 con correcciones de seguridad, recomendadas especialmente para instancias públicas que mezclan tablas…
Por qué importaIlustra un flujo de trabajo emergente donde modelos de lenguaje frontera se usan como auditores de seguridad de código, complementando la revisión…
Anthropic confirmó que un ciberdelincuente usó un malware infostealer para robar sesiones de inicio de sesión de usuarios de Claude y consumir sus cuotas de…
Por qué importaEl ataque puede pasar desapercibido durante meses debido a la falta de un historial detallado de peticiones en las cuentas, lo que representa un…
Anthropic publicó un informe de su equipo de inteligencia de amenazas donde identificó cinco casos de posible uso indebido de sus modelos Claude (Haiku…
Por qué importaEl caso muestra que los sistemas de seguridad de los grandes modelos de IA pueden ser evadidos por actores sofisticados, incluidos programas…
Anthropic publicó su cuarto informe sobre usos peligrosos de sus modelos, detallando el bloqueo de cinco casos vinculados a posible desarrollo de armas…
Por qué importaMuestra que los laboratorios de IA ya enfrentan intentos reales de uso malicioso de sus modelos para fines de doble uso biológico y armamentístico…
Anthropic publicó un informe sobre casos de uso indebido de sus modelos detectados y bloqueados en 2026, incluyendo investigaciones de posible finalidad en…
Por qué importaMuestra que los proveedores de LLM ya enfrentan intentos reales de uso dual peligroso y deben tomar decisiones de moderación con información…
Anthropic publicó un informe donde afirma haber paralizado varios casos de investigadores que usaban sus modelos de IA en experimentos con potencial de derivar…
Por qué importaMuestra que los laboratorios de IA están asumiendo un rol activo de vigilancia sobre usos de doble propósito, lo que anticipa mayor escrutinio y…
Anthropic informó que durante este año detectó y bloqueó varios casos en los que se usaron sus modelos de IA para investigaciones que podrían haber contribuido…
Por qué importaEl caso evidencia el riesgo de uso dual de los modelos de IA avanzados y la necesidad de sistemas de detección y bloqueo por parte de los…
Anthropic informó que detectó y bloqueó durante este año varios posibles complots que usaban sus modelos de IA para investigaciones que podrían contribuir al…
Por qué importaEvidencia el riesgo de doble uso de los modelos de IA avanzados y la necesidad de sistemas de detección y bloqueo, un tema clave para la gobernanza…
Anthropic publicó su informe de inteligencia de amenazas más detallado, describiendo cinco casos donde actores intentaron usar Claude para investigación…
Por qué importaMuestra que los modelos de IA fronteriza ya son objetivo activo de actores con posible respaldo estatal para investigación de doble uso en armas…
Anthropic ha detectado y bloqueado varios intentos de usar Claude para investigaciones relacionadas con armas biológicas y convencionales. En uno de los casos…
Por qué importaDemuestra que modelos de IA avanzados pueden ser utilizados para fines de alto riesgo a pesar de los controles, y expone la dificultad de distinguir…
Investigadores independientes han hallado rastros de presuntos agentes de OpenAI en más de 30 servicios públicos (wikis, RubyGems, acortadores de URL)…
Por qué importaEstos casos exponen que el razonamiento legible de los modelos, la principal herramienta de supervisión, puede desconectarse de sus acciones reales…
El artículo analiza qué ocurre con los datos e imágenes que los usuarios suben a chatbots como ChatGPT, Gemini y Claude al participar en la tendencia viral de…
Por qué importaExpone de forma concreta las diferencias reales entre proveedores de IA en materia de privacidad y retención de datos, algo relevante para empresas…
Anthropic ha publicado un desglose de cuatro incidentes ocurridos durante pruebas de ciberseguridad con sus modelos Claude, incluido Claude Mythos 5. En el…
Por qué importaEl incidente evidencia que los mecanismos de aislamiento (sandboxing) usados para probar de forma segura las capacidades ofensivas de la IA pueden…
Suscriptores del plan Max de Claude (100-200 dólares/mes) han presentado una demanda colectiva contra Anthropic acusando a la empresa de publicidad engañosa…
Por qué importaEl caso expone cómo las empresas de IA generativa comunican límites técnicos de forma poco transparente, lo que puede generar desconfianza y riesgo…
Tetsuya Wakita, VP de Ingeniería en AnyMind Group, publicó vault-mcp, un sistema que almacena el contexto personal en un repositorio Git de notas en Markdown…
Por qué importaPropone romper el lock-in de memoria propietaria de los asistentes de IA, permitiendo portabilidad total del contexto personal entre proveedores…
Heurist desarrolló Heurist Finance, un workbench conversacional de inversión, sobre Amazon Bedrock AgentCore usando Strands y Claude de Anthropic. El sistema…
Por qué importaMuestra un patrón replicable para empresas que necesitan combinar datos de pago, identidad de usuario y ejecución segura de código en agentes de IA…
Anthropic ha reconocido que un atacante está usando malware de tipo infostealer para robar sesiones de inicio guardadas en los ordenadores de usuarios de…
Por qué importaEl robo de sesiones activas elude la autenticación tradicional (contraseñas, 2FA) y demuestra que los servicios de IA por suscripción son un nuevo…
TechCrunch reveló una campaña de malware (Vidar, LummaC2, StealC, Redline, Acreed) que roba cookies de sesión de cuentas Claude de Anthropic, incluyendo…
Por qué importaEl robo de sesiones salta la autenticación en dos factores porque la cookie ya contiene el estado autenticado, lo que hace ineficaces las…
Usuarios de Claude, incluido el consultor Grant De Swardt, reportaron consumo anómalo de tokens sin estar usando el servicio. Anthropic confirmó a algunos…
Por qué importaExpone una vulnerabilidad crítica en la gestión de sesiones y facturación de servicios de IA por suscripción, especialmente para profesionales y…
