Noticias etiquetadas con «armas biológicas»
17 noticias
En una audiencia del Parlamento británico, representantes de OpenAI y Anthropic afirmaron que los compromisos voluntarios no bastan y defendieron nuevas leyes…
Por qué importaMuestra una división pública entre los grandes laboratorios sobre si la seguridad de la IA debe regularse por ley, lo que puede anticipar el marco…
Según un informe citado por The Wall Street Journal, cientos de usuarios de distintos países preguntaron a ChatGPT cómo fabricar venenos y armas biológicas…
Por qué importaMuestra que los controles de seguridad de un asistente comercial pueden fallar ante consultas maliciosas reales, un riesgo legal y reputacional para…
El artículo recoge advertencias de expertos sobre cómo la combinación de IA, edición genética y biología sintética reduce algunas barreras técnicas para…
Por qué importaPlantea un riesgo de seguridad nacional y de salud pública emergente donde la IA actúa como acelerador de capacidades biotecnológicas peligrosas…
Wired entrevista a Annie Jacobsen sobre su libro 'Biological War: A Scenario', que analiza el riesgo de armas biológicas sin centrarse en la IA. Se menciona un…
Por qué importaEl artículo contextualiza el debate sobre IA y bioseguridad, mostrando que los riesgos de bioarmas preceden a la IA pero que los modelos de lenguaje…
Tras un informe de Anthropic sobre intentos de uso de Claude para fines biológicos peligrosos, varios científicos e investigadores (Stanford, Ginkgo Bioworks…
Por qué importaEl debate público sobre riesgo existencial de la IA influye en decisiones regulatorias y en la narrativa de las empresas de IA sobre seguridad, por…
Anthropic anunció que detectó posibles complots que usaban su modelo de IA Claude para presuntamente investigar sobre armas biológicas. La compañía enmarca el…
Por qué importaConfirma que los modelos de IA generativa avanzada pueden ser objeto de intentos de uso malicioso en dominios de alto riesgo como armas biológicas…
Anthropic informó que este año detectó y bloqueó varios intentos de usuarios que buscaban utilizar Claude para investigación relacionada con armas biológicas…
Por qué importaMuestra que los mecanismos de seguridad de los grandes modelos de lenguaje pueden ser burlados con técnicas de ofuscación, y que la línea entre…
Anthropic ha revelado que desarticuló varias operaciones maliciosas que intentaban usar su modelo Claude para actividades como destilación ilícita y desarrollo…
Por qué importaEvidencia riesgos de doble uso de modelos de IA avanzados en manos de actores malintencionados, y plantea la necesidad de controles de seguridad más…
Anthropic publicó el 10 de septiembre un informe sobre detección y combate del uso indebido de sus modelos de IA, en el que reconoce haber identificado y…
Por qué importaEs un reconocimiento explícito de un laboratorio líder de que sus salvaguardas actuales no pueden garantizar que modelos cada vez más capaces no…
Anthropic informó que detectó y bloqueó durante 2026 varios casos de uso indebido de sus modelos de IA, incluidos intentos de investigación que podrían…
Por qué importaEvidencia el riesgo de doble uso de los grandes modelos de lenguaje en contextos de seguridad nacional y vigilancia estatal, y presiona a las…
Anthropic publicó su cuarto informe sobre usos peligrosos de sus modelos, detallando el bloqueo de cinco casos vinculados a posible desarrollo de armas…
Por qué importaMuestra que los laboratorios de IA ya enfrentan intentos reales de uso malicioso de sus modelos para fines de doble uso biológico y armamentístico…
Anthropic publicó un informe sobre casos de uso indebido de sus modelos detectados y bloqueados en 2026, incluyendo investigaciones de posible finalidad en…
Por qué importaMuestra que los proveedores de LLM ya enfrentan intentos reales de uso dual peligroso y deben tomar decisiones de moderación con información…
Anthropic publicó un informe donde afirma haber paralizado varios casos de investigadores que usaban sus modelos de IA en experimentos con potencial de derivar…
Por qué importaMuestra que los laboratorios de IA están asumiendo un rol activo de vigilancia sobre usos de doble propósito, lo que anticipa mayor escrutinio y…
Anthropic informó que durante este año detectó y bloqueó varios casos en los que se usaron sus modelos de IA para investigaciones que podrían haber contribuido…
Por qué importaEl caso evidencia el riesgo de uso dual de los modelos de IA avanzados y la necesidad de sistemas de detección y bloqueo por parte de los…
Anthropic informó que detectó y bloqueó durante este año varios posibles complots que usaban sus modelos de IA para investigaciones que podrían contribuir al…
Por qué importaEvidencia el riesgo de doble uso de los modelos de IA avanzados y la necesidad de sistemas de detección y bloqueo, un tema clave para la gobernanza…
Anthropic publicó su informe de inteligencia de amenazas más detallado, describiendo cinco casos donde actores intentaron usar Claude para investigación…
Por qué importaMuestra que los modelos de IA fronteriza ya son objetivo activo de actores con posible respaldo estatal para investigación de doble uso en armas…
Anthropic ha alertado de que ha detectado y frenado posibles intentos de utilizar su tecnología de IA para el desarrollo de armas biológicas. La compañía…
Por qué importaEl caso pone de relieve el riesgo dual-use de los modelos avanzados de IA en dominios sensibles como la biología, y la dificultad de distinguir usos…
