Leyes, normativas, seguridad, privacidad y debate social
2031 noticias · RSS de esta sección
Meta anunció cambios en las sugerencias generadas por su chatbot de IA después de que un video viral mostrara al sistema preguntando datos personales sobre las…
Por qué importaMuestra los riesgos de privacidad y seguridad infantil en funciones de IA generativa integradas en redes sociales masivas, lo que puede generar…
Anthropic publicó un informe de inteligencia de amenazas que cubre de diciembre 2025 a agosto 2026, documentando uso indebido de Claude en ciberoperaciones…
Por qué importaEl informe muestra que la autonomía de los agentes de IA reduce drásticamente el coste de ataques sofisticados, y que la sofisticación técnica ya no…
Anthropic informó que este año detectó y bloqueó varios intentos de usuarios que buscaban utilizar Claude para investigación relacionada con armas biológicas…
Por qué importaMuestra que los mecanismos de seguridad de los grandes modelos de lenguaje pueden ser burlados con técnicas de ofuscación, y que la línea entre…
Anthropic informó que un grupo con sede en el norte de Yemen usó Claude para apoyar el desarrollo de cohetes guiados, un misil balístico de largo alcance y…
Por qué importaConfirma que los modelos de lenguaje avanzados pueden ser mal utilizados para fines de armamento militar, incluso sin lograr un resultado exitoso, lo…
Según Bloomberg, Sam Altman ha comunicado a empleados de OpenAI que la compañía podría moderar el ritmo de desarrollo de IA, tras haber desacelerado ya algunos…
Por qué importaSi el líder del sector modera su ritmo por razones de seguridad, podría marcar un precedente que influya en la percepción regulatoria y en la…
OpenAI ha preguntado a miembros del Congreso de EE.UU. si sería legal coordinar con otros laboratorios de IA una ralentización del desarrollo, según WIRED. La…
Por qué importaMuestra que los propios líderes del sector reconocen riesgos de seguridad graves y buscan cobertura legal para actuar colectivamente, lo que podría…
Anthropic ha revelado que desarticuló varias operaciones maliciosas que intentaban usar su modelo Claude para actividades como destilación ilícita y desarrollo…
Por qué importaEvidencia riesgos de doble uso de modelos de IA avanzados en manos de actores malintencionados, y plantea la necesidad de controles de seguridad más…
El Gobierno de España prepara un Real Decreto que obliga a los centros de datos de más de 1 MW a cubrir el 80% de su consumo con autoconsumo renovable o PPA…
Por qué importaLa medida busca evitar que el auge de centros de datos vinculado a la IA encarezca la factura eléctrica de hogares y empresas, como ha ocurrido en…
Anthropic publicó el 10 de septiembre un informe sobre detección y combate del uso indebido de sus modelos de IA, en el que reconoce haber identificado y…
Por qué importaEs un reconocimiento explícito de un laboratorio líder de que sus salvaguardas actuales no pueden garantizar que modelos cada vez más capaces no…
Donald Trump declaró en Dallas que no le preocupan las advertencias sobre riesgos existenciales de la IA, priorizando el liderazgo frente a China. La semana…
Por qué importaMarca la postura oficial de EEUU frente al debate sobre seguridad de la IA, favoreciendo la velocidad de desarrollo sobre la cautela, lo que puede…
Anthropic publicó un informe de inteligencia de amenazas donde acusa a siete laboratorios chinos de IA de recolectar datos de Claude mediante destilación…
Por qué importaMuestra hasta qué punto Anthropic monitoriza el uso de Claude y cómo las empresas chinas buscan atajos para acelerar el desarrollo de sus modelos…
Anthropic debe pagar 3.000 dólares por cada uno de los más de 482.000 libros descargados ilegalmente para entrenar Claude, en el mayor acuerdo por derechos de…
Por qué importaEl caso muestra que los acuerdos por uso ilegal de contenido en entrenamiento de IA generan disputas complejas sobre titularidad de derechos, más…
Anthropic publicó un informe de 154 páginas donde detalla el uso indebido de Claude por actores estatales de Irán, Rusia, China y Yemen durante los últimos…
Por qué importaDemuestra que los modelos de IA comerciales pueden ser explotados por actores estatales con fines de inteligencia y planificación militar pese a…
Según Bloomberg, Sam Altman comunicó a empleados de OpenAI que la compañía podría moderar el ritmo de desarrollo de IA de vanguardia, posiblemente…
Por qué importaUn posible pacto entre los principales laboratorios para frenar el ritmo de desarrollo marcaría un cambio en la dinámica competitiva que hasta ahora…
El Comité Permanente de Inteligencia de la Cámara de Representantes de EEUU publicó un informe que revisa el cumplimiento de las recomendaciones de la Comisión…
Por qué importaEl documento refleja una preocupación bipartidista de alto nivel en EEUU por integrar la IA en la estrategia de seguridad nacional, lo que puede…
Anthropic informó que detectó y bloqueó durante 2026 varios casos de uso indebido de sus modelos de IA, incluidos intentos de investigación que podrían…
Por qué importaEvidencia el riesgo de doble uso de los grandes modelos de lenguaje en contextos de seguridad nacional y vigilancia estatal, y presiona a las…
Donald Trump declaró a periodistas que no le preocupa que la IA pueda extinguir a la humanidad, y afirmó que su prioridad es mantener la ventaja tecnológica de…
Por qué importaLas declaraciones muestran que la posición oficial de EEUU frente a la IA prioriza la competitividad geopolítica sobre la cautela regulatoria…
Anthropic confirmó que un ciberdelincuente usó un malware infostealer para robar sesiones de inicio de sesión de usuarios de Claude y consumir sus cuotas de…
Por qué importaEl ataque puede pasar desapercibido durante meses debido a la falta de un historial detallado de peticiones en las cuentas, lo que representa un…
Google, a través de su Grupo de Inteligencia sobre Amenazas (GTIG), reportó un caso en el que hackers comprometieron recursos en la nube de una empresa y en…
Por qué importaLa automatización del ciclo completo de ataque mediante agentes autónomos reduce drásticamente los tiempos de respuesta disponibles para los equipos…
OpenAI ha pedido a miembros del Congreso de EE.UU. orientación sobre si coordinar una ralentización del desarrollo de IA de frontera entre laboratorios sería…
Por qué importaEl debate revela una tensión real entre competencia comercial feroz y preocupaciones genuinas de seguridad, y podría redefinir el marco legal para la…
Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció y publicó en X una advertencia sobre riesgos existenciales de la IA que superó los 100 millones de…
Por qué importaEstas declaraciones de insiders añaden presión pública y regulatoria sobre los laboratorios de IA justo cuando Anthropic prepara una posible salida a…
Anthropic publicó un informe de su equipo de inteligencia de amenazas donde identificó cinco casos de posible uso indebido de sus modelos Claude (Haiku…
Por qué importaEl caso muestra que los sistemas de seguridad de los grandes modelos de IA pueden ser evadidos por actores sofisticados, incluidos programas…
Anthropic publicó su cuarto informe sobre usos peligrosos de sus modelos, detallando el bloqueo de cinco casos vinculados a posible desarrollo de armas…
Por qué importaMuestra que los laboratorios de IA ya enfrentan intentos reales de uso malicioso de sus modelos para fines de doble uso biológico y armamentístico…
Anthropic publicó un informe que detalla cinco campañas de destilación no autorizadas dirigidas a extraer capacidades de Claude, con casi 200 millones de…
Por qué importaEstas campañas muestran cómo laboratorios rivales intentan copiar capacidades avanzadas de razonamiento de los modelos líderes de EE.UU. mediante…
