Ir al contenido
IA para hoy

Legal, página 57

Noticias cuyo impacto empresarial afecta a legal

1996 noticias

Filtrar
Regulación y ética

Anthropic detalla ocho meses de abuso de Claude: misiles, drones autónomos, vigilancia masiva y destilación por laboratorios chinos

Anthropic publicó un informe de inteligencia de amenazas que cubre de diciembre 2025 a agosto 2026, documentando uso indebido de Claude en ciberoperaciones…

Por qué importaEl informe muestra que la autonomía de los agentes de IA reduce drásticamente el coste de ataques sofisticados, y que la sofisticación técnica ya no…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 9/10 The Decoder
Regulación y ética

Anthropic detecta intentos de usar Claude para investigación en armas biológicas

Anthropic informó que este año detectó y bloqueó varios intentos de usuarios que buscaban utilizar Claude para investigación relacionada con armas biológicas…

Por qué importaMuestra que los mecanismos de seguridad de los grandes modelos de lenguaje pueden ser burlados con técnicas de ofuscación, y que la línea entre…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Ars Technica AI
Regulación y ética

Anthropic detecta uso de Claude por un grupo vinculado a hutíes para desarrollar misiles

Anthropic informó que un grupo con sede en el norte de Yemen usó Claude para apoyar el desarrollo de cohetes guiados, un misil balístico de largo alcance y…

Por qué importaConfirma que los modelos de lenguaje avanzados pueden ser mal utilizados para fines de armamento militar, incluso sin lograr un resultado exitoso, lo…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Business Insider España
Regulación y ética

OpenAI evalúa ralentizar el desarrollo de IA ante preocupaciones de seguridad, según Bloomberg

Según Bloomberg, Sam Altman ha comunicado a empleados de OpenAI que la compañía podría moderar el ritmo de desarrollo de IA, tras haber desacelerado ya algunos…

Por qué importaSi el líder del sector modera su ritmo por razones de seguridad, podría marcar un precedente que influya en la percepción regulatoria y en la…

Impacto bajo Fiabilidad confirmado por varias fuentes 20minutos Tecnología
Regulación y ética

OpenAI consulta al Congreso de EE.UU. sobre la legalidad de coordinar una ralentización de la IA con otros laboratorios

OpenAI ha preguntado a miembros del Congreso de EE.UU. si sería legal coordinar con otros laboratorios de IA una ralentización del desarrollo, según WIRED. La…

Por qué importaMuestra que los propios líderes del sector reconocen riesgos de seguridad graves y buscan cobertura legal para actuar colectivamente, lo que podría…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 The Decoder
Regulación y ética

Anthropic detecta intentos de usar Claude para crear armas biológicas y destilación ilícita vinculados a China

Anthropic ha revelado que desarticuló varias operaciones maliciosas que intentaban usar su modelo Claude para actividades como destilación ilícita y desarrollo…

Por qué importaEvidencia riesgos de doble uso de modelos de IA avanzados en manos de actores malintencionados, y plantea la necesidad de controles de seguridad más…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Europa Press Portaltic
Regulación y ética

Anthropic admite que no puede descartar que Claude contribuya al desarrollo de armas biológicas

Anthropic publicó el 10 de septiembre un informe sobre detección y combate del uso indebido de sus modelos de IA, en el que reconoce haber identificado y…

Por qué importaEs un reconocimiento explícito de un laboratorio líder de que sus salvaguardas actuales no pueden garantizar que modelos cada vez más capaces no…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Xataka
Regulación y ética

Trump minimiza los riesgos existenciales de la IA y prioriza la carrera tecnológica con China

Donald Trump declaró en Dallas que no le preocupan las advertencias sobre riesgos existenciales de la IA, priorizando el liderazgo frente a China. La semana…

Por qué importaMarca la postura oficial de EEUU frente al debate sobre seguridad de la IA, favoreciendo la velocidad de desarrollo sobre la cautela, lo que puede…

Impacto bajo Fiabilidad confirmado por varias fuentes El Español Omicrono
Empresa y transformación digital

Demanda colectiva acusa a Anthropic de engañar con los límites de uso de Claude

Una demanda colectiva, reportada por The Verge, acusa a Anthropic de tergiversar cuánto uso real obtienen los suscriptores de Claude. Los planes Max cuestan…

Por qué importaCuestiona la transparencia en la comercialización de límites de uso de servicios de IA por suscripción, un problema que podría extenderse a otros…

Impacto bajo Fiabilidad declaración interesada The Decoder
Sociedad y trabajo

Inversor inicial de OpenAI advierte que la sociedad no actuará ante riesgos de la IA hasta que cause muertes

Greg Jensen, codirector de inversiones de Bridgewater Associates e inversor temprano en OpenAI y Anthropic, advirtió en el pódcast Odd Lots de Bloomberg que la…

Por qué importaLas declaraciones de una figura con credibilidad técnica y financiera —no un tecnófobo, sino un inversor pionero en IA— añaden peso al debate sobre…

Impacto bajo Fiabilidad declaración interesada Business Insider España
Sociedad y trabajo

Investigadores de IA renuncian y advierten sobre riesgo existencial de la autosuperación recursiva

Un exinvestigador de Google DeepMind, Rishub Jain, y el investigador de Anthropic Jacob Coxon renunciaron citando temores sobre la autosuperación recursiva de…

Por qué importaLas advertencias provienen de insiders con acceso directo a los laboratorios de frontera, lo que eleva la credibilidad del debate sobre riesgos…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Wired AI
Regulación y ética

El reparto del acuerdo de 1.500 millones de dólares de Anthropic por libros piratas genera disputas entre autores y editoriales

Anthropic debe pagar 3.000 dólares por cada uno de los más de 482.000 libros descargados ilegalmente para entrenar Claude, en el mayor acuerdo por derechos de…

Por qué importaEl caso muestra que los acuerdos por uso ilegal de contenido en entrenamiento de IA generan disputas complejas sobre titularidad de derechos, más…

Impacto bajo Fiabilidad declaración interesada The Decoder
Regulación y ética

Anthropic revela que Irán, China y Rusia usaron Claude para ciberespionaje y planificación militar

Anthropic publicó un informe de 154 páginas donde detalla el uso indebido de Claude por actores estatales de Irán, Rusia, China y Yemen durante los últimos…

Por qué importaDemuestra que los modelos de IA comerciales pueden ser explotados por actores estatales con fines de inteligencia y planificación militar pese a…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 El Español Omicrono
Herramientas y productos

Instinct, agente de IA valorado en 2.500 millones, da a cada usuario un email propio para actuar sin supervisión

Noah Shinn, fundador de Instinct, anunció el 8 de septiembre que el agente de IA tendrá su propia dirección de email para crear cuentas, confirmar reservas y…

Por qué importaEs un paso hacia agentes con identidad y capacidad de contratación propia, lo que amplía el alcance de obligaciones vinculantes que un usuario asume…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 WWWhat's new
Regulación y ética

Informe del Congreso de EEUU compara el riesgo de la IA con los fallos previos al 11-S

El Comité Permanente de Inteligencia de la Cámara de Representantes de EEUU publicó un informe que revisa el cumplimiento de las recomendaciones de la Comisión…

Por qué importaEl documento refleja una preocupación bipartidista de alto nivel en EEUU por integrar la IA en la estrategia de seguridad nacional, lo que puede…

Impacto bajo Fiabilidad declaración interesada Business Insider España
Regulación y ética

Anthropic bloquea uso de Claude por Irán para planear ataques y bioarmas

Anthropic informó que detectó y bloqueó durante 2026 varios casos de uso indebido de sus modelos de IA, incluidos intentos de investigación que podrían…

Por qué importaEvidencia el riesgo de doble uso de los grandes modelos de lenguaje en contextos de seguridad nacional y vigilancia estatal, y presiona a las…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 La Vanguardia Tecnología
Empresa y transformación digital

Sam Altman se abre a ralentizar el desarrollo de IA de vanguardia en OpenAI

En una reunión interna, Sam Altman comunicó a empleados de OpenAI que la empresa podría ralentizar su desarrollo de IA de vanguardia, posiblemente en…

Por qué importaEs un giro relevante en el discurso público de OpenAI, que hasta ahora había defendido acelerar el desarrollo, y sugiere presión interna creciente…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Business Insider España
Regulación y ética

Trump descarta riesgo existencial de la IA y prioriza la ventaja frente a China

Donald Trump declaró a periodistas que no le preocupa que la IA pueda extinguir a la humanidad, y afirmó que su prioridad es mantener la ventaja tecnológica de…

Por qué importaLas declaraciones muestran que la posición oficial de EEUU frente a la IA prioriza la competitividad geopolítica sobre la cautela regulatoria…

Impacto bajo Fiabilidad confirmado por varias fuentes Business Insider España
Regulación y ética

OpenAI pregunta al Congreso si un pacto para ralentizar la IA violaría leyes antimonopolio

OpenAI ha pedido a miembros del Congreso de EE.UU. orientación sobre si coordinar una ralentización del desarrollo de IA de frontera entre laboratorios sería…

Por qué importaEl debate revela una tensión real entre competencia comercial feroz y preocupaciones genuinas de seguridad, y podría redefinir el marco legal para la…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 Wired AI
Regulación y ética

Investigador que renunció a Anthropic advierte que los próximos dos años definirán el riesgo existencial de la IA

Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció y publicó en X una advertencia sobre riesgos existenciales de la IA que superó los 100 millones de…

Por qué importaEstas declaraciones de insiders añaden presión pública y regulatoria sobre los laboratorios de IA justo cuando Anthropic prepara una posible salida a…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Wired en Español
Regulación y ética

Anthropic revela usos de Claude en investigación biológica de riesgo y campañas de propaganda iraníes

Anthropic publicó un informe de su equipo de inteligencia de amenazas donde identificó cinco casos de posible uso indebido de sus modelos Claude (Haiku…

Por qué importaEl caso muestra que los sistemas de seguridad de los grandes modelos de IA pueden ser evadidos por actores sofisticados, incluidos programas…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Wired en Español
Regulación y ética

Anthropic bloquea cinco intentos de uso malicioso de Claude para desarrollo de armas biológicas

Anthropic publicó su cuarto informe sobre usos peligrosos de sus modelos, detallando el bloqueo de cinco casos vinculados a posible desarrollo de armas…

Por qué importaMuestra que los laboratorios de IA ya enfrentan intentos reales de uso malicioso de sus modelos para fines de doble uso biológico y armamentístico…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Infobae Tecno
Regulación y ética

Anthropic denuncia campañas masivas de destilación de Claude por Alibaba, Moonshot AI y DeepSeek

Anthropic publicó un informe que detalla cinco campañas de destilación no autorizadas dirigidas a extraer capacidades de Claude, con casi 200 millones de…

Por qué importaEstas campañas muestran cómo laboratorios rivales intentan copiar capacidades avanzadas de razonamiento de los modelos líderes de EE.UU. mediante…

Impacto medio Fiabilidad varias fuentes Relevancia 8/10 TechCrunch AI
Regulación y ética

Informe de la ONU y renuncia de un exingeniero reavivan el debate sobre pérdida de control de la IA

Jacob Coxon, exingeniero de OpenAI y Anthropic, dimitió y alertó públicamente de que la IA podría representar un riesgo existencial en los próximos años. El…

Por qué importaEl debate conecta advertencias individuales con un consenso científico institucional que reclama nuevos mecanismos de supervisión y gobernanza para…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 eldiario.es Tecnología