Ir al contenido
IA para hoy

Legal, página 58

Noticias cuyo impacto empresarial afecta a legal

1996 noticias

Filtrar
Regulación y ética

Anthropic afirma haber bloqueado intentos de usar Claude en armas biológicas y de fuego

Anthropic publicó un informe sobre casos de uso indebido de sus modelos detectados y bloqueados en 2026, incluyendo investigaciones de posible finalidad en…

Por qué importaMuestra que los proveedores de LLM ya enfrentan intentos reales de uso dual peligroso y deben tomar decisiones de moderación con información…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 El Periódico Tecnología
Regulación y ética

Anthropic dice haber bloqueado usos de Claude en investigaciones con riesgo de armas biológicas

Anthropic publicó un informe donde afirma haber paralizado varios casos de investigadores que usaban sus modelos de IA en experimentos con potencial de derivar…

Por qué importaMuestra que los laboratorios de IA están asumiendo un rol activo de vigilancia sobre usos de doble propósito, lo que anticipa mayor escrutinio y…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 ABC Tecnología
Regulación y ética

Anthropic dice haber bloqueado intentos de usar Claude para investigar armas biológicas

Anthropic informó que durante este año detectó y bloqueó varios casos en los que se usaron sus modelos de IA para investigaciones que podrían haber contribuido…

Por qué importaEl caso evidencia el riesgo de uso dual de los modelos de IA avanzados y la necesidad de sistemas de detección y bloqueo por parte de los…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 7/10 eldiario.es Tecnología
Regulación y ética

Anthropic dice haber bloqueado intentos de usar Claude en investigación de armas biológicas

Anthropic informó que detectó y bloqueó durante este año varios posibles complots que usaban sus modelos de IA para investigaciones que podrían contribuir al…

Por qué importaEvidencia el riesgo de doble uso de los modelos de IA avanzados y la necesidad de sistemas de detección y bloqueo, un tema clave para la gobernanza…

Impacto bajo Fiabilidad confirmado por varias fuentes 20minutos Tecnología
Regulación y ética

Anthropic detalla intentos de usar Claude para investigación bioarmamentística de alto riesgo

Anthropic publicó su informe de inteligencia de amenazas más detallado, describiendo cinco casos donde actores intentaron usar Claude para investigación…

Por qué importaMuestra que los modelos de IA fronteriza ya son objetivo activo de actores con posible respaldo estatal para investigación de doble uso en armas…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 El Confidencial Tecnología
Regulación y ética

Clearview AI desarrolla InquiryIQ, herramienta con IA para perfilar personas a partir de una foto

WIRED reveló que Clearview AI está probando InquiryIQ, un prototipo de IA que expande automáticamente la información sobre una persona identificada por…

Por qué importaMuestra cómo la IA generativa puede automatizar investigaciones de vigilancia masiva, reduciendo el costo de perfilar a cualquier persona y…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Wired en Español
Regulación y ética

Anthropic dice haber bloqueado intentos de usar su IA para desarrollar armas biológicas

Anthropic ha alertado de que ha detectado y frenado posibles intentos de utilizar su tecnología de IA para el desarrollo de armas biológicas. La compañía…

Por qué importaEl caso pone de relieve el riesgo dual-use de los modelos avanzados de IA en dominios sensibles como la biología, y la dificultad de distinguir usos…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 El País Tecnología
Regulación y ética

Anthropic detecta intentos de usar Claude para desarrollar armas biológicas y convencionales

Anthropic ha detectado y bloqueado varios intentos de usar Claude para investigaciones relacionadas con armas biológicas y convencionales. En uno de los casos…

Por qué importaDemuestra que modelos de IA avanzados pueden ser utilizados para fines de alto riesgo a pesar de los controles, y expone la dificultad de distinguir…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 El Español Omicrono
Empresa y transformación digital

Google gana subasta de datos operativos de Spirit Airlines en bancarrota, surgen dudas de propiedad de IP

En el proceso de bancarrota de Spirit Airlines, Google ganó una subasta para adquirir un gran conjunto de datos operativos de la aerolínea. Doug Kreuzkamp…

Por qué importaEl caso plantea un precedente sobre cómo los procesos de bancarrota pueden usarse para transferir datos y activos de IA de terceros sin su…

Impacto medio Fiabilidad una fuente fiable Ars Technica AI
Educación

Microsoft y sindicatos docentes de EE.UU. firman estándar vinculante de privacidad de IA en escuelas

El 7 de septiembre de 2026, la AFT, la UFT y Microsoft firmaron un Memorando de Acuerdo con un Estándar Nacional de Seguridad y Privacidad de IA para Escuelas…

Por qué importaConvierte promesas informales de privacidad en obligaciones contractuales con cláusulas de daños, sentando un precedente que puede presionar a otros…

Impacto bajo Fiabilidad declaración interesada WWWhat's new
Sociedad y trabajo

Expertos debaten la advertencia de Anthropic sobre riesgo existencial de la IA

Un investigador de alineación de Anthropic afirmó en X que existe más de un 10% de probabilidad de que la IA acabe con la humanidad en la próxima década. La…

Por qué importaEl debate expone la tensión entre el discurso de riesgo existencial promovido por las propias empresas de IA y los problemas prácticos ya presentes…

Impacto bajo Fiabilidad confirmado por varias fuentes La Nación Tecnología
Regulación y ética

Exportavoz de DeepMind revela que el laboratorio prohibió hablar públicamente de riesgo existencial de la IA

Vishal Maini, que trabajó en comunicación y políticas de DeepMind entre 2018 y 2022, afirma que la empresa prohibía a cualquier empleado, a cualquier nivel…

Por qué importaEl testimonio expone una brecha entre el conocimiento interno sobre riesgos de la IA avanzada y el mensaje público de una de las principales empresas…

Impacto bajo Fiabilidad confirmado por varias fuentes The Decoder
Herramientas y productos

AWS presenta un detector de PII basado en LLMs adaptable a cualquier modelo de Bedrock

AWS publica un detector de información personal identificable (PII) que usa LLMs alojados en Amazon Bedrock, configurable mediante instrucciones de prompt en…

Por qué importaDetectar y limpiar PII en datos de entrenamiento y textos corporativos es crítico para cumplir normativas de privacidad y evitar fugas de datos al…

Impacto bajo Fiabilidad una fuente fiable AWS Machine Learning Blog
Sociedad y trabajo

Qué pasa con tus datos al usar la tendencia viral de fotos estilo años 80 en ChatGPT

El artículo analiza qué ocurre con los datos e imágenes que los usuarios suben a chatbots como ChatGPT, Gemini y Claude al participar en la tendencia viral de…

Por qué importaExpone de forma concreta las diferencias reales entre proveedores de IA en materia de privacidad y retención de datos, algo relevante para empresas…

Impacto bajo Fiabilidad una fuente fiable Wired en Español
Regulación y ética

Fiscalía de San Francisco exige a Meta explicar anuncios de abuso infantil generados con IA

El fiscal de San Francisco, David Chiu, envió a Meta una carta de cese y desistimiento tras un informe de WIRED que documentó más de 350 anuncios con contenido…

Por qué importaEl caso expone fallos graves en los sistemas de revisión publicitaria automatizada de una gran plataforma frente a contenido ilegal generado con IA…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Wired en Español
Regulación y ética

Investigador de Anthropic estima más de 10% de riesgo de extinción humana por IA en una década

Evan Hubinger, investigador de seguridad de Anthropic, respaldó públicamente la renuncia y críticas de Jacob Coxon, exempleado que dejó la compañía el 8 de…

Por qué importaLa admisión pública de un investigador activo en un laboratorio líder, reconociendo falta de soluciones de alineación mientras la empresa prepara una…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 ITSitio
Herramientas y productos

Universal Music y ElevenLabs lanzarán plataforma de IA para remixes con catálogo licenciado

Universal Music Group anunció el jueves una nueva plataforma con IA que permitirá a usuarios crear remixes, mashups y variaciones de canciones a partir de su…

Por qué importaMarca un modelo de negocio donde las discográficas licencian activamente su catálogo para generación de IA en vez de litigar, algo relevante para la…

Impacto bajo Fiabilidad una fuente fiable The Verge AI
Sociedad y trabajo

Estudio detecta aumento masivo de solicitudes a servicios públicos por uso de IA generativa

Un estudio de Chris Schmitz, que se presentará en la conferencia AI Ethics and Society, analiza 84 casos en 11 jurisdicciones y documenta fuertes aumentos en…

Por qué importaEl fenómeno, denominado 'agentic flooding', muestra cómo la IA generativa reduce la barrera de entrada para trámites burocráticos, generando un…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 TechCrunch AI
Sociedad y trabajo

Exinvestigador de Anthropic advierte sobre riesgo existencial de la IA y pide regulación internacional

Jacob Coxon, exinvestigador que renunció a OpenAI y Anthropic, publicó un hilo viral en X con más de 100 millones de visitas y dio entrevistas a Fox News, NBC…

Por qué importaEl debate sobre riesgo existencial y la dinámica de carrera comercial entre laboratorios líderes puede acelerar presiones regulatorias…

Impacto bajo Fiabilidad confirmado por varias fuentes Ámbito Tecnología
Regulación y ética

El catastrofismo sobre riesgos existenciales de la IA se politiza en EEUU antes de las midterms

El exingeniero de Anthropic Jacob Coxon dimitió advirtiendo que la IA podría matarnos antes de que acabe la década, acusando a Anthropic y OpenAI de actuar de…

Por qué importaEl debate sobre riesgos existenciales de la IA está pasando de círculos técnicos a la agenda electoral estadounidense, lo que puede acelerar…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 El Periódico Tecnología
Herramientas y productos

Apple presenta 'Reference Image' en iPhone 18 Pro para verificar fotos frente a imágenes generadas por IA

Apple anunció la función Apple Reference Image para el iPhone 18 Pro y Pro Max, que captura datos firmados del sensor y usa Private Cloud Compute para generar…

Por qué importaEs un intento de una gran fabricante de establecer un estándar de autenticidad fotográfica verificable por hardware, relevante en un contexto de…

Impacto bajo Fiabilidad confirmado por varias fuentes Infobae Tecno
Sociedad y trabajo

Un exingeniero de Anthropic y OpenAI alerta en CNN sobre riesgos existenciales de la IA

Jacob Coxon, exinvestigador de Anthropic y OpenAI, ha declarado en CNN que dimitió por considerar que la IA supone un riesgo existencial y que las empresas…

Por qué importaEstas declaraciones, sumadas a las de otros insiders, alimentan el debate sobre la falta de transparencia de los laboratorios líderes respecto a los…

Impacto bajo Fiabilidad confirmado por varias fuentes eldiario.es Tecnología
Investigación

OpenAI dice haber resuelto Navier-Stokes con 10.000 agentes de IA en 88 horas, entre dudas sobre el mérito

OpenAI afirma que un sistema experimental con cerca de 10.000 agentes de IA, superior a GPT-6 Astra, resolvió en 88 horas el problema de Navier-Stokes, uno de…

Por qué importaEl caso muestra el potencial de sistemas multiagente para acelerar investigación científica compleja, pero también expone riesgos de atribución y…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 20minutos Tecnología
Regulación y ética

Investigador de seguridad de Anthropic estima más de 10% de riesgo existencial de IA en la próxima década

Evan Hubinger, investigador de alineación de Anthropic, publicó el 9 de septiembre de 2026 en X que estima una probabilidad superior al 10% de que la IA 'pueda…

Por qué importaEs una advertencia interna, no externa, sobre el ritmo de capacidades frente a la capacidad de control, lo que eleva el peso epistémico del mensaje…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 WWWhat's new