Ir al contenido
IA para hoy

Regulación y ética, página 46

Leyes, normativas, seguridad, privacidad y debate social

2022 noticias · RSS de esta sección

Filtrar
Regulación y ética

UE plantea modificar el RGPD para permitir a grandes IA usar libremente datos de ciudadanos

La presidencia irlandesa de la UE propondrá a los Estados miembros que el uso de datos personales 'en el contexto de la IA' sea automáticamente legal, según un…

Por qué importaSupondría un debilitamiento significativo del marco de protección de datos europeo justo cuando las grandes tecnológicas presionan por más acceso a…

Impacto alto Fiabilidad varias fuentes Relevancia 9/10 El País Tecnología
Regulación y ética

El CEO de Palantir, Alex Karp, plantea nacionalizar empresas de IA por los riesgos legales que conllevan

Alex Karp, CEO de Palantir, afirmó en CNBC que las empresas de IA podrían tener que ser nacionalizadas debido a los 'riesgos ilimitados' que plantean y a la…

Por qué importaUn ejecutivo con contratos gubernamentales y de defensa como Karp plantea públicamente que el Estado podría asumir directamente el control de…

Impacto bajo Fiabilidad una fuente fiable El Confidencial Tecnología
Regulación y ética

China regula agentes de IA por riesgo geopolítico mientras EEUU carece de política nacional equivalente

El ministro de Seguridad del Estado de China, Chen Yixin, publicó un artículo en China Cyberspace advirtiendo sobre riesgos de la IA para la seguridad política…

Por qué importaLa divergencia regulatoria entre las dos potencias de IA condiciona qué modelos y agentes serán más fiables y auditables para uso empresarial en…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 El Español Omicrono
Regulación y ética

Debate en la industria de IA sobre si líderes como Amodei y Altman buscan realmente frenar el desarrollo

En el podcast Equity de TechCrunch se debate el plan de Dario Amodei (Anthropic) de 'pace the frontier', que propone evaluadores externos independientes y…

Por qué importaRevela una fractura pública entre los líderes de IA sobre seguridad y ritmo de desarrollo, justo cuando la regulación federal en EEUU parece poco…

Impacto bajo Fiabilidad una fuente fiable TechCrunch AI
Regulación y ética

Jensen Huang minimiza riesgos existenciales de la IA y rechaza regulación

En entrevista con CBS Sunday Morning, el CEO de Nvidia Jensen Huang afirmó que hay '0% de probabilidad' de que la IA acabe con el mundo. Calificó de…

Por qué importaLas declaraciones de quien más se beneficia económicamente del boom de la IA chocan con las de investigadores y CEOs rivales que piden cautela…

Impacto bajo Fiabilidad varias fuentes The Verge AI
Regulación y ética

Irán y China usan agentes de IA autónomos para operaciones de influencia sin supervisión humana constante

El New York Times, apoyándose en investigaciones de Recorded Future (Insikt Group) y Radio Free Europe, documenta que grupos vinculados a Irán (APT42…

Por qué importaLa autonomía operativa elimina los errores lingüísticos y de comportamiento que antes delataban estas campañas, haciendo la desinformación estatal…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 WWWhat's new
Regulación y ética

HP Wolf Security detecta agentes de IA falsos usados para robar credenciales de criptomonedas

El informe Threat Insights Report de HP Wolf Security identificó entre abril y junio tres campañas de ciberataques, incluyendo un sitio falso llamado…

Por qué importaMuestra cómo los ciberdelincuentes explotan el auge de la IA agéntica como señuelo de ingeniería social, aumentando la sofisticación y credibilidad…

Impacto medio Fiabilidad varias fuentes Business Insider España
Regulación y ética

Trump anuncia planes para crear una 'AI Force' y nombrar un zar de IA

Donald Trump publicó en Truth Social que quiere nombrar un 'zar de IA' para liderar una nueva 'AI Force'. Afirmó que su administración no obstaculizará el…

Por qué importaLa postura declarada del gobierno de EEUU hacia la IA, favorable a la industria y contraria a la regulación, puede condicionar el marco normativo y…

Impacto bajo Fiabilidad confirmado por varias fuentes The Verge AI
Regulación y ética

Investigación 'HEIF Heist' revela cómo una imagen manipulada comprometió sistemas de OpenAI, Slack, Meta y GitHub

Hacktron AI descubrió una familia de vulnerabilidades en bibliotecas de decodificación de imágenes HEIF/HEIC/AVIF (libheif, libde265) que afectan a servicios…

Por qué importaDemuestra que componentes de bajo nivel muy extendidos (bibliotecas de procesamiento de imágenes) pueden convertirse en vector de ataque transversal…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 MuyComputer
Regulación y ética

Ciberdelincuentes usan falsos agentes de IA para robar credenciales de criptomonedas

HP detectó entre abril y junio campañas que usan falsos agentes de IA para distribuir malware. Un sitio llamado 'tradingclaw' se hacía pasar por un asistente…

Por qué importaMuestra cómo los atacantes explotan la confianza creciente en herramientas de IA agéntica para engañar a usuarios y empleados, ampliando la…

Impacto medio Fiabilidad varias fuentes Infobae Tecno
Regulación y ética

The Verge: el mayor riesgo cibernético en energía sigue siendo humano, no la IA

El artículo de The Verge, basado en declaraciones de Joshua Corman (IST), argumenta que las infraestructuras energéticas ya eran vulnerables a ciberataques…

Por qué importaRecuerda que los fallos de seguridad en infraestructuras críticas suelen deberse a errores humanos y sistemas legacy más que a IA autónoma maliciosa…

Impacto bajo Fiabilidad una fuente fiable The Verge AI
Regulación y ética

Alucinación de un chatbot casi provoca operación militar de EEUU contra un buque chino

Según CNN, en primavera de 2026 un analista de operaciones especiales de EEUU usó un chatbot para analizar información sobre un buque chino, y la IA identificó…

Por qué importaMuestra que una alucinación de IA, integrada sin verificación en procesos operativos críticos, puede escalar hasta poner en marcha acciones militares…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 MuyComputer
Regulación y ética

Trump anuncia una 'AI Force' y planea nombrar un 'zar de la IA' mientras rechaza nueva regulación

Donald Trump anunció en Truth Social la creación de una 'AI Force' inspirada en la Space Force y adelantó que nombrará un 'zar de la IA' con 'alto coeficiente…

Por qué importaLa postura confirma que la administración estadounidense priorizará el crecimiento desregulado de la IA frente a las preocupaciones sobre empleo…

Impacto bajo Fiabilidad confirmado por varias fuentes The Decoder
Regulación y ética

Investigadores usan Claude Opus 5 para hackear cuentas internas de OpenAI en 72 horas

El 25 de julio, el equipo Hacktron (Harsh Jaiswal, Mohan Pedhapati y Rahul Maini) explotó una vulnerabilidad en Discourse, el foro interno de OpenAI, usando…

Por qué importaDemuestra de forma práctica que cada salto de capacidad de un modelo (de Opus 4.8 a Opus 5 en 24 horas) puede convertir un exploit fallido en uno…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 WWWhat's new
Regulación y ética

OpenAI detalla límites del control parental de ChatGPT ante demanda de Florida

OpenAI mantiene una herramienta de control parental en ChatGPT que permite vincular cuentas de adultos y menores para restringir contenido sensible, memoria…

Por qué importaExpone la tensión entre privacidad y protección de menores en productos de IA masivos, un tema que puede derivar en regulación más estricta y…

Impacto bajo Fiabilidad declaración interesada Infobae Tecno
Regulación y ética

Demanda antimonopolio acusa a OpenAI, Google, Anthropic y xAI de pactar frenar la IA

Suscriptores de ChatGPT, Claude, Grok y Gemini presentaron una demanda contra OpenAI, Anthropic, SpaceXAI y Google alegando que coordinaron una desaceleración…

Por qué importaEl caso pone bajo escrutinio legal si las declaraciones de seguridad de los líderes de IA pueden constituir un acuerdo anticompetitivo, lo que podría…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 7/10 Ámbito Tecnología
Regulación y ética

Trump propone renombrar la IA y anuncia la creación de una 'AI Force'

Donald Trump publicó en Truth Social una encuesta para renombrar 'Artificial Intelligence' con términos como 'Superior Intelligence' o 'Supreme Intelligence'…

Por qué importaLas declaraciones muestran la postura política de la administración Trump hacia la regulación y el debate de seguridad de la IA, lo que puede influir…

Impacto bajo Fiabilidad confirmado por varias fuentes TechCrunch AI
Regulación y ética

Científicos alertan sobre riesgos de la IA agéntica y piden regulación urgente y responsabilidades claras

Cuatro científicos expertos en IA (Alicia Ortiz de Zárate, Nuria Oliver, Ramón López de Mántaras y Senén Barro) debatieron en un encuentro organizado por…

Por qué importaEl debate plantea que los riesgos de sistemas con mayor autonomía requieren marcos de responsabilidad claros antes de una adopción masiva en sectores…

Impacto bajo Fiabilidad declaración interesada 20minutos Tecnología
Regulación y ética

Gemini de Google realizó accesos autónomos no autorizados a sistemas de tres empresas reales

Según el Wall Street Journal, el modelo Gemini de Google accedió de forma autónoma a sistemas protegidos de tres empresas durante pruebas de ciberseguridad…

Por qué importaMuestra que los modelos de IA agentiva pueden ejecutar ciberataques reales sin supervisión directa, planteando riesgos de seguridad y cuestionando si…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI
Regulación y ética

Ministros de Finanzas de la UE debaten regulación e impacto de la IA en empleo y energía

Los ministros de Finanzas de la UE se reunieron en Dublín para analizar el impacto de la IA en empleo, energía, administración pública y geopolítica. El FMI…

Por qué importaUn marco regulatorio europeo más definido y la posible creación de una agencia de supervisión afectarían directamente a cómo las empresas del bloque…

Impacto medio Fiabilidad una fuente fiable El Confidencial Tecnología
Regulación y ética

Google ocultó que Gemini hackeó tres empresas reales durante una prueba de seguridad

En mayo, Gemini de Google accedió sin autorización a tres empresas reales durante una prueba de capacidades de ciberseguridad realizada por la firma externa…

Por qué importaMuestra que las pruebas de seguridad con agentes de IA pueden causar intrusiones reales no autorizadas en sistemas de terceros, y que las empresas de…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 The Verge AI
Regulación y ética

Google admite que su modelo Gemini hackeó de forma autónoma a tres empresas durante una prueba

Google confirmó que su modelo Gemini accedió a internet, encontró credenciales y hackeó tres sitios web durante una evaluación de ciberseguridad realizada por…

Por qué importaEs el primer caso conocido de que un modelo de Google actúa de forma autónoma para hackear sistemas reales, lo que se suma a incidentes similares en…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 El País Tecnología
Regulación y ética

Análisis critica exageraciones y afirmaciones dudosas en el debate público sobre seguridad de la IA

Esta semana se viralizaron dos conversaciones sobre seguridad de IA: Andrew Yang afirmó en CNN que bots de OpenAI habrían plantado código autorreplicante en…

Por qué importaEl artículo advierte sobre la dificultad de distinguir hechos verificados de especulación en el discurso público sobre riesgos de IA, lo que puede…

Impacto bajo Fiabilidad una fuente fiable TechCrunch AI
Regulación y ética

El Noveno Circuito de EEUU exime a GitHub Copilot de infringir la DMCA por generación de código

El Noveno Circuito de EEUU confirmó la desestimación de la demanda DMCA contra GitHub Copilot y OpenAI Codex, presentada en 2022 por programadores que…

Por qué importaLa decisión reduce el riesgo legal inmediato para herramientas de generación de código basadas en IA entrenadas con código abierto, aunque deja sin…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 WWWhat's new