gobernanza IA: noticias de IA

Regulación y ética 30 sep

Veinte empresas tecnológicas firman pacto voluntario de seguridad en IA impulsado por la Casa Blanca

Dos docenas de empresas de IA firmaron el martes un acuerdo voluntario con la Casa Blanca para implementar controles de seguridad, incluyendo auditorías…

Por qué importaEs la principal vía regulatoria de EEUU sobre IA de frontera bajo la administración Trump y depende de la autorregulación en lugar de normativa…

Impacto medio Fiabilidad confirmado por varias fuentes Ars Technica AI

Sociedad y trabajo 29 sep

Barómetro revela 'junior squeeze' y 'shadow AI' como efectos de la IA en el empleo español

El Barómetro de Talento Digital 2026 de DIGITALENT Group indica que el 77,8% de las organizaciones dice tener adopción media o alta de IA, pero el 79,2%…

Por qué importaEvidencia una brecha crítica entre la adopción tecnológica y la capacitación real de las plantillas, con riesgo de erosionar la formación de futuros…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 Silicon España

Herramientas y productos 29 sep

Nvidia lanza plataforma de seguridad para contener agentes de IA descontrolados

Nvidia anunció Open Agent Safety Platform, que incluye OpenShell (límites de seguridad en procesador) y Sentry (vigilancia por hardware que aísla agentes…

Por qué importaEstablece un marco de control físico (hardware) para agentes de IA autónomos, en un momento de creciente preocupación por comportamientos no…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Xataka México

Regulación y ética 28 sep

Trump y Xi acuerdan renombrar la IA como 'Super Inteligencia' y crear canal bilateral de incidentes

En la visita de estado de Xi Jinping a Washington, la Casa Blanca anunció un acuerdo con China para referirse a la IA como 'Super Inteligencia' (SI) y crear un…

Por qué importaEl canal bilateral podría ser el único elemento con valor práctico del acuerdo, ya que EE.UU. y China carecen de un mecanismo formal para coordinar…

Impacto bajo Fiabilidad declaración interesada WWWhat's new

Regulación y ética 26 sep

EEUU y China acuerdan crear un canal de comunicación para incidentes graves de IA

El secretario del Tesoro de EEUU, Scott Bessent, anunció que EEUU y China han formalizado un diálogo bilateral sobre IA y acordado crear una 'línea de…

Por qué importaEstablece un precedente de gobernanza internacional ante el riesgo de que un incidente de IA (ciberataque, agente descontrolado) sea malinterpretado…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 20minutos Tecnología

Regulación y ética 24 sep

Altman y Amodei alertan en el Consejo de Seguridad de la ONU sobre riesgos de la IA

Los máximos responsables de OpenAI y Anthropic intervinieron ante el Consejo de Seguridad de la ONU pidiendo mecanismos internacionales para controlar la IA…

Por qué importaQue los propios líderes del sector reclamen regulación internacional, sin dejar de desarrollar la tecnología, refuerza la presión hacia marcos…

Impacto bajo Fiabilidad confirmado por varias fuentes El País Tecnología

Regulación y ética 24 sep

Expertos alertan sobre riesgos de seguridad de los agentes de IA autónomos en empresas

Varios analistas y proveedores (McKinsey, Anthropic, Foundry, EPAM NEORIS, Sophos) advierten sobre los riesgos de los agentes de IA autónomos, que pueden…

Por qué importaLos agentes de IA autónomos amplían drásticamente la superficie de riesgo empresarial porque pueden ejecutar acciones reales (transacciones, cambios…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 Computerworld España

Regulación y ética 23 sep

Microsoft refuerza su Estándar de IA Responsable para supervisar agentes autónomos

Microsoft actualizó su Estándar de IA Responsable y publicó su Informe de Transparencia sobre IA Responsable 2026, con nuevos requisitos de evaluación de…

Por qué importaEstablece un marco de referencia práctico para gobernanza de agentes de IA autónomos que otras empresas podrían adoptar o exigir como estándar de…

Impacto medio Fiabilidad declaración interesada Infobae Tecno

Regulación y ética 23 sep

Pekín rechaza los llamamientos de EEUU a frenar el desarrollo de la IA por razones de seguridad

Analistas y expertos citados por eldiario.es explican que China no es receptiva a la propuesta de Dario Amodei (Anthropic) de una 'ralentización mundial' del…

Por qué importaLa divergencia entre EEUU y China sobre pausar o acelerar el desarrollo de IA condiciona la carrera geopolítica tecnológica y los controles de…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 eldiario.es Tecnología

Empresa y transformación digital 23 sep

OpenAI crea panel de matemáticos tras críticas por resultados exagerados de sus modelos

OpenAI anunció un panel independiente de matemáticos para asesorar a la empresa y otras compañías de IA sobre cómo interactuar con la investigación matemática…

Por qué importaRefleja tensiones crecientes entre empresas de IA y comunidades científicas sobre cómo se comunican y validan resultados generados por IA. Para…

Impacto bajo Fiabilidad confirmado por varias fuentes The Verge AI

Regulación y ética 22 sep

Guterres pide en la ONU una gobernanza global vinculante para la inteligencia artificial

El secretario general de la ONU, António Guterres, alertó ante la Asamblea General de que la IA concentra poder económico y tecnológico más rápido de lo que…

Por qué importaEl discurso refuerza la presión internacional hacia marcos regulatorios comunes que podrían afectar cómo las empresas despliegan y auditan sus…

Impacto bajo Fiabilidad varias fuentes Computerworld España

Regulación y ética 22 sep

OpenAI propone estándares comunes de seguridad para modelos de IA de frontera

OpenAI publicó un artículo titulado 'Desarrollar los estándares para la próxima fase de la IA', firmado en el contexto de declaraciones de Sam Altman y Jakub…

Por qué importaMarca un giro discursivo en los grandes laboratorios de IA, que pasan de la carrera competitiva a proponer marcos de gobernanza compartidos, lo que…

Impacto bajo Fiabilidad una fuente fiable Relevancia 7/10 Xataka

Regulación y ética 18 sep

Investigadores debaten cómo aplicar en la práctica una pausa en el desarrollo de IA de frontera

Un informe titulado 'Pacing the Frontier' advierte que frenar el desarrollo de IA sigue siendo un problema sin resolver técnicamente. Expertos proponen medidas…

Por qué importaMuestra que, más allá de los llamados públicos de líderes como Amodei, Altman, Musk y Hassabis a frenar el desarrollo de IA, no existe consenso…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Wired AI

Regulación y ética 18 sep

Líderes de IA piden un organismo internacional de supervisión, pero EEUU y China frenan el consenso

Dario Amodei, Sam Altman, Elon Musk y Demis Hassabis han manifestado su apoyo a crear mecanismos de supervisión externa para la IA avanzada, incluyendo…

Por qué importaLa fragmentación geopolítica en torno a la gobernanza de la IA dificulta la creación de estándares globales de seguridad, lo que afecta directamente…

Impacto bajo Fiabilidad declaración interesada Business Insider España

Regulación y ética 17 sep

Expertos de EEUU y China proponen protocolos tipo Guerra Fría para evitar que la IA desencadene un conflicto nuclear

Expertos de EEUU (Melanie Sisson, Brookings Institution) y China (Tianjiao Jiang, Universidad de Fudan) publicaron el 9 de septiembre un artículo conjunto…

Por qué importaRefleja que los riesgos de la IA autónoma ya se consideran una amenaza geopolítica de primer orden, equiparable a los riesgos nucleares de la Guerra…

Impacto bajo Fiabilidad una fuente fiable Relevancia 8/10 Xataka

Empresa y transformación digital 17 sep

El 97% de las pymes españolas usa IA, pero un 39% carece de normas de uso, según OpenAI

Un informe de OpenAI indica que el 97% de las pymes españolas usa herramientas de IA y el 79% dice ser más eficaz gracias a ellas, ahorrando de media tres…

Por qué importaEl uso informal y sin controles de IA en pymes expone a estas empresas a riesgos de privacidad, ciberseguridad y errores, especialmente en las de…

Impacto medio Fiabilidad declaración interesada Business Insider España

Empresa y transformación digital 16 sep

Google DeepMind crea instituto interdisciplinario para estudiar riesgos y gobernanza de la AGI

Google DeepMind ha fundado el DeepMind Institute (DMI), una plataforma de investigación interdisciplinaria centrada en la inteligencia artificial general…

Por qué importaRefleja que uno de los laboratorios líderes en IA institucionaliza el debate sobre riesgos existenciales y gobernanza de la AGI, ampliando el marco…

Impacto bajo Fiabilidad declaración interesada The Decoder

Regulación y ética 15 sep

Quién es METR, la organización propuesta por Anthropic para auditar riesgos de la IA

Dario Amodei, CEO de Anthropic, propuso a METR (Model Evaluation and Threat Research) como organismo de supervisión independiente para auditar riesgos de…

Por qué importaEl debate sobre quién audita a la IA y con qué independencia real es clave para la futura gobernanza regulatoria del sector, especialmente si…

Impacto bajo Fiabilidad confirmado por varias fuentes Infobae Tecno

Empresa y transformación digital 15 sep

Informe de Experis: el 44% de los CIOs no logra seguir el ritmo del cambio tecnológico por la IA

El Informe CIOs 2026 de Experis, con casi 2.000 líderes tecnológicos de 12 países, revela que el 44% señala mantenerse al día con el ritmo del cambio…

Por qué importaMuestra que la presión por adoptar IA rápidamente supera la capacidad de ejecución de muchas organizaciones, lo que puede generar decisiones…

Impacto bajo Fiabilidad declaración interesada Computing España

Regulación y ética 15 sep

Xataka analiza vínculos de METR, el organismo que Anthropic propone para auditar la IA

Dario Amodei propuso a METR (Model Evaluation and Threat Research) como organismo externo para auditar riesgos catastróficos de la IA. METR nació de ARC Evals…

Por qué importaLa elección del auditor de seguridad de IA condiciona qué riesgos se priorizan y puede influir en la regulación futura, afectando la competencia…

Impacto bajo Fiabilidad una fuente fiable Xataka

Regulación y ética 14 sep

Satya Nadella se suma a la petición de líderes tecnológicos de frenar la IA descontrolada

Satya Nadella, CEO de Microsoft, declaró en X que cualquier iniciativa hacia la superinteligencia debe garantizar que la IA ayude a la humanidad y esté bajo…

Por qué importaLa postura pública de un CEO de una de las mayores empresas de IA añade peso al debate sobre gobernanza y control de la superinteligencia, con…

Impacto bajo Fiabilidad confirmado por varias fuentes ABC Tecnología

Regulación y ética 14 sep

China rechaza las advertencias de seguridad de IA de EEUU y las califica de 'alarmismo'

El Ministerio de Exteriores chino y el diario estatal Global Times respondieron a las advertencias sobre riesgos de IA de Dario Amodei (Anthropic) y otros…

Por qué importaEl choque retórico entre EEUU y China refleja que la carrera geopolítica por la IA prevalece sobre los llamados a la pausa de seguridad, lo que…

Impacto bajo Fiabilidad confirmado por varias fuentes The Decoder

Regulación y ética 14 sep

China acusa a EE UU de usar una "agenda oculta" contra su IA tras las alertas de riesgo

El Ministerio chino de Exteriores afirmó que difundir narrativas de amenaza sobre la IA obstaculiza la gobernanza global de esta tecnología. El diario…

Por qué importaEl debate sobre seguridad de la IA se está politizando geopolíticamente, mezclando argumentos de riesgo existencial con la competencia estratégica…

Impacto bajo Fiabilidad confirmado por varias fuentes El País Tecnología

Regulación y ética 14 sep

Dario Amodei defiende una gobernanza conjunta entre gobiernos para la IA avanzada

En una entrevista con CBS, el CEO de Anthropic, Dario Amodei, afirmó que le resulta 'muy extraño' que los modelos de IA avanzados sean desarrollados por…

Por qué importaEl discurso de uno de los CEOs más influyentes del sector plantea un giro hacia mayor intervención estatal en IA, similar al de Altman con Nvidia, lo…

Impacto bajo Fiabilidad una fuente fiable Xataka