Regulación y ética, página 2

El jefe del Ejército de Tierra sostiene que la IA debe apoyar al mando y no sustituir su responsabilidad

El JEME, general Amador Enseñat, afirmó en las jornadas 'El Ejército de Tierra y los retos futuros' en Madrid que la IA ya es capacidad operativa y debe…

Por qué importaMuestra que los ejércitos occidentales sitúan la supervisión humana como principio para el uso de IA en decisiones críticas, un marco que puede…

Empleados de OpenAI llevan años alertando de fallos de seguridad y de prioridad a la velocidad sobre la protección

Según varias fuentes citadas por Reuters, empleados de OpenAI advirtieron desde finales de 2022 a la dirección y al consejo sobre debilidades en la seguridad…

Por qué importaLas denuncias sobre prioridades de seguridad frente a la velocidad de competencia afectan a la confianza en los proveedores de modelos que muchas…

El ministro de IA del Reino Unido advierte de que un ciberataque grave es extremadamente probable

Kanishka Narayan, ministro de IA del Reino Unido, afirmó en Bloomberg Tech en Londres que es extremadamente probable un incidente de ciberseguridad grave en el…

Por qué importaLa preocupación oficial por ciberataques a infraestructuras cotidianas recuerda que las empresas deben revisar la higiene básica de sus dispositivos…

Apple exige clasificación 18+ a las apps de citas y a las parejas virtuales de IA

Apple añade dos preguntas al cuestionario de clasificación por edades de App Store Connect. Las apps con funciones de citas o relaciones, incluidos los…

Por qué importaLos desarrolladores de apps de citas y de compañeros de IA deberán revisar su clasificación y sus respuestas antes de la fecha límite. La restricción…

Nexus Mods hará obligatorio declarar el uso de IA en las nuevas subidas de mods

Nexus Mods, el repositorio de mods para PC, hará obligatorio que los autores declaren si han usado IA en sus mods al subirlos. La medida se anunció en una…

Por qué importaMuestra cómo las plataformas de contenido empiezan a exigir transparencia sobre el origen generado por IA, algo que también puede aplicarse a…

Apple advierte en un informe a la SEC de los riesgos de que la IA actúe sin autorización

Apple reconoció en su resumen anual para la Comisión de Mercado y Valores (SEC) los riesgos de que la IA actúe sin autorización, incluidas acciones no…

Por qué importaEs una admisión pública de un gran proveedor sobre los límites de control de sus agentes de IA, un punto a tener en cuenta al delegar acciones en…

Transportes anuncia un agente de IA y un gemelo digital para vigilar la alta velocidad tras el accidente de Urda

El Gobierno aprobó un plan para reforzar la seguridad de la alta velocidad tras el accidente ferroviario de Urda (Toledo), que causó 69 fallecidos. Incluye un…

Por qué importaLa medida apuesta por la IA como herramienta de supervisión en infraestructuras críticas, con validación humana obligatoria en circulación degradada…

El abogado general del TJUE опин...

Países iberoamericanos crean una alianza para impulsar una IA soberana y adaptada a la región

Los países iberoamericanos han creado una alianza en IA articulada en torno a tres ejes: acceso a datos mediante cooperación, desarrollo de modelos adaptados a…

Por qué importaPara empresas de la región puede abrir modelos y recursos de cómputo adaptados al español y al portugués, aunque el alcance práctico dependerá de los…

Bill Gates alerta de que la IA es la tecnología más peligrosa jamás inventada y pide regulación al gobierno

Bill Gates, cofundador de Microsoft, afirmó en una entrevista en el podcast Decoder que la IA es la tecnología más peligrosa jamás inventada y que tendrá…

Por qué importaLas declaraciones de una figura clave del sector sobre regulación y transición laboral anticipan debates que pueden traducirse en nuevas obligaciones…

Anthropic reconoce fallas de seguridad y advierte sobre conductas inesperadas de sus modelos

Anthropic publicó un documento en el que reconoce que las capacidades de sus modelos pueden evolucionar más rápido que los métodos para evaluarlos. Según el…

Por qué importaLos agentes que escriben código, consultan bases de datos y actúan con autonomía pueden causar daños mayores que una respuesta errónea. Las empresas…

Apple exige calificación 18+ a apps de citas y compañeros de IA con contenido romántico o sexual

Apple ha modificado las políticas de la App Store para que las apps de citas y los compañeros de IA que ofrezcan contenido sexual o romántico tengan…

Por qué importaLas empresas que desarrollan o integran funciones de compañía o citas con IA deberán revisar su clasificación de edad y su control de acceso para…

Apple pondrá clasificación de 18+ a las apps de citas y a los chatbots de compañía romántica

Apple anunció el 2 de noviembre de 2026 que las apps de citas y las que incluyen compañeros virtuales de contenido romántico o sexual tendrán una clasificación…

Por qué importaLas plataformas de compañía con IA que tengan contenido romántico o sexual deberán restringir su acceso a adultos en la App Store, lo que afecta a su…

Los chatbots de IA dan datos electorales erróneos y citan webs partidistas, según estudios

Según investigaciones citadas por Wired, casi el 40 % de las respuestas electorales de los principales chatbots contenía al menos un error factual, en una…

Por qué importaLos empleados y clientes que usan chatbots para informarse pueden recibir datos falsos o sesgados, lo que plantea riesgos reputacionales y de…

España creará un agente de IA y un gemelo digital para vigilar la alta velocidad tras el accidente de Urda

El Gobierno aprobó en Consejo de Ministros un plan de seguridad para la alta velocidad tras el accidente de Urda (Toledo) del 28 de octubre, con 69 muertes…

Por qué importaMuestra cómo las administraciones y operadores de infraestructuras críticas pueden incorporar IA a la supervisión operativa, con foco en reducir el…

Logixs advierte de que ocho de cada diez empresas no tienen protocolos de ciberseguridad para su IA

La consultora española Logixs afirma que 8 de cada 10 empresas de su cartera de clientes no cuentan con protocolos de ciberseguridad en sus proyectos de IA…

Por qué importaLos proyectos de IA introducen riesgos específicos, como la fuga de datos confidenciales, agentes con permisos excesivos o código generado con…

El CNI publica una metodología con 27 requisitos para evaluar la ciberseguridad de productos con IA

El Centro Criptológico Nacional, dependiente del CNI, ha publicado la metodología ESP-IA, una guía que establece un procedimiento específico para evaluar la…

Por qué importaLas empresas que vendan o integren productos con IA en España tendrán un marco oficial de referencia para demostrar la seguridad de sus sistemas…

Nvidia pide a sus clientes de nube que reduzcan el negocio con empresas chinas

Según The Information, citando a tres personas al tanto, Nvidia ha pedido a algunos proveedores de nube, incluidos neoclouds respaldados por Nvidia, que…

Por qué importaAfecta a cómo se puede acceder a la computación avanzada de Nvidia desde terceros países, y a la diligencia que deben aplicar los proveedores de nube…

OpenAI cuadruplica las recompensas por fallos de seguridad y prepara un sprint interno con Cathedral

OpenAI ha cuadruplicado los pagos de su programa de bug bounty. Las vulnerabilidades críticas en productos como ChatGPT o Codex pueden pagar hasta 30.000…

Por qué importaMuestra que OpenAI trata la seguridad de sus productos como un frente de inversión continuo y que sus pagos se acercan a los de Google, aunque siguen…

El Reino Unido prevé ataques con IA contra su infraestructura crítica antes de 2028

El Centro Nacional de Ciberseguridad del Reino Unido, parte del GCHQ, advirtió en su informe anual del 3 de noviembre que es muy probable que antes de 2028 se…

Por qué importaLas empresas que operan servicios esenciales o cadenas de suministro deben asumir que los ataques asistidos por IA serán más frecuentes y a mayor…

Tribunal de EE. UU. confirma que el uso de IA no obliga a reducir honorarios de abogados

El Tribunal de Apelaciones del Décimo Circuito confirmó un pago de USD 114.663,11 a abogados de los demandados en un caso por secretos comerciales, rechazando…

Por qué importaLa decisión fija que quien alega que la IA infló una factura debe demostrarlo con horas concretas, lo que afecta a cómo despachos y clientes negocian…

Anthropic bloquea que Claude Code recree videojuegos existentes tras una oleada de clones

Anthropic ha añadido dos frases al prompt de sistema de Claude Code para Opus 5.5 que impiden clonar juegos de otros, según confirmó en X el empleado Addy…

Por qué importaMuestra que las políticas de uso de los asistentes de programación empiezan a limitar el uso de material con propiedad intelectual, algo que las…

The New York Times demanda a Brave por raspar contenido protegido para vender datos a empresas de IA

The New York Times demandó a Brave en un tribunal federal de Manhattan por presuntamente raspar su contenido protegido por derechos de autor y distribuirlo a…

Por qué importaEl caso pone a prueba si los índices de contenido web que se venden a empresas de IA pueden considerarse distribución de material protegido, lo que…

Anthropic añade a Claude una regla para no recrear videojuegos concretos existentes

Anthropic añadió una instrucción de sistema para que sus modelos Claude no recreen videojuegos específicos existentes, incluso si se renombran. Un usuario…

Por qué importaLa medida muestra cómo los fabricantes de modelos intentan acotar el riesgo legal de generar contenido que copia productos existentes. Para las…