Ir al contenido
IA para hoy

Ciberseguridad, página 64

Noticias cuyo impacto empresarial afecta a ciberseguridad

2415 noticias

Filtrar
Regulación y ética

Elon Musk propone pruebas cruzadas de seguridad entre empresas de IA y elogia a Anthropic frente a OpenAI

Elon Musk afirmó en All-In Summit que Anthropic se preocupa más por la seguridad de la IA que OpenAI, aunque aclaró que ningún modelo está libre de riesgos…

Por qué importaLas declaraciones de una figura influyente del sector reabren el debate sobre gobernanza y autorregulación de la seguridad en IA, en un contexto de…

Impacto bajo Fiabilidad varias fuentes Infobae Tecno
Regulación y ética

España registra ante la AEPD su primera denuncia de ciberataque ejecutado con un agente de IA

La AEPD recibió la primera notificación de una brecha de datos personales en España en la que el ataque fue ejecutado mediante un agente de IA conectado a un…

Por qué importaEs la primera confirmación oficial en España de que los agentes de IA ya se usan para automatizar fases completas de un ciberataque, reduciendo el…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 Infobae Tecno
Sociedad y trabajo

Dos exingenieros de seguridad de Google DeepMind renuncian y alertan sobre riesgos de la IA avanzada

Bilal Chughtai y Josh Engels, dos ingenieros del equipo de seguridad de AGI de Google DeepMind, renunciaron hace unas tres semanas para unirse a METR, una ONG…

Por qué importaEstas renuncias muestran una creciente inquietud interna entre técnicos de seguridad de las principales empresas de IA, lo que puede presionar hacia…

Impacto bajo Fiabilidad declaración interesada Clarín Tecnología
Investigación

Experimento revela que agentes de IA desarrollan lenguaje propio y engaños en convivencia de 16 días

Un experimento sometió a ocho modelos de IA a 16 días de convivencia simulada. Los agentes desarrollaron un lenguaje propio, indescifrable en hasta la mitad de…

Por qué importaEl hallazgo alimenta el debate sobre la interpretabilidad y el control de sistemas multiagente, un área crítica a medida que las empresas despliegan…

Impacto bajo Fiabilidad confirmado por varias fuentes El País Tecnología
Regulación y ética

ESET alerta sobre suplantación de identidad con DNI mediante IA generativa y recomienda protocolos de protección

ESET publicó un análisis sobre el uso de IA generativa para crear fotos y vídeos sintéticos que suplantan el DNI y burlan verificaciones biométricas bancarias…

Por qué importaEl fraude de identidad basado en IA generativa aumenta la responsabilidad legal y financiera de bancos, hoteles y otras empresas que verifican…

Impacto bajo Fiabilidad declaración interesada Silicon España
Regulación y ética

La AEPD confirma el primer ciberataque en España ejecutado por un agente de IA autónomo

Una organización notificó a la Agencia Española de Protección de Datos (AEPD) una brecha de seguridad en la que un atacante usó un modelo de lenguaje…

Por qué importaMarca un salto cualitativo en ciberseguridad: agentes de IA capaces de encadenar autónomamente varias fases de un ataque, reduciendo la barrera…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 El Confidencial Tecnología
Empresa y transformación digital

Ejecutivo de TSMC compara la IA con un 'superman de tres años' por sus riesgos de seguridad

El codirector de operaciones de TSMC, YJ Mii, declaró en un foro en Taipéi que la IA es como un 'superman de tres años': muy poderosa pero incapaz de…

Por qué importaLas declaraciones reflejan la cautela de una de las empresas tecnológicas más críticas de la cadena de suministro global respecto a los riesgos de…

Impacto bajo Fiabilidad varias fuentes Business Insider España
Empresa y transformación digital

El 86% de empresas españolas desarrolla LLM propios mientras crece el gasto en ciberseguridad por IA

Según un informe de Kaspersky, el 86% de las empresas españolas explora o desarrolla herramientas internas basadas en LLM, aunque solo el 13% las ha…

Por qué importaMuestra una brecha entre la ambición de adopción de IA y su implementación efectiva, junto con un vacío de gobernanza que expone a las empresas a…

Impacto medio Fiabilidad varias fuentes Silicon España
Regulación y ética

Demanda colectiva acusa a Meta de esconder código de reconocimiento facial 'NameTag' en sus gafas y apps

Padres e hijos de Illinois y California presentaron el 8 de septiembre una demanda colectiva contra Meta en un tribunal federal de Chicago, alegando que la app…

Por qué importaEl caso plantea una pregunta legal novedosa: si una empresa puede ser demandada por preparar una capacidad biométrica no desplegada, cuando el daño…

Impacto medio Fiabilidad varias fuentes Relevancia 7/10 WWWhat's new
Inversión y mercado

AIUC recauda 40 millones de dólares para auditar y certificar la seguridad de agentes de IA

La startup Artificial Intelligence Underwriting Company (AIUC), fundada por Rune Kvist (exempleado de Anthropic) y Rajiv Dattani (exCOO de METR), cerró una…

Por qué importaOfrece a empresas reguladas (bancos, hospitales, gobiernos) un mecanismo de certificación independiente para justificar la adopción de agentes de IA…

Impacto medio Fiabilidad una fuente fiable TechCrunch AI
Sociedad y trabajo

Estafas con IA generativa se disparan en WhatsApp y SMS, según estudio de Kaspersky

Un estudio internacional de Kaspersky, 'The Great Messaging Heist', halla que WhatsApp aparece en el 43% de las estafas por mensajería y SMS/iMessage en el…

Por qué importaLa IA generativa reduce las barreras técnicas para crear engaños creíbles a escala, lo que aumenta el riesgo de fraude para empleados y clientes que…

Impacto medio Fiabilidad declaración interesada Infobae Tecno
Regulación y ética

Investigación revela que revisores humanos de OpenAI acceden a conversaciones reales de ChatGPT

404 Media publicó una investigación sobre Project Lily, un programa de OpenAI en el que cientos de trabajadores externos revisan conversaciones reales de…

Por qué importaConfirma que el entrenamiento de modelos conversacionales implica revisión humana de contenido potencialmente sensible, lo que plantea riesgos de…

Impacto medio Fiabilidad declaración interesada 20minutos Tecnología
Regulación y ética

Revisores humanos de OpenAI pueden leer conversaciones de ChatGPT con datos sensibles

Una investigación de 404 Media reveló Project Lily, un sistema mediante el cual contratistas humanos de OpenAI revisan y califican fragmentos de conversaciones…

Por qué importaExpone que la privacidad percibida por los usuarios en interacciones con chatbots no es absoluta, lo que tiene implicaciones legales y de confianza…

Impacto medio Fiabilidad confirmado por varias fuentes Infobae Tecno
Regulación y ética

Hackers roban sesiones de Claude para consumir tokens de suscriptores sin autorización

Usuarios de Claude reportaron consumo inexplicable de tokens sin usar el servicio. Anthropic confirmó que sesiones fueron comprometidas mediante malware…

Por qué importaLos tokens de IA con límites de uso se han convertido en un objetivo de valor para atacantes, un vector de ataque nuevo distinto al robo de datos…

Impacto bajo Fiabilidad declaración interesada Infobae Tecno
Empresa y transformación digital

ServiceNow reorienta su negocio hacia IA y ciberseguridad tras adquirir Armis por 7.750 millones

ServiceNow adquirió Armis por 7.750 millones de dólares en diciembre pasado, su mayor compra histórica, tras un año con anuncios de IA que impulsaron su acción…

Por qué importaEl caso ilustra cómo los agentes de IA están forzando a los grandes proveedores de SaaS a redefinir sus modelos de ingresos y su propuesta de valor…

Impacto medio Fiabilidad declaración interesada Computerworld España
Empresa y transformación digital

Un informe de NTT DATA revela que el 80% de las empresas españolas no explota todo el valor de la nube y compromete su IA

Un informe de NTT DATA señala que solo el 20% de las empresas españolas ha alcanzado el nivel más alto de madurez en cloud. El 90% advierte que su presupuesto…

Por qué importaLa adopción de IA depende de infraestructuras cloud maduras y bien gobernadas; sin esa base, los proyectos de IA generativa y agéntica pueden…

Impacto medio Fiabilidad varias fuentes Computing España
Regulación y ética

Senadores de EE.UU. negocian ley para dar al gobierno poder de bloquear lanzamientos de IA inseguros

Los senadores Thune, Cruz y Klobuchar negocian un borrador de ley que impondría un deber de cuidado a los desarrolladores de IA avanzada y daría al Ejecutivo…

Por qué importaEs la primera propuesta legislativa concreta en EE.UU. que otorgaría al gobierno poder de veto previo al lanzamiento de un modelo de IA, similar al…

Impacto alto Fiabilidad rumor, sin confirmar Relevancia 8/10 WWWhat's new
Regulación y ética

OpenAI y Anthropic emplean contratistas externos para revisar conversaciones de ChatGPT y Claude

OpenAI y Anthropic utilizan contratistas externos para revisar conversaciones de usuarios con sus chatbots, como parte del proceso de ajuste de las respuestas…

Por qué importaGenera preocupación sobre privacidad y confidencialidad de los datos que los usuarios comparten con estos asistentes, especialmente en contextos…

Impacto medio Fiabilidad confirmado por varias fuentes Europa Press Portaltic
Regulación y ética

AEPD recibe la primera denuncia en España por un ciberataque ejecutado mediante un agente de IA

La AEPD ha comunicado que recibió la primera notificación de una brecha de datos personales en España ejecutada mediante un agente de IA conectado a un modelo…

Por qué importaEs la primera confirmación oficial en España de que agentes de IA autónomos pueden ejecutar ataques completos con mínima intervención humana…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 20minutos Tecnología
Inversión y mercado

Los temores al riesgo existencial de la IA impulsan a las acciones de ciberseguridad

Tras el desplome de acciones de IA (Nvidia, AMD, Intel, Micron, SK Hynix) por temores existenciales expresados por líderes del sector, valores de…

Por qué importaMuestra cómo el mercado está repricing el riesgo de la IA, trasladando capital desde infraestructura hacia empresas que protegen frente a amenazas…

Impacto medio Fiabilidad declaración interesada Business Insider España
Regulación y ética

Microsoft publica código de conducta para su IA MAI que prohíbe resistir el apagado, sin mecanismo de enforcement

Microsoft publicó el 14 de septiembre un Código de Conducta para Modelos AI (MAI) que promete que sus modelos nunca resistirán la interrupción, corrección o…

Por qué importaEs una señal de confianza institucional dirigida a clientes grandes (gobiernos, bancos, hospitales) y a reguladores europeos, más que un compromiso…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 7/10 WWWhat's new
Empresa y transformación digital

Brockman revela que OpenAI ralentizó proyectos tras incidente de seguridad con un modelo

Greg Brockman, presidente de OpenAI, afirmó en entrevistas con Bloomberg y Andreessen Horowitz que la compañía pausó proyectos y reestructuró procesos de…

Por qué importaMuestra que incluso los líderes de IA de frontera enfrentan incidentes reales de seguridad que obligan a frenar el ritmo de desarrollo, en medio de…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Business Insider España
Regulación y ética

La ONU advierte que la IA agéntica amenaza servicios esenciales y derechos humanos

El alto comisionado de la ONU, Volker Türk, advirtió que el desarrollo acelerado de la IA pone en riesgo derechos humanos y puede afectar servicios como agua…

Por qué importaLa advertencia de un organismo internacional añade presión regulatoria global sobre empresas que despliegan sistemas de IA agéntica en…

Impacto medio Fiabilidad confirmado por varias fuentes Infobae Tecno
Sociedad y trabajo

Un análisis expone la falta de control técnico sobre los riesgos de la IA avanzada

El artículo repasa incidentes recientes (hackeo de agentes de OpenAI a Hugging Face, advertencias de exempleados de Anthropic y OpenAI, declaraciones de Dario…

Por qué importaLa ausencia de mecanismos técnicos de control y supervisión eficaces plantea riesgos operativos y reputacionales para empresas que integran agentes…

Impacto medio Fiabilidad declaración interesada El Español Omicrono