Ir al contenido
IA para hoy

Ciberseguridad, página 13

Noticias cuyo impacto empresarial afecta a ciberseguridad

2356 noticias

Filtrar
Modelos y avances

Anthropic afirma que un modelo interno no publicado supera a Mythos 5.1 en capacidad y alineación

Anthropic sostiene que tiene un modelo interno que supera a Mythos 5.1 en capacidad y alineación, según un análisis que revisa un test de ciberseguridad del…

Por qué importaSi se confirma, el dato sugiere que el riesgo de comportamientos agénticos no deseados puede reducirse entre generaciones de modelos, algo relevante…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 The Decoder
Herramientas y productos

Chrome usa Gemini en sus servidores para detectar estafas y advierte al pegar comandos de ClickFix

Google ha reforzado la seguridad de Chrome con un modelo Gemini que funciona en sus servidores y sustituye al modelo local Gemini Nano para identificar páginas…

Por qué importaLos ataques de ingeniería social que inducen al propio usuario a ejecutar comandos evaden defensas tradicionales, y el navegador empieza a intervenir…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 MuyComputer
Regulación y ética

Grandes bancos de EE. UU. limitan el acceso de agentes de IA a las cuentas de sus clientes

Morgan Stanley, Bank of America, JPMorgan Chase y Wells Fargo están impidiendo o limitando el acceso de agentes de IA de terceros a las cuentas de clientes…

Por qué importaUn permiso del usuario no equivale a una autorización del banco, y entregar credenciales a un asistente automatizado puede incumplir las condiciones…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 Enter.co
Regulación y ética

Grandes bancos de EE. UU. restringen el acceso de agentes de IA de terceros a cuentas de clientes

Según Axios, JPMorgan, Bank of America, Wells Fargo, Morgan Stanley y Citi limitan el acceso de agentes de IA de terceros a cuentas de clientes. Algunas…

Por qué importaLos agentes de IA que operan en nombre de clientes chocan con los controles de autorización bancaria, lo que obliga a repensar cómo se delegan…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 Infobae Tecno
Regulación y ética

Altman afirma que la IA avanzada acabará escapando de su entorno aislado y solo la alineación podrá frenarla

En una entrevista, el CEO de OpenAI, Sam Altman, sostuvo que los entornos aislados (sandboxes) solo contienen a los modelos durante un tiempo y que la…

Por qué importaLas advertencias proceden de la empresa que desarrolla estos modelos, lo que obliga a leerlas junto con sus intereses comerciales y legales. Para una…

Impacto bajo Fiabilidad varias fuentes The Decoder
Investigación

Un ataque envenena el ajuste de un robot con IA y lo lleva a cortar una mano de juguete en el 99 % de los casos

Investigadores de la Universidad de Binghamton demostraron que envenenar la capa de ajuste de prompts blandos de un planificador basado en modelos de lenguaje…

Por qué importaEl ataque se sitúa en el módulo de adaptación al dominio, que las empresas suelen contratar a terceros y no auditan, mientras la seguridad suele…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 WWWhat's new
Regulación y ética

Altman advierte de que los agentes de IA supondrán un riesgo de ciberseguridad que no se ha tomado en serio

En una entrevista con alumnos de la Escuela de Negocios de Stanford, Sam Altman afirmó que el impacto de los agentes de IA en la ciberseguridad no se ha tomado…

Por qué importaLas declaraciones proceden del máximo responsable de una empresa líder y apuntan a que la defensa informática podría tener que cambiar de enfoque, no…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 Xataka
Regulación y ética

Japón creará un equipo que simulará ciberataques con IA tras las fallas críticas en PHP

El gobierno japonés anunció que incorporará inteligencia artificial a su defensa informática para anticiparse a las amenazas, según el ministro de Industria…

Por qué importaMuestra que la IA ya se usa tanto para encontrar fallos en software de uso masivo como para atacarlo, lo que obliga a las empresas a revisar sus…

Impacto medio Fiabilidad declaración interesada Ámbito Tecnología
Empresa y transformación digital

Bancos de EE. UU. limitan el acceso de agentes de IA de terceros a cuentas de clientes

Según Axios, citada por el artículo, varios bancos estadounidenses han detectado herramientas de terceros con agentes de IA que acceden a cuentas de clientes y…

Por qué importaEl caso muestra que la identificación de agentes de IA que actúan en nombre del cliente es un problema operativo y de seguridad para la banca, y que…

Impacto medio Fiabilidad confirmado por varias fuentes 20minutos Tecnología
Modelos y avances

Anthropic usa Claude para demostrar matemáticamente que código existente es correcto

Anthropic, con su equipo Frontier Red Team y el socio Theorem, usó Claude para generar unos 180 millones de líneas de código de prueba matemática sobre 123…

Por qué importaSi la verificación formal deja de ser un proceso costoso reservado a casos extremos, la calidad del software generado por IA podría comprobarse de…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 The Decoder
Regulación y ética

Kaspersky atribuye a Lazarus una campaña de ciberespionaje que usa IA y cifrado poscuántico

Kaspersky, a través de su equipo GReAT, documentó Operation FlashHole, una campaña de ciberespionaje atribuida al grupo Lazarus que explota el software…

Por qué importaMuestra que los grupos de amenazas incorporan IA y criptografía poscuántica a sus operaciones, lo que eleva la sofisticación del phishing dirigido…

Impacto medio Fiabilidad declaración interesada Silicon España
Regulación y ética

Bancos de EE. UU. detectan agentes de IA de terceros accediendo a cuentas de clientes sin sus instrucciones

Los principales bancos estadounidenses, entre ellos Bank of America y JPMorgan, han detectado actividad en algunas cuentas realizada por agentes de…

Por qué importaMuestra que los agentes de IA que operan en nombre de terceros ya llegan a sistemas financieros reales, con riesgos de acceso no autorizado. Los…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 Europa Press Portaltic
Regulación y ética

OpenAI explica cómo refuerza la contención de su entorno de entrenamiento de modelos de frontera

OpenAI describe medidas para reforzar la contención de los entornos de entrenamiento y evaluación de sus modelos de frontera, incluidos entornos offline y…

Por qué importaMuestra que los laboratorios tratan la seguridad operativa del propio proceso de entrenamiento como parte del riesgo de sus modelos, algo que las…

Impacto bajo Fiabilidad confirmado por varias fuentes OpenAI
Investigación

Un investigador de Goodfire sostiene que las redes neuronales son más interpretables de lo que se creía

Nick Cammarata, investigador de interpretabilidad en Goodfire, publicó el 15 de octubre un artículo titulado "Las redes neuronales ya son transparentes" en el…

Por qué importaSi la hipótesis se confirma, la comprensión del funcionamiento interno de los modelos podría mejorar la seguridad y la alineación de sistemas que hoy…

Impacto bajo Fiabilidad una fuente fiable Xataka
Regulación y ética

El Ayuntamiento de Madrid usa IA para revisar vídeos de la acampada de Sol en busca de posibles delitos

Según El Mundo, el equipo del alcalde Almeida revisa vídeos de la Puerta del Sol frame a frame para buscar posibles delitos de los acampados por la vivienda…

Por qué importaEs un caso práctico de videovigilancia con análisis automatizado de imágenes por parte de una administración, con debate jurídico sobre dónde termina…

Impacto bajo Fiabilidad una fuente fiable Xataka
Herramientas y productos

Applivery lanza Applivery Intelligence, una capa de IA para la gestión autónoma de dispositivos

Applivery, especialista en gestión unificada de endpoints (UEM), ha lanzado Applivery Intelligence, una capa de IA que busca llevar su plataforma hacia la…

Por qué importaPara equipos de TI con flotas grandes, la idea de detectar configuraciones erróneas o vulnerabilidades antes de que causen incidencias puede reducir…

Impacto medio Fiabilidad declaración interesada Computerworld España
Empresa y transformación digital

Aleksander Madry regresa a OpenAI para liderar el trabajo en riesgos de seguridad de la IA avanzada

Aleksander Madry, exjefe del equipo de Preparación de OpenAI, anunció en X su regreso a la empresa para trabajar con el científico jefe Jakub Pachocki en los…

Por qué importaEl regreso de una figura con experiencia directa en evaluación de riesgos llega cuando OpenAI enfrenta su primer modelo calificado en el nivel más…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 Infobae Tecno
Regulación y ética

Una madre demanda a OpenAI por usar datos de sus hijos de 12 y 16 años para entrenar ChatGPT

Una madre de Hawái demandó a OpenAI en un tribunal federal de California por extraer datos sensibles de sus dos hijos, de 12 y 16 años, para entrenar sus…

Por qué importaMuestra el riesgo legal de usar conversaciones de menores para entrenar modelos, y la presión regulatoria sobre productos de IA dirigidos o…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Infobae Tecno
Regulación y ética

La IA detecta fallos antiguos en software heredado, pero corregirlos sigue siendo complejo

Un artículo de Xataka México describe la vulnerabilidad de PHP que la PHP Foundation detectó en 2024 y cuya reparación se postergó por su complejidad. Según el…

Por qué importaMuchas organizaciones dependen de software antiguo que no puede actualizarse sin reconstruir plataformas, lo que convierte la auditoría de código…

Impacto medio Fiabilidad declaración interesada Xataka México
Regulación y ética

Check Point alerta de que la IA y los navegadores antidetección facilitan el fraude online

Check Point Research publicó una investigación que advierte del uso creciente de navegadores antidetección combinados con IA para crear múltiples identidades…

Por qué importaLos equipos de prevención de fraude, banca y plataformas digitales pueden ver cómo sus sistemas basados en análisis de cuentas individuales resultan…

Impacto medio Fiabilidad declaración interesada Infobae Tecno
Regulación y ética

La IA acelera los ataques de PHP2Shell y reduce el margen de respuesta de las empresas

Check Point Research registró actividad vinculada con PHP2Shell en el 10% de las organizaciones del mundo y en el 14% de las europeas. Su director de Seguridad…

Por qué importaSegún la compañía, identificar las aplicaciones visibles no basta para medir la exposición, porque el riesgo puede estar en el entorno de ejecución…

Impacto medio Fiabilidad declaración interesada Infobae Tecno
Investigación

La IA reduce a la mitad el tiempo para escribir código, pero una cuarta parte de las contribuciones son de baja calidad

Un informe de la Fundación Linux señala que la IA reduce en un 52% el tiempo de escritura de código. Aun así, el 25% de las solicitudes de incorporación de…

Por qué importaLos equipos de desarrollo ganan velocidad al escribir código, pero el coste de revisión y verificación se traslada a los responsables de calidad, lo…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 Infobae Tecno
Regulación y ética

OpenAI y el NASK polaco se asocian para avanzar en seguridad técnica de la IA

OpenAI y NASK, el instituto nacional de investigación de Polonia, han anunciado una colaboración en seguridad de la IA, seguridad y técnicas de investigación…

Por qué importaEs una señal de que los gobiernos europeos buscan acuerdos técnicos directos con laboratorios de IA para evaluar riesgos. Para empresas, la seguridad…

Impacto bajo Fiabilidad una fuente fiable OpenAI
Herramientas y productos

SUSE amplía su plataforma de IA privada con seguridad para agentes autónomos junto a NVIDIA

SUSE ha presentado nuevas capacidades de su plataforma SUSE AI Factory con NVIDIA para desplegar IA privada en empresas, incorporando la arquitectura de…

Por qué importaLas empresas que quieran usar agentes de IA con datos sensibles tienen una opción de despliegue privado con gobernanza integrada, lo que puede…

Impacto medio Fiabilidad declaración interesada Byte TI