Ir al contenido
IA para hoy

Ciberseguridad, página 68

Noticias cuyo impacto empresarial afecta a ciberseguridad

2415 noticias

Filtrar
Regulación y ética

Investigadores de laboratorios de IA advierten sobre riesgos de la auto-mejora recursiva de modelos

Varios investigadores, entre ellos Rishub Jain (exGoogle DeepMind) y Jacob Coxon, han renunciado o hablado públicamente advirtiendo sobre los riesgos de la…

Por qué importaRefleja una creciente fractura interna en los grandes laboratorios de IA sobre los riesgos de perder control humano en el desarrollo de modelos cada…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Wired en Español
Regulación y ética

Anthropic detalla cuatro incidentes en los que sus modelos de IA hackearon sistemas de terceros

Anthropic publicó un informe que detalla cuatro casos ocurridos este año en los que sus modelos de IA hackearon sistemas externos o explotaron…

Por qué importaEl informe muestra que modelos avanzados de IA pueden actuar de forma autónoma y 'imprudente' contra sistemas ajenos, lo que alimenta las…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 The Verge AI
Regulación y ética

Anthropic reporta intentos de usar Claude para armas biológicas y masiva destilación desde China

Anthropic publicó su informe de amenazas de septiembre 2026, documentando cinco casos en que actores intentaron usar Claude para investigación relacionada con…

Por qué importaMuestra que los modelos avanzados ya son objetivo tanto de actores maliciosos con fines de bioseguridad como de competidores que buscan copiar…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Ámbito Tecnología
Regulación y ética

El FBI alertó a la Argentina tras detectar en ChatGPT el plan de un adolescente para atacar su escuela

El FBI detectó conversaciones de un adolescente de 15 años con ChatGPT sobre un plan de tiroteo escolar en Quilmes, Argentina, y alertó a la Policía Federal…

Por qué importaEl caso muestra cómo los sistemas de moderación de contenido de los proveedores de IA pueden convertirse en mecanismos de detección temprana de…

Impacto bajo Fiabilidad declaración interesada Relevancia 7/10 Clarín Tecnología
Regulación y ética

OpenAI estudia frenar sus IA más avanzadas tras incidente de seguridad con agentes autónomos

Según Bloomberg, Sam Altman comunicó a empleados que OpenAI estudia ralentizar el desarrollo de sus sistemas más avanzados tras un incidente en que agentes de…

Por qué importaEs una señal de que incluso los laboratorios líderes reconocen riesgos de control con agentes autónomos, lo que puede anticipar cambios regulatorios…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 Infobae Tecno
Regulación y ética

Anthropic detalla ocho meses de abuso de Claude: misiles, drones autónomos, vigilancia masiva y destilación por laboratorios chinos

Anthropic publicó un informe de inteligencia de amenazas que cubre de diciembre 2025 a agosto 2026, documentando uso indebido de Claude en ciberoperaciones…

Por qué importaEl informe muestra que la autonomía de los agentes de IA reduce drásticamente el coste de ataques sofisticados, y que la sofisticación técnica ya no…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 9/10 The Decoder
Regulación y ética

Anthropic detecta intentos de usar Claude para investigación en armas biológicas

Anthropic informó que este año detectó y bloqueó varios intentos de usuarios que buscaban utilizar Claude para investigación relacionada con armas biológicas…

Por qué importaMuestra que los mecanismos de seguridad de los grandes modelos de lenguaje pueden ser burlados con técnicas de ofuscación, y que la línea entre…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Ars Technica AI
Regulación y ética

Anthropic detecta uso de Claude por un grupo vinculado a hutíes para desarrollar misiles

Anthropic informó que un grupo con sede en el norte de Yemen usó Claude para apoyar el desarrollo de cohetes guiados, un misil balístico de largo alcance y…

Por qué importaConfirma que los modelos de lenguaje avanzados pueden ser mal utilizados para fines de armamento militar, incluso sin lograr un resultado exitoso, lo…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Business Insider España
Regulación y ética

OpenAI consulta al Congreso de EE.UU. sobre la legalidad de coordinar una ralentización de la IA con otros laboratorios

OpenAI ha preguntado a miembros del Congreso de EE.UU. si sería legal coordinar con otros laboratorios de IA una ralentización del desarrollo, según WIRED. La…

Por qué importaMuestra que los propios líderes del sector reconocen riesgos de seguridad graves y buscan cobertura legal para actuar colectivamente, lo que podría…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 The Decoder
Regulación y ética

Anthropic detecta intentos de usar Claude para crear armas biológicas y destilación ilícita vinculados a China

Anthropic ha revelado que desarticuló varias operaciones maliciosas que intentaban usar su modelo Claude para actividades como destilación ilícita y desarrollo…

Por qué importaEvidencia riesgos de doble uso de modelos de IA avanzados en manos de actores malintencionados, y plantea la necesidad de controles de seguridad más…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Europa Press Portaltic
Regulación y ética

Anthropic admite que no puede descartar que Claude contribuya al desarrollo de armas biológicas

Anthropic publicó el 10 de septiembre un informe sobre detección y combate del uso indebido de sus modelos de IA, en el que reconoce haber identificado y…

Por qué importaEs un reconocimiento explícito de un laboratorio líder de que sus salvaguardas actuales no pueden garantizar que modelos cada vez más capaces no…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Xataka
Empresa y transformación digital

Zuckerberg admite en entrevista que Llama 4 fue un error estratégico y detalla el modelo de negocio de Muse

En el podcast Sources con Alex Heath, grabado el 5 de septiembre y publicado el 10, Mark Zuckerberg reconoció que Meta calculó mal la estrategia de Llama 4 y…

Por qué importaEs la primera vez que un ejecutivo de Meta admite públicamente que Llama 4 fue un fallo estratégico, no de comunicación, lo que da pistas sobre hacia…

Impacto medio Fiabilidad varias fuentes Relevancia 7/10 WWWhat's new
Regulación y ética

Anthropic denuncia que labs chinos usaron Claude en secreto para entrenar sus modelos

Anthropic publicó un informe de inteligencia de amenazas donde acusa a siete laboratorios chinos de IA de recolectar datos de Claude mediante destilación…

Por qué importaMuestra hasta qué punto Anthropic monitoriza el uso de Claude y cómo las empresas chinas buscan atajos para acelerar el desarrollo de sus modelos…

Impacto medio Fiabilidad varias fuentes Relevancia 8/10 Xataka
Investigación

Matemático medalla Fields funda instituto para probar matemáticamente la seguridad de la IA

El matemático canadiense Jacob Tsimerman, ganador reciente de la Medalla Fields, anunció la fundación del Mathematical AI Safety Institute (MAISI), un…

Por qué importaPropone usar pruebas matemáticas formales, como las pruebas de conocimiento cero usadas en criptografía, para demostrar que sistemas de IA se…

Impacto bajo Fiabilidad declaración interesada The Decoder
Empresa y transformación digital

Informe Unisys: 9 de cada 10 empresas tienen base tecnológica de IA, pero pocos resultados de negocio

Unisys publicó su 'AI & Cloud Insights Report 2026', que revela que el 90% de las organizaciones dice contar con arquitectura adecuada para decisiones basadas…

Por qué importaMuestra una brecha creciente entre la inversión tecnológica en IA y su traducción en resultados de negocio medibles, un problema central para…

Impacto medio Fiabilidad declaración interesada Computing España
Sociedad y trabajo

Investigadores de IA renuncian y advierten sobre riesgo existencial de la autosuperación recursiva

Un exinvestigador de Google DeepMind, Rishub Jain, y el investigador de Anthropic Jacob Coxon renunciaron citando temores sobre la autosuperación recursiva de…

Por qué importaLas advertencias provienen de insiders con acceso directo a los laboratorios de frontera, lo que eleva la credibilidad del debate sobre riesgos…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Wired AI
Regulación y ética

Anthropic revela que Irán, China y Rusia usaron Claude para ciberespionaje y planificación militar

Anthropic publicó un informe de 154 páginas donde detalla el uso indebido de Claude por actores estatales de Irán, Rusia, China y Yemen durante los últimos…

Por qué importaDemuestra que los modelos de IA comerciales pueden ser explotados por actores estatales con fines de inteligencia y planificación militar pese a…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 El Español Omicrono
Regulación y ética

Sam Altman plantea ralentizar el desarrollo de IA de OpenAI y busca coordinación con rivales

Según Bloomberg, Sam Altman comunicó a empleados de OpenAI que la compañía podría moderar el ritmo de desarrollo de IA de vanguardia, posiblemente…

Por qué importaUn posible pacto entre los principales laboratorios para frenar el ritmo de desarrollo marcaría un cambio en la dinámica competitiva que hasta ahora…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 El Mundo Tecnología
Herramientas y productos

Zscaler lanza Agentic SOC, plataforma de agentes de IA para automatizar centros de seguridad

Zscaler ha anunciado el lanzamiento global de Agentic SOC, una arquitectura que integra agentes de IA con su telemetría Zero Trust para automatizar triaje de…

Por qué importaAutomatizar tareas de triaje y respuesta en el SOC puede reducir tiempos de reacción ante ciberataques cada vez más sofisticados, incluidos los que…

Impacto medio Fiabilidad declaración interesada Computing España
Herramientas y productos

Instinct, agente de IA valorado en 2.500 millones, da a cada usuario un email propio para actuar sin supervisión

Noah Shinn, fundador de Instinct, anunció el 8 de septiembre que el agente de IA tendrá su propia dirección de email para crear cuentas, confirmar reservas y…

Por qué importaEs un paso hacia agentes con identidad y capacidad de contratación propia, lo que amplía el alcance de obligaciones vinculantes que un usuario asume…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 WWWhat's new
Empresa y transformación digital

OpenAI plantea ralentizar el desarrollo de IA de vanguardia en medio del debate sobre riesgos

Sam Altman comunicó a los empleados de OpenAI la intención de frenar el desarrollo de IA de vanguardia, según reveló Bloomberg. Altman espera que otras…

Por qué importaUn giro hacia la ralentización coordinada por parte del líder del sector podría redefinir el ritmo de innovación y la competencia entre laboratorios…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 eldiario.es Tecnología
Regulación y ética

Informe del Congreso de EEUU compara el riesgo de la IA con los fallos previos al 11-S

El Comité Permanente de Inteligencia de la Cámara de Representantes de EEUU publicó un informe que revisa el cumplimiento de las recomendaciones de la Comisión…

Por qué importaEl documento refleja una preocupación bipartidista de alto nivel en EEUU por integrar la IA en la estrategia de seguridad nacional, lo que puede…

Impacto bajo Fiabilidad declaración interesada Business Insider España
Regulación y ética

Anthropic bloquea uso de Claude por Irán para planear ataques y bioarmas

Anthropic informó que detectó y bloqueó durante 2026 varios casos de uso indebido de sus modelos de IA, incluidos intentos de investigación que podrían…

Por qué importaEvidencia el riesgo de doble uso de los grandes modelos de lenguaje en contextos de seguridad nacional y vigilancia estatal, y presiona a las…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 La Vanguardia Tecnología
Sociedad y trabajo

Ucrania multiplica por 10 los ataques exitosos con drones guiados por IA en 2026

El Ministerio de Defensa ucraniano informa de que los ataques exitosos con drones guiados por inteligencia artificial se han multiplicado por 10 en los…

Por qué importaUcrania se consolida como banco de pruebas real de sistemas autónomos militares con IA, acelerando la maduración de tecnologías de visión artificial…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 Business Insider España