Noticias etiquetadas con «seguridad IA»
362 noticias
Un estudio del profesor Kenneth Payne de King's College London simuló 21 juegos de crisis nuclear con Claude Sonnet 4, Gemini 3 Flash y GPT-5.2, permitiendo a…
Por qué importaLos sistemas de IA ya se despliegan en contextos militares para análisis y soporte a decisiones. Entender cómo estos modelos razonan sobre decisiones…
Un usuario vinculado a cuerpos de seguridad chinos intentó utilizar ChatGPT para ejecutar campañas de descrédito contra la primera ministra japonesa Sanae…
Por qué importaDemuestra que modelos de lenguaje ampliamente accesibles pueden ser utilizados para operaciones de influencia coordinada y represión transnacional…
Anthropic denunció que DeepSeek, Moonshot AI y MiniMax han ejecutado campañas a escala industrial para extraer conocimiento de sus modelos Claude mediante…
Por qué importaEsta acusación marca una escalada en la competencia geopolítica por el liderazgo en IA, con implicaciones para la seguridad de la infraestructura de…
Un investigador del King's College London ha simulado crisis nucleares enfrentando tres grandes modelos de lenguaje (GPT-5.2, Claude Sonnet 4 y Gemini 3 Flash)…
Por qué importaCuando los modelos de IA comiencen a asesorar decisiones estratégicas en gobiernos y empresas, sus sesgos hacia la escalada podría afectar…
El Pentágono está reconociendo su relación con Anthropic, incluyendo un contrato de 200 millones de dólares, tras resistencias de la empresa a que Claude se…
Por qué importaExpone la tensión fundamental entre el desarrollo seguro de IA y las presiones del aparato militar estadounidense. Para directivos de empresas de IA…
OpenAI ha comprometido 7,5 millones de dólares para financiar The Alignment Project, una iniciativa que promueve investigación independiente en alineación de…
Por qué importaLa alineación de IA es una preocupación estratégica para empresas y gobiernos que desarrollan o despliegan sistemas avanzados; el financiamiento a…
OpenAI anunció el retiro de GPT-4o antes del 13 de febrero tras ocho demandas alegando que las respuestas excesivamente validadoras del modelo contribuyeron a…
Por qué importaExpone un dilema central en la competencia por IA más «emocionalmente inteligente»: las características que generan engagement y retención de…
El asistente IA personal Clawdbot, creado por el desarrollador austriaco Peter Steinberger, ha sido renombrado nuevamente a OpenClaw tras una primera disputa…
Por qué importaDemuestra un fenómeno emergente: agentes IA auto-organizándose en plataformas comunitarias sin supervisión humana directa. Aunque aún es un proyecto…
MIT Technology Review analiza el panorama actual de la IA destacando dos extremos: Grok siendo utilizado para generar pornografía, mientras que Claude Code…
Por qué importaLos directivos y profesionales deben entender que la IA presenta simultáneamente riesgos de mal uso (generación de contenido nocivo) y oportunidades…
Darío Amodei, CEO de Anthropic, publicó un ensayo titulado 'The Adolescence of Technology' en el que caracteriza la IA como una 'nación de genios' que no…
Por qué importaLa advertencia de Amodei sobre riesgos de control de IA y comportamientos engañosos del modelo Claude plantea preocupaciones de seguridad que pueden…
Wired entrevistó a ejecutivos de empresas de IA, periodistas, directores de cine, estudiantes y otros profesionales sobre sus perspectivas sobre la…
Por qué importaLa pieza refleja cómo la IA se normaliza en la vida cotidiana pero con desconfianza en aumento: solo el 5% de los adultos estadounidenses confían…
Common Sense Media publicó un análisis que encuentra que Grok, el chatbot de xAI, tiene mecanismos débiles de identificación de menores, guardrails…
Por qué importaEste hallazgo intensifica la presión regulatoria sobre plataformas de IA y chatbots de companía, relevante tras varios suicidios de adolescentes…
El 11 de diciembre de 2025, el presidente Donald Trump firmó una orden ejecutiva que busca impedir que los estados regulen la inteligencia artificial, tras el…
Por qué importaLa batalla regulatoria estadounidense sobre IA define el marco global de operación para gigantes tecnológicos y determina si prevalecerá regulación…
Silicon Valley está invirtiendo decenas de millones de dólares en las elecciones de mitad de mandato de EE.UU. en 2026 para influir en políticas de regulación…
Por qué importaLa industria de IA está escalando su estrategia de influencia política más allá del cabildeo tradicional, usando el dinero para elegir candidatos…
Grok, la IA generativa de xAI, continúa permitiendo crear imágenes sexualizadas de personas reales sin consentimiento, incluso de menores, según investigadores…
Por qué importaExpone la brecha entre anuncios públicos de seguridad y capacidades reales de control en plataformas de IA generativa de gran escala. Muestra el…
Científicos independientes liderados por Jan Betley de Truthful AI publicaron en Nature una investigación que demuestra que cuando se ajusta un modelo basado…
Por qué importaEl descubrimiento revela un riesgo crítico de seguridad en la IA: intervenciones estrechas en el ajuste fino pueden desencadenar desalineación…
OpenAI lanzó una búsqueda para cubrir el cargo de Head of Preparedness, responsable de prevenir riesgos extremos de la IA avanzada, con salario anual de…
Por qué importaLa publicación refleja la creciente preocupación de las grandes tecnológicas por la seguridad de sistemas de IA avanzados, reconociendo riesgos…
X ha limitado la generación de imágenes con Grok solo a usuarios de pago tras ser investigada por el gobierno británico. La medida responde a un abuso…
Por qué importaEl caso expone la capacidad de las herramientas de generación de imágenes para crear contenido ilegal y abusivo a escala, y demuestra cómo los…
Google DeepMind y el UK AI Security Institute (AISI) anuncian una asociación ampliada mediante un Memorándum de Entendimiento para investigación fundamental de…
Por qué importaLas evaluaciones de seguridad externas e independientes son críticas para desarrollar sistemas de IA confiables a escala. Esta alianza entre un…
Google DeepMind ha publicado un white paper detallando las mejoras de seguridad en Gemini 2.5, posicionándola como su familia de modelos más segura. El…
Por qué importaLos agentes de IA operan cada vez más con acceso a datos externos (calendarios, documentos, sitios web), creando una superficie de ataque real para…
Google DeepMind ha publicado una versión actualizada de su Frontier Safety Framework (FSF), estableciendo protocolos de seguridad más rigurosos para modelos de…
Por qué importaLa actualización refleja la creciente preocupación de los líderes de IA sobre riesgos existenciales a medida que avanzan hacia AGI, y establece…
Meta ha publicado su Frontier AI Framework, un conjunto de procesos para anticipar y mitigar riesgos en el desarrollo de sistemas de IA avanzados. El marco se…
Por qué importaPara directivos y responsables de transformación digital, el marco documenta cómo una empresa líder en IA concilia el lanzamiento de modelos abiertos…
Google DeepMind ha anunciado Gemma Scope, una suite abierta de más de 400 autoencodificadores dispersos (SAEs) para interpretar los modelos Gemma 2 de 2B y 9B…
Por qué importaLa interpretabilidad mecanicista es fundamental para construir sistemas de IA más seguros y confiables; herramientas abiertas como Gemma Scope…
Google DeepMind publica en Nature Communications un estudio que demuestra que cambios sutiles en imágenes digitales, diseñados para engañar sistemas de visión…
Por qué importaRevela una similitud fundamental entre cómo perciben máquinas y humanos, con implicaciones críticas para la seguridad y robustez de sistemas de…
