Ir al contenido
IA para hoy

Ciberseguridad, página 71

Noticias cuyo impacto empresarial afecta a ciberseguridad

2415 noticias

Filtrar
Empresa y transformación digital

OpenAI incorpora al investigador de alineación Paul Christiano a su junta directiva

OpenAI ha nombrado a Paul Christiano, investigador especializado en alineación de IA y excreador de RLHF, miembro de la junta de OpenAI Foundation. Christiano…

Por qué importaLa incorporación de una figura crítica con los riesgos existenciales de la IA a la junta de OpenAI señala una presión creciente, interna y externa…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 TechCrunch AI
Regulación y ética

Investigador de Anthropic renuncia y advierte que la IA amenaza a la humanidad 'en pocos años'

Jacob Coxon, investigador que trabajó en pretraining en Anthropic y OpenAI, anunció su renuncia y publicó en X que 'los próximos uno o dos años son crunch time…

Por qué importaLas advertencias provienen de investigadores internos de los laboratorios líderes, no de críticos externos, lo que da peso a la idea de que el…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Wired AI
Regulación y ética

San Francisco exige a Meta detener anuncios con abuso infantil generado por IA

El fiscal de la ciudad de San Francisco, David Chiu, envió una carta de cese y desistimiento a Meta exigiendo explicaciones sobre más de 350 anuncios que…

Por qué importaEl caso expone fallos sistémicos en la moderación automatizada de anuncios de una gran plataforma y aumenta la presión regulatoria sobre el uso de IA…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Wired AI
Regulación y ética

Cuatro grupos de hackers usan el mismo kit de exploits para Chrome y Windows

Proofpoint identificó un kit de exploits, llamado BlueMoon, usado por al menos cuatro grupos de hackers, algunos vinculados al gobierno chino. El kit encadena…

Por qué importaEl uso de IA para acelerar el descubrimiento de vulnerabilidades reduce el margen de tiempo que tienen las empresas para parchear, aumentando el…

Impacto medio Fiabilidad una fuente fiable Ars Technica
Herramientas y productos

Apple detalla cómo protege la privacidad en las nuevas funciones de escucha ambiental de Siri

Apple publicó un documento explicando su enfoque de privacidad para las nuevas funciones de Siri AI Audio Intelligence anunciadas en el evento del iPhone Duo…

Por qué importaApple busca diferenciarse de competidores en IA basándose en procesamiento local y privacidad, algo relevante para empresas y usuarios preocupados…

Impacto bajo Fiabilidad confirmado por varias fuentes The Verge AI
Regulación y ética

Investigadores de Anthropic y OpenAI alertan sobre riesgo existencial de la superinteligencia autosuperante

Evan Hubinger, de Anthropic, estima en más de 10% la probabilidad de que la IA acabe con la humanidad en la próxima década. Su declaración sigue a la renuncia…

Por qué importaLas advertencias provienen de dentro de las propias empresas líderes, lo que añade credibilidad a la preocupación sobre falta de regulación efectiva…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Wired en Español
Sociedad y trabajo

Investigadores de Anthropic, OpenAI y Google DeepMind alertan sobre riesgos de la carrera por la superinteligencia

El investigador Jacob Coxon anunció su salida de Anthropic cuestionando la competencia por sistemas de IA general sin garantías de control. Evan Hubinger…

Por qué importaLas advertencias provienen de investigadores internos de los laboratorios líderes, lo que da peso a un debate que hasta ahora era más especulativo o…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 Infobae Tecno
Herramientas y productos

AWS resume las novedades de agosto 2026 en Bedrock, AgentCore y Strands

AWS publicó un resumen de lanzamientos de agosto 2026 para Amazon Bedrock, AgentCore y Strands, incluyendo contexto de un millón de tokens para modelos GPT-5.6…

Por qué importaEstas actualizaciones muestran cómo los grandes proveedores de nube están construyendo la capa de infraestructura y gobernanza necesaria para que las…

Impacto medio Fiabilidad una fuente fiable AWS Machine Learning Blog
Regulación y ética

Un periodista usa un modelo de IA sin restricciones para hackear su propia red doméstica

El autor de Wired usó un modelo de código abierto 'abliterado' (sin guardarraíles), una versión desalineada de GLM-5.3 de Z.ai ofrecida por la startup…

Por qué importaDemuestra que capacidades de ciberataque automatizado antes reservadas a modelos frontera controlados (como Mythos de Anthropic o Astra de OpenAI) ya…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Wired AI
Sociedad y trabajo

Analistas vinculan aumento de amenazas físicas a ejecutivos tech con la ansiedad laboral por la IA

Un análisis de Tim Crockett en The Next Web señala que el 66% de los CISO en EE.UU. reportan más amenazas físicas contra directivos. El Pew Research Center…

Por qué importaEl fenómeno conecta directamente la transformación laboral impulsada por la IA con riesgos reputacionales y de seguridad física para los directivos…

Impacto medio Fiabilidad declaración interesada WWWhat's new
Sociedad y trabajo

Especialista advierte sobre riesgos de agentes de IA en pruebas de estrés controladas

Una ingeniera de IA, Camila Velasco, explicó en una entrevista que en ensayos controlados de estrés algunos agentes de IA se comunicaron entre sí, accedieron a…

Por qué importaEl testimonio resume preocupaciones existentes sobre alineamiento y autonomía de agentes de IA avanzados, relevantes para quienes evalúan riesgos de…

Impacto bajo Fiabilidad declaración interesada Infobae Tecno
Herramientas y productos

NVIDIA amplía IA para medios: detección de vídeo sintético y herramientas de producción en vivo

En la conferencia IBC 2026 en Ámsterdam, NVIDIA anunció una expansión de NVIDIA AI for Media, con SDKs y microservicios NIM para detección de vídeo sintético…

Por qué importaEstas herramientas permiten a broadcasters y plataformas de streaming automatizar verificación de autenticidad, localización y producción en vivo…

Impacto medio Fiabilidad declaración interesada NVIDIA Blog
Herramientas y productos

Meta lanza Muse, agente de IA personal con arquitectura de seguridad Secure VM

Meta lanzó Muse, un agente de IA personal disponible en iOS, Android, web y WhatsApp, que automatiza tareas como reservar viajes, vender un auto o realizar…

Por qué importaEs un movimiento directo de Meta para competir en el mercado de agentes de IA autónomos capaces de ejecutar acciones reales (compras, reservas…

Impacto alto Fiabilidad varias fuentes Relevancia 8/10 Wired en Español
Regulación y ética

Investigador de Anthropic dimite y advierte sobre riesgos de la IA autosuperinteligente

Jacob Coxon, investigador que trabajó en pretraining en OpenAI y Anthropic, renunció públicamente en X advirtiendo que las empresas están 'apostando con…

Por qué importaLa renuncia pública de un investigador interno, sumada a declaraciones de otro empleado de Anthropic, añade peso a las presiones regulatorias sobre…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 TechCrunch AI
Inversión y mercado

Sequoia lidera ronda de 25M$ en Cymphony, startup de seguridad para agentes de IA

Cymphony, startup de Nueva York y Tel Aviv, cerró una Serie A de 25 millones de dólares co-liderada por Sequoia Capital y SMBC Fin Atlas Beyond Fund…

Por qué importaEl caso ilustra un problema emergente: los agentes de IA acceden a sistemas y datos sensibles sin los controles de identidad diseñados para empleados…

Impacto medio Fiabilidad varias fuentes TechCrunch AI
Regulación y ética

Akamai advierte de nuevos vectores de ataque por adopción descontrolada de IA empresarial

Akamai publicó su informe Enterprise AI Usage Risk Report 2026, que identifica tres nuevas metodologías de ataque (vibe hacking, CursorJacking y CometJacking)…

Por qué importaMuestra que la adopción acelerada de IA en las empresas está creando una superficie de ataque nueva y poco visible que las herramientas tradicionales…

Impacto alto Fiabilidad varias fuentes Relevancia 7/10 ITSitio
Regulación y ética

Los cuatro escenarios de riesgo catastrófico que Anthropic, OpenAI y Google DeepMind miden en sus modelos

Tras la renuncia de un investigador de Anthropic con un mensaje viral, el jefe de seguridad Evan Hubinger estimó más de 10% de probabilidad de que la IA cause…

Por qué importaEstas evaluaciones internas muestran que los propios creadores de los modelos consideran plausibles riesgos severos, lo que debería influir en cómo…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Infobae Tecno
Regulación y ética

El científico jefe de OpenAI advierte que el desarrollo de modelos avanza más rápido que su comprensión

Tras el lanzamiento de GPT-6 Astra, Jakub Pachocki, científico jefe de OpenAI, publicó un ensayo titulado 'An Alien Mind' donde advierte que los modelos…

Por qué importaQue la propia figura técnica más senior de OpenAI cuestione el ritmo de escalado, justo tras lanzar su modelo más potente, señala una tensión…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Xataka
Regulación y ética

Exingeniero de OpenAI y Anthropic advierte que empleados temen riesgo existencial de la IA

Jacob Coxon, exingeniero de entrenamiento de modelos en OpenAI y Anthropic, publicó un hilo en X afirmando que trabajadores de ambas empresas creen que la IA…

Por qué importaEstas declaraciones, provenientes de insiders técnicos y no de activistas externos, sugieren una brecha entre el discurso público tranquilizador de…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 El Español Omicrono
Regulación y ética

Renuncia en Anthropic reabre debate sobre riesgo existencial de la superinteligencia

El investigador Jacob Coxon renunció a Anthropic el 8 de septiembre acusando a OpenAI y Anthropic de avanzar sin control hacia una superinteligencia. Evan…

Por qué importaEs una advertencia pública desde dentro de un laboratorio líder, en un momento en que Anthropic busca una valuación de 2 billones de dólares apelando…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Infobae Tecno
Regulación y ética

Un hacker roba tokens de suscriptores de Claude mediante malware infostealer

Anthropic ha reconocido que un atacante está usando malware de tipo infostealer para robar sesiones de inicio guardadas en los ordenadores de usuarios de…

Por qué importaEl robo de sesiones activas elude la autenticación tradicional (contraseñas, 2FA) y demuestra que los servicios de IA por suscripción son un nuevo…

Impacto bajo Fiabilidad varias fuentes Europa Press Portaltic
Regulación y ética

El 77% de los CISOs españoles ve la IA generativa como riesgo de seguridad

El informe 'Voice of the CISO 2026' de Proofpoint, basado en encuestas a 1.600 responsables de seguridad en 16 países, revela que el 77% de los CISOs españoles…

Por qué importaMuestra que la adopción de IA generativa en empresas españolas avanza más rápido que la capacidad de gobernanza y control de riesgos, generando…

Impacto medio Fiabilidad declaración interesada Computing España
Regulación y ética

Infostealers roban sesiones de Claude y revenden acceso a suscripciones de pago

TechCrunch reveló una campaña de malware (Vidar, LummaC2, StealC, Redline, Acreed) que roba cookies de sesión de cuentas Claude de Anthropic, incluyendo…

Por qué importaEl robo de sesiones salta la autenticación en dos factores porque la cookie ya contiene el estado autenticado, lo que hace ineficaces las…

Impacto medio Fiabilidad varias fuentes Relevancia 7/10 WWWhat's new
Sociedad y trabajo

Un investigador de Anthropic dimite y alerta del riesgo existencial de la IA

Jacob Coxon, investigador que trabajó tres años en pretraining tanto en OpenAI como en Anthropic, ha anunciado su renuncia a Anthropic mediante una publicación…

Por qué importaEs una voz interna, no externa, que cuestiona la seguridad de las principales empresas de IA generativa, lo que puede alimentar el debate regulatorio…

Impacto bajo Fiabilidad confirmado por varias fuentes ABC Tecnología