Alex Stamos alerta de que la IA abarata los ciberataques y prevé una 'edad oscura' de la seguridad
Hecho Qué ha ocurrido
En una entrevista del podcast Decoder de The Verge, Alex Stamos, director de seguridad de Cognition, describe un aumento de brechas en empresas de IA y de criptomonedas en el último mes. Atribuye parte de la situación a herramientas de código abierto que, con modelos de pesos abiertos, automatizan la búsqueda de vulnerabilidades y la explotación. Según él, la ciberseguridad tradicional va retrasada frente a esta oleada.
Resumen generado mediante IA a partir de The Verge AI (original en inglés). Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
Si los atacantes pueden automatizar el ciclo completo de ataque con herramientas públicas, la seguridad de proveedores y clientes de IA deja de ser un asunto técnico aislado y pasa a ser un riesgo de negocio. Conviene revisar cuánto depende la empresa de terceros con acceso a sus sistemas.
- Quién se ve afectado
- Empresas que usan servicios de IA de terceros, proveedores de infraestructura cloud y equipos de ciberseguridad y de TI.
- Qué puede cambiar
- Los presupuestos y procesos de seguridad tendrían que adaptarse a ataques más rápidos y masivos, con más peso en la gestión de claves API, la cadena de suministro de software y la respuesta a incidentes.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Conviene vigilar nuevos incidentes encadenados en proveedores de IA, la difusión de herramientas ofensivas basadas en modelos abiertos y la respuesta de reguladores y aseguradoras.
Recomendación Qué debería hacer una empresa
Revisar en los próximos 3 meses las claves API, los permisos de terceros y los plugins de herramientas de desarrollo con acceso a código o producción.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: The Verge AI. La referencia es siempre el artículo original.
Ver fuente original ↗modelos de pesos abiertosagentes de IAexplotación automatizada de CognitionCursorFireworksBinance Alex Stamos brechas de datos ciberseguridad código abierto The Verge
Forma parte de la historia IA abarata y acelera los ciberataques, según expertos en seguridad (2 noticias, estado: alto impacto).
Relacionadas
Bill Gates advierte de un aumento de ciberataques con IA por la falta de regulación
Bill Gates, cofundador de Microsoft, advirtió en una entrevista con ABC News que la falta de regulación de la IA podría aumentar los ciberataques el próximo…
Por qué importaLas advertencias de figuras influyentes sobre el uso malicioso de modelos avanzados pueden anticipar cambios en exigencias de seguridad y en los…
Los modelos de IA de pesos abiertos se modifican en días para asistir a actividades terroristas, según un informe
Un informe de la ONG británica Tech Against Terrorism, con 134 modelos y más de 200 consultas, halla que la mayoría de modelos disponibles, cerrados y…
Por qué importaLos modelos abiertos pueden desplegarse localmente sin los filtros de los proveedores, lo que traslada a la empresa que los usa la responsabilidad…
Directivo de seguridad de Anthropic advierte sobre 18-24 meses críticos por IA en ciberseguridad
Jason Clinton, Deputy CISO de Anthropic, advirtió en la conferencia DEF CON que la industria de ciberseguridad atravesará entre 18 y 24 meses intensos debido a…
Por qué importaLa capacidad de IA para detectar y explotar vulnerabilidades pasará de laboratorios controlados a herramientas de acceso masivo en meses, creando una…
Solo 2 de 134 modelos de IA superan una prueba contra la ayuda a planes terroristas
Un informe de Tech Against Terrorism evaluó 134 modelos de IA con más de 200 solicitudes sobre ataques y armas, en tres rondas; solo dos superaron por completo…
Por qué importaMuestra que las salvaguardas de los modelos abiertos pueden desaparecer en días, lo que traslada el riesgo de uso indebido a cualquier empresa que…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.