Perturbaciones adversariales en imágenes afectan también la percepción humana
Hecho Qué ha ocurrido
Google DeepMind publica en Nature Communications un estudio que demuestra que cambios sutiles en imágenes digitales, diseñados para engañar sistemas de visión por computadora, influyen también sistemáticamente en la percepción humana. Los experimentos muestran que humanos seleccionan con mayor frecuencia que al azar imágenes alteradas mediante ataques adversariales, incluso cuando cambios de píxeles son inferiores a 2 niveles en escala 0-255, aunque sin estar conscientes de la alteración.
Resumen generado mediante IA a partir de Google DeepMind (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Revela una similitud fundamental entre cómo perciben máquinas y humanos, con implicaciones críticas para la seguridad y robustez de sistemas de visión por computadora. Obliga a repensar cómo se diseñan y validan sistemas de IA en entornos donde pueden influir en decisiones humanas.
- Quién se ve afectado
- Equipos de seguridad de IA, desarrolladores de sistemas de visión por computadora, empresas con aplicaciones críticas de reconocimiento visual (vigilancia, automoción, medicina), investigadores en ciberseguridad.
- Qué puede cambiar
- Futuras investigaciones deberán alinear mejor los modelos de visión por computadora con representaciones visuales humanas y evaluar susceptibilidad a perturbaciones adversariales como métrica de robustez. Abre línea de investigación en efectos cognitivos involuntarios de tecnologías de IA.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Desarrollo de defensas contra ataques adversariales que consideren percepción humana. Estudios posteriores sobre magnitud real del efecto en contextos naturales versus controlados. Adopción de estos hallazgos en estándares de evaluación de visión por computadora. Investigación en si otros dominios (audio, texto) muestran patrones similares.
Recomendación Qué debería hacer una empresa
Equipos de seguridad de IA y visión por computadora deben evaluar en próximos 6-12 meses la alineación de sus modelos con percepción humana, considerando ataques adversariales sutiles en escenarios de aplicación crítica (automoción, medicina, control de acceso).
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Google DeepMind (fuente primaria). La referencia es siempre el artículo original.
Ver fuente original ↗visión por computadoraredes neuronalesataques adversariales Google DeepMind ataques adversariales Google DeepMind percepción seguridad IA visión por computadora
Relacionadas
Un experimento del MIT muestra que imágenes alteradas con IA generan falsos recuerdos
Un experimento del MIT con 200 personas mostró 24 fotografías cotidianas, y a parte del grupo se le enseñaron versiones alteradas con IA con expresiones…
Por qué importaMuestra que el contenido generado por IA puede alterar lo que las personas creen haber vivido, lo que afecta a la fiabilidad de testimonios…
Microsoft usa la verificación del estado de una base de datos como recompensa para entrenar agentes de IA
Microsoft publicó ThinkingBox-Training, un método que usa como recompensa de aprendizaje por refuerzo la comprobación ejecutable del estado final de la base de…
Por qué importaMuestra una forma concreta de mejorar la fiabilidad de agentes que modifican registros de negocio, un punto crítico para empresas que los quieran…
El MIT desarrolla una IA que analiza estructuras cristalinas en 3D para identificar materiales prometedores
Investigadores del MIT desarrollaron un modelo que combina estructuras atómicas tridimensionales con descripciones en lenguaje natural, descrito en Nature…
Por qué importaSi se confirma su utilidad, podría acortar la búsqueda de materiales que hoy requiere años de prueba y error, algo relevante para empresas de…
Microsoft afirma que su IA diagnostica casos médicos complejos más del doble de veces que los médicos
Microsoft informó de que su sistema MAI-DxO acertó más del doble de veces que un grupo de médicos generalistas en casos clínicos complejos, según un estudio…
Por qué importaMuestra que la capa de orquestación entre modelos puede mejorar el equilibrio entre precisión y coste en diagnóstico, aunque la mayor parte del…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.