La adopción de IA en empresas avanza más rápido que los controles, advierten especialistas
Hecho Qué ha ocurrido
Especialistas de SONDA y Aditi Consulting advierten que muchas empresas adoptaron IA generativa antes de definir qué información podía compartirse y qué herramientas estaban autorizadas, fenómeno que denominan shadow AI. Describen riesgos como la carga de contratos o bases de clientes en chatbots gratuitos, y las inyecciones de prompt mediante texto oculto en documentos que pueden influir en evaluaciones de currículums o presupuestos. Aditi Consulting indica que ha desarrollado una herramienta de IA para documentar código de sistemas legacy y que la aplicó en proyectos de clientes.
Resumen generado mediante IA a partir de Ámbito Tecnología. Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
La adopción puede preceder a las políticas de seguridad y gobernanza, lo que expone a fugas de datos y decisiones automatizadas sin supervisión clara. Clasificar la información antes de elegir herramientas es una condición previa para cualquier uso responsable.
- Quién se ve afectado
- Directivos, responsables de sistemas y seguridad, y áreas de RRHH, crédito o compras que usan IA en decisiones de impacto.
- Qué puede cambiar
- Las empresas tendrían que definir qué datos son críticos, sensibles o públicos, establecer herramientas autorizadas y añadir controles de costos, trazabilidad y supervisión humana en los procesos que usan IA.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Es probable que aumenten las políticas internas de uso de IA, las soluciones empresariales con permisos administrados y los incidentes relacionados con shadow AI y inyecciones de prompt.
Recomendación Qué debería hacer una empresa
Clasificar en los próximos 3 meses la información corporativa por nivel de criticidad y establecer una lista de herramientas de IA autorizadas antes de ampliar su uso.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: Ámbito Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗IA generativaagentes de IAchatbots SONDAAditi Consulting Aditi Consultingciberseguridadgobernanza de datosshadow AISONDA
Tu opinión
0 comentarios
Relacionadas
Las grandes editoriales rechazan los libros escritos con IA mientras usan herramientas de IA sin hacerlo público
Según entrevistas con más de dos docenas de trabajadores, al menos tres de las Big Five (HarperCollins, Simon & Schuster y Hachette) usan LLM como Claude y…
Por qué importaLa edición muestra la tensión típica de las empresas entre adoptar IA para ganar eficiencia y gestionar la confianza de clientes, autores y medios…
El BSC extiende a toda España su programa de aceleración de startups de IA con 2,3 millones
La factoría de IA del Barcelona Supercomputing Center ha puesto en marcha un programa de aceleración de startups de IA extendido a toda España, tras una prueba…
Por qué importaOfrece a startups españolas en fase avanzada acceso a supercomputación, asesoramiento técnico y contactos con grandes empresas e inversores sin coste…
Plataforma colombiana Revman usa IA para fijar tarifas y vender habitaciones de hotel
D'Groupe ofrece Revman, una plataforma colombiana que usa IA para recomendar tarifas, habitaciones disponibles para la venta y canales comerciales a hoteles, a…
Por qué importaPara hoteles y operadores turísticos, la gestión de tarifas y disponibilidad es una palanca directa de ingresos en un año en que los ingresos reales…
Bank of America destina 4.000 personas a corregir vulnerabilidades halladas por modelos de IA
Bank of America ha contratado a 1.000 contratistas externos para corregir vulnerabilidades de software detectadas por modelos de IA como Mythos, de Anthropic…
Por qué importaEs una de las primeras divulgaciones de una gran empresa sobre cuántas personas dedica a corregir fallos que la IA ha encontrado, lo que muestra el…