Policía británica admite uso de Microsoft Copilot con alucinaciones en decisión sobre afición
Hecho Qué ha ocurrido
El jefe de policía de West Midlands confirmó que su departamento utilizó Microsoft Copilot para tomar la controvertida decisión de prohibir a aficionados del Maccabi Tel Aviv asistir a un partido en Birmingham en octubre de 2025. La herramienta generó información alucinada que fue incorporada en el proceso de evaluación de seguridad, tras negar públicamente durante semanas el uso de IA.
Resumen generado mediante IA a partir de Ars Technica AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Expone un riesgo crítico en la adopción de herramientas de IA generativa en decisiones públicas: los modelos producen contenido falso que puede pasar inadvertido en contextos de alta presión política y seguridad. Demuestra la vulnerabilidad de instituciones que confían en IA sin verificación robusta, con consecuencias reputacionales y legales.
- Quién se ve afectado
- Autoridades públicas, policías y organismos de seguridad que utilizan IA en toma de decisiones; ciudadanía afectada por resoluciones basadas en información generada erróneamente.
- Qué puede cambiar
- Refuerza la necesidad de transparencia obligatoria y auditoría de sistemas de IA en decisiones que afecten derechos. Las instituciones públicas enfrentarán presión regulatoria mayor para documentar y validar inputs de IA antes de implementar decisiones de alto impacto.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Reacciones regulatorias del gobierno británico y la UE sobre uso de IA en decisiones públicas; posibles demandas contra West Midlands Police; adopción de protocolos de verificación en organismos públicos europeos; comunicados de Microsoft sobre responsabilidad del usuario de Copilot.
Recomendación Qué debería hacer una empresa
Organizaciones públicas y privadas que utilizan Copilot o herramientas similares deben establecer, en los próximos 3-6 meses, protocolos de validación de resultados antes de decisiones operativas o administrativas críticas, incluyendo auditoría de prompts y outputs.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: Ars Technica AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMCopilotalucinaciones MicrosoftWest Midlands Police alucinaciones de IAMicrosoft CopilotReino Unidoseguridad públicatransparencia
Tu opinión
0 comentarios
Relacionadas
Un periodista usa un modelo de IA sin restricciones para hackear su propia red doméstica
El autor de Wired usó un modelo de código abierto 'abliterado' (sin guardarraíles), una versión desalineada de GLM-5.3 de Z.ai ofrecida por la startup…
Por qué importaDemuestra que capacidades de ciberataque automatizado antes reservadas a modelos frontera controlados (como Mythos de Anthropic o Astra de OpenAI) ya…
Microsoft pacta con sindicato docente de EE.UU. principios de privacidad para IA en escuelas
Microsoft acordó con la American Federation of Teachers (AFT) y su filial de Nueva York (UFT) diez principios de seguridad y privacidad para el uso de IA en…
Por qué importaMarca un precedente de cómo los proveedores de IA pueden negociar salvaguardas específicas con instituciones educativas ante la presión social y…
Investigador de Anthropic renuncia advirtiendo que la IA autosuperante podría 'matarnos a todos'
El investigador Jacob Coxon dejó Anthropic y publicó un mensaje público advirtiendo que empresas líderes de IA creen que sistemas de superinteligencia…
Por qué importaEsta declaración proviene de dentro de una de las principales empresas de IA, no de un crítico externo, lo que da peso institucional a preocupaciones…
Matemático denuncia a OpenAI por apropiarse de su avance en el problema de Navier-Stokes
Tristan Buckmaster y el investigador de Anthropic Levent Alpöge resolvieron un avance clave en el problema de Navier-Stokes usando modelos de IA como Codex y…
Por qué importaEl caso expone los riesgos de usar herramientas de IA de grandes tecnológicas en investigación puntera: posible apropiación de méritos, falta de…