Policía británica admite uso de Microsoft Copilot con alucinaciones en decisión sobre afición
Hecho Qué ha ocurrido
El jefe de policía de West Midlands confirmó que su departamento utilizó Microsoft Copilot para tomar la controvertida decisión de prohibir a aficionados del Maccabi Tel Aviv asistir a un partido en Birmingham en octubre de 2025. La herramienta generó información alucinada que fue incorporada en el proceso de evaluación de seguridad, tras negar públicamente durante semanas el uso de IA.
Resumen generado mediante IA a partir de Ars Technica AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Expone un riesgo crítico en la adopción de herramientas de IA generativa en decisiones públicas: los modelos producen contenido falso que puede pasar inadvertido en contextos de alta presión política y seguridad. Demuestra la vulnerabilidad de instituciones que confían en IA sin verificación robusta, con consecuencias reputacionales y legales.
- Quién se ve afectado
- Autoridades públicas, policías y organismos de seguridad que utilizan IA en toma de decisiones; ciudadanía afectada por resoluciones basadas en información generada erróneamente.
- Qué puede cambiar
- Refuerza la necesidad de transparencia obligatoria y auditoría de sistemas de IA en decisiones que afecten derechos. Las instituciones públicas enfrentarán presión regulatoria mayor para documentar y validar inputs de IA antes de implementar decisiones de alto impacto.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Reacciones regulatorias del gobierno británico y la UE sobre uso de IA en decisiones públicas; posibles demandas contra West Midlands Police; adopción de protocolos de verificación en organismos públicos europeos; comunicados de Microsoft sobre responsabilidad del usuario de Copilot.
Recomendación Qué debería hacer una empresa
Organizaciones públicas y privadas que utilizan Copilot o herramientas similares deben establecer, en los próximos 3-6 meses, protocolos de validación de resultados antes de decisiones operativas o administrativas críticas, incluyendo auditoría de prompts y outputs.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Ars Technica AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMCopilotalucinaciones MicrosoftWest Midlands Police alucinaciones de IA Microsoft Copilot Reino Unido seguridad pública transparencia
Relacionadas
Comisión británica critica a policía por usar Copilot alucinado en decisiones operativas
Un comité del Parlamento británico (Home Affairs Committee) ha publicado su informe sobre el caso de West Midlands Police, donde Microsoft Copilot generó…
Por qué importaIlustra un riesgo crítico para empresas y organismos públicos: la IA generativa puede producir información falsa convincente que influye en…
Pensilvania obliga a etiquetar los anuncios creados o editados con inteligencia artificial
El gobernador Josh Shapiro firmó la Ley de Publicidad Engañosa con Inteligencia Artificial, que obliga a advertir cuando un anuncio fue creado o modificado de…
Por qué importaLas empresas que usan contenido generado por IA en publicidad tendrán que revisar sus piezas y procesos de aprobación antes de que la ley entre en…
Altman describe a sus empleados tres escenarios para la carrera por la IA y advierte del peligro de una empresa dominante
Según The Information, Sam Altman expuso a empleados de OpenAI, en una reunión de la semana del 13 de octubre, tres posibles desenlaces de la carrera por la IA…
Por qué importaMuestra que los propios líderes de los laboratorios consideran posible una concentración extrema de poder de cómputo, un factor que puede afectar al…
Pensilvania obligará a etiquetar los anuncios generados o modificados con IA
El gobernador de Pensilvania, Josh Shapiro, firmó la Ley de Publicidad Engañosa con Inteligencia Artificial, que exige advertir cuando un anuncio ha sido…
Por qué importaLas empresas que producen anuncios con IA en Estados Unidos tendrán que incorporar etiquetado y revisar sus procesos creativos para cumplir la norma.
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.