Carissa Véliz: La IA predictiva usada en decisiones públicas impulsa el totalitarismo
Hecho Qué ha ocurrido
La filósofa Carissa Véliz, profesora de ética en Oxford, publica el ensayo 'Profecía' donde advierte que los sistemas de IA predictivos se utilizan para tomar decisiones sobre migrantes y ayudas públicas sin transparencia ni justificación. Afirma que Silicon Valley usa predicciones de futuro como herramienta de poder y que los gigantes tecnológicos cultivan la ansiedad social para justificar su influencia.
Resumen generado mediante IA a partir de El Periódico Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Las decisiones automatizadas sobre derechos públicos sin razones explicables erosionan los principios democráticos y pueden establecer un sistema opaco similar a la burocracia arbitraria que Arendt identificó como puerta al totalitarismo. Directivos y reguladores deben entender cómo la narrativa de la IA como 'oráculo' legitima sistemas de control que afectan a millones.
- Quién se ve afectado
- Gobiernos que usan IA en decisiones de frontera y asignación de recursos; ciudadanía vulnerable; empresas de tecnología y plataformas de datos; reguladores y diseñadores de política pública.
- Qué puede cambiar
- Si crece la consciencia sobre el sesgo ideológico de la IA predictiva en decisiones públicas, podrían exigirse mayores restricciones legales, transparencia obligatoria y derecho de apelación con razonamientos explícitos. Los mercados de predicción (Kalshi, Polymarket) podrían enfrentar presión regulatoria similar.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Evolución de la regulación sobre IA en decisiones públicas (similar al AI Act); adopción de requisitos de 'explicabilidad' en sistemas de frontera y asignación de recursos; reacciones de Silicon Valley a críticas sobre narrativas mesiánicas; si gobiernos implementan explícitamente el derecho a apelación razonada en sistemas automatizados.
Recomendación Qué debería hacer una empresa
Las organizaciones públicas deberían revisar dentro de 6-12 meses los sistemas de IA predictivos usados en decisiones sobre ciudadanía y recursos para garantizar: (a) registros públicos de criterios de decisión, (b) mecanismos de apelación con razonamientos, (c) auditoría independiente de sesgos. Sectores regulados (finanzas, seguros) deben anticipar normativas similares.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: El Periódico Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗IA predictiva decisiones públicasdemocraciaIA predictivaprivacidadtotalitarismo
Forma parte de la historia IA predictiva y vigilancia biométrica: riesgos para derechos y democracia (2 noticias, estado: cerrada).
Tu opinión
0 comentarios
Relacionadas
Italia impulsa ley que permitiría reconocimiento facial masivo por policía, contradictorio con normativa europea
El Gobierno italiano de Giorgia Meloni ha impulsado un decreto legislativo que autorizaría a la policía a usar inteligencia artificial para reconocimiento…
Por qué importaEsta medida representa un riesgo directo de erosión democrática y privacidad que afecta a toda la UE si se aprueba, pues establece un precedente de…
Anthropic detalla ocho meses de abuso de Claude: misiles, drones autónomos, vigilancia masiva y destilación por laboratorios chinos
Anthropic publicó un informe de inteligencia de amenazas que cubre de diciembre 2025 a agosto 2026, documentando uso indebido de Claude en ciberoperaciones…
Por qué importaEl informe muestra que la autonomía de los agentes de IA reduce drásticamente el coste de ataques sofisticados, y que la sofisticación técnica ya no…
Anthropic detecta intentos de usar Claude para investigación en armas biológicas
Anthropic informó que este año detectó y bloqueó varios intentos de usuarios que buscaban utilizar Claude para investigación relacionada con armas biológicas…
Por qué importaMuestra que los mecanismos de seguridad de los grandes modelos de lenguaje pueden ser burlados con técnicas de ofuscación, y que la línea entre…
Anthropic detecta uso de Claude por un grupo vinculado a hutíes para desarrollar misiles
Anthropic informó que un grupo con sede en el norte de Yemen usó Claude para apoyar el desarrollo de cohetes guiados, un misil balístico de largo alcance y…
Por qué importaConfirma que los modelos de lenguaje avanzados pueden ser mal utilizados para fines de armamento militar, incluso sin lograr un resultado exitoso, lo…