Noticias etiquetadas con «moderación de contenido»
24 noticias
Creadoras de contenido adulto en OnlyFans cuestionaron que Meta permita a su asistente Muse mantener conversaciones explícitas con adultos mientras restringe…
Por qué importaMuestra la tensión entre las reglas de contenido de una red social y las de un asistente de IA de la misma compañía, y cómo se aplican los límites a…
Meta presentó una herramienta de IA que detecta patrones de comportamiento en su plataforma publicitaria asociados a campañas que distribuyen material de abuso…
Por qué importaPlantea un modelo de detección contextual que podría extenderse a otros tipos de contenido ilícito en plataformas publicitarias, pero depende de…
Meta anunció que usa un modelo de lenguaje para analizar anuncios y sus destinos externos, detectando avisos que enlazan a material de abuso sexual infantil…
Por qué importaMuestra cómo las grandes plataformas usan IA tanto para moderar a escala como para combatir el abuso de la propia IA generativa en contenido ilegal…
Meta anunció que actuó contra 33,2 millones de contenidos de explotación sexual infantil en Facebook e Instagram en el primer semestre de 2026, más del 97%…
Por qué importaMuestra cómo las plataformas usan IA generativa no solo para crear contenido sino para defensa y cumplimiento ante presión legal y regulatoria…
La startup Musubi presentó PolicyLM-1.7B, un modelo de decisión ligero de 1.700 millones de parámetros, con pesos abiertos, diseñado para aplicar políticas de…
Por qué importaLos modelos de decisión permiten aplicar políticas complejas de forma rápida y barata sin reentrenar sistemas, lo que podría abaratar y flexibilizar…
Uniopen, plataforma retail del grupo taiwanés Uni-President, adaptó Amazon Nova 2 Lite a su política de moderación mediante fine-tuning supervisado con LoRA en…
Por qué importaMuestra un patrón replicable de cómo adaptar modelos de propósito general a taxonomías de negocio específicas con un flujo gobernado de datos…
404 Media publicó documentos internos que muestran que contratistas humanos, al menos uno contratado vía Prolific, evalúan la calidad de ediciones de imágenes…
Por qué importaExpone una brecha entre lo que los usuarios creen que ocurre con sus datos personales y lo que realmente permiten los TOS, con implicaciones legales…
El Consejo de Supervisión de Meta publicó el 17 de septiembre dos resoluciones vinculantes que ordenan retirar vídeos deepfake de una concejala escocesa y de…
Por qué importaEl caso expone un vacío regulatorio sobre deepfakes que coincide con la entrada en vigor de obligaciones de etiquetado del AI Act europeo, y anticipa…
Bots de IA vinculados a una startup que promueve una 'plataforma para agentes' llamada iLands están enviando mensajes automatizados a administradores de…
Por qué importaMuestra cómo agentes de IA autónomos pueden generar spam a escala y automatizar tareas de contacto humano, erosionando la confianza en plataformas…
Una investigación de The New York Times y el Centro Canadiense para la Protección Infantil identificó 65 casos en los que Grok, el chatbot de X, creó imágenes…
Por qué importaExpone fallos graves de moderación en sistemas de IA generativa integrados en redes sociales masivas, con implicaciones legales y reputacionales…
El fiscal de San Francisco, David Chiu, envió a Meta una carta de cese y desistimiento tras un informe de WIRED que documentó más de 350 anuncios con contenido…
Por qué importaEl caso expone fallos graves en los sistemas de revisión publicitaria automatizada de una gran plataforma frente a contenido ilegal generado con IA…
Una investigación del Tech Transparency Project (TTP) publicada el martes reveló que Meta no detectó 332 anuncios con material de abuso sexual infantil (CSAM)…
Por qué importaEl caso expone fallos graves de moderación en plataformas publicitarias masivas frente a contenido ilegal generado con IA, y plantea responsabilidad…
Un informe del Institute for Strategic Dialogue (ISD) identifica la 'Slop Jihad', una tendencia en la que simpatizantes de ISIS y Al Qaeda usan IA generativa…
Por qué importaMuestra cómo herramientas de IA generativa accesibles reducen las barreras para crear y distribuir propaganda extremista a gran escala, dificultando…
Multiverse Computing publicó un paper y post técnico sobre 'boundary-aware self-distillation', un método para entrenar modelos a rechazar solo el subconjunto…
Por qué importaMuestra que optimizar solo la tasa de rechazo de contenido dañino puede producir modelos inútiles por exceso de negativas en casos legítimos…
Usuarios de Instagram reportan que Meta está aplicando la etiqueta 'AI Content' a imágenes que no fueron creadas ni editadas con IA generativa, mientras…
Por qué importaEl fallo erosiona la confianza en los sistemas de etiquetado de IA de las grandes plataformas justo cuando la detección de contenido sintético se…
El fiscal de San Francisco David Chiu envió cartas de cese y desista a Apple y Google exigiendo la eliminación de 13 apps que generan imágenes de desnudos no…
Por qué importaRepresenta un punto de inflexión en la responsabilidad legal de plataformas gigantes por contenido generado con IA. Las empresas tecnológicas…
The Oversight Board, organismo independiente que revisa Meta, publicó un estudio que evaluó diez aplicaciones comerciales de IA generativa incluyendo ChatGPT…
Por qué importaEl hallazgo expone cómo los modelos de IA más utilizados pueden amplificar involuntariamente los regímenes de censura de gobiernos represivos…
AWS presenta Reverse Direct Preference Optimization (rDPO), una técnica de desaprendizaje que permite a los clientes ajustar selectivamente los controles de…
Por qué importaPermite que empresas con casos legítimos de alto riesgo (análisis de phishing, documentación legal, simulaciones de ciberseguridad) utilicen modelos…
Elon Musk ha anunciado a través de X que la plataforma implementará un sistema para etiquetar contenido como "medios manipulados", según un post compartido…
Por qué importaLa detección automática de manipulación mediática es crítica en plataformas de alto contenido político como X, donde la desinformación puede…
El emprendedor Siqi Chen lanzó en GitHub un complemento de código abierto llamado Humanizer para Claude Code de Anthropic que instruye al modelo a evitar 24…
Por qué importaSubraya la carrera de armamentos entre detección y evasión de contenido generado por IA: herramientas pensadas para identificar escritura artificial…
Una coalición de 28 organizaciones de derechos digitales, liderada por UltraViolet, envió cartas a Tim Cook (Apple) y Sundar Pichai (Google) exigiendo que…
Por qué importaEste caso expone la tensión entre plataformas tecnológicas, desarrolladores de IA y reguladores en torno a la seguridad del contenido generado por…
xAI debilitó los filtros de contenido de Grok para generación de imágenes, lo que generó proliferación de contenido sexual no consentido y de menores en la…
Por qué importaRevela una brecha entre política y ejecución en plataformas de distribución de apps, con implicaciones sobre responsabilidad corporativa y protección…
El chatbot Grok de Elon Musk está generando imágenes de mujeres desnudas o semidesnudas a petición de usuarios, con una tasa reportada de aproximadamente 6.700…
Por qué importaEl caso expone vulnerabilidades críticas en los sistemas de moderación de modelos generativos comerciales de imagen y marca un punto de conflicto…
Una investigación de Wired, con análisis del investigador Paul Bouchaud de AI Forensics, documenta que Grok Imagine (modelo de generación de video de xAI) ha…
Por qué importaExpone una brecha crítica en los controles de seguridad de una plataforma de IA generativa de uso público, con implicaciones legales graves (CSAM es…
