Tecnología
clasificador de imágenes
Un clasificador de imágenes es un modelo de IA que analiza fotografías o vídeos y decide si contienen un tipo concreto de contenido, por ejemplo material de abuso sexual infantil. OpenAI lo ha presentado como herramienta para detectar y filtrar este material en plataformas y servicios.
Sobre esta tecnología, IA para hoy ha analizado 3 noticias, procedentes de 3 medios distintos. En los últimos siete días han sido 3, frente a las 0 de la semana anterior. La fiabilidad media de esa cobertura es de 5,0 sobre 5, medida con las reglas de nuestro método. Las áreas de impacto que más se repiten son Ciberseguridad, Legal. Aparece en 1 historia en seguimiento.
Evolución en 16 semanas
El momentum semanal se estima con la misma fórmula que el momentum actual: volumen, aceleración respecto a la semana anterior, diversidad de fuentes e impacto.
Análisis Qué significa para una empresa
- Oportunidades
- Las organizaciones verificadas pueden acceder a la herramienta sin coste a través de la API, lo que permite reforzar la moderación de contenidos en plataformas propias. Según la empresa, marca un 48% menos de imágenes que su herramienta anterior manteniendo la detección de casos reales, lo que reduce el trabajo de revisión manual.
- Riesgos
- Las cifras de rendimiento proceden de pruebas iniciales con socios y no han sido verificadas de forma independiente. Depender de un proveedor externo para una función crítica de cumplimiento implica riesgo de dependencia y de cambios en condiciones o disponibilidad.
- Qué debería hacer una empresa
- Las empresas con plataformas de contenido generado por usuarios deberían evaluar en los próximos seis meses si son elegibles para el acceso y cómo integrarlo en sus procesos de moderación y notificación, validando su rendimiento con sus propios datos antes de depender de él.
Análisis generado por IA a partir de las noticias disponibles; actualizado hace 26 min.
Relacionadas
OpenAI ×3NCMEC ×2visión por computador ×1API ×1moderación de contenido ×1fal ×1detección de contenido sintético ×1
Historias
Noticias
OpenAI suspenderá 24 horas el acceso a quien busque material de abuso sexual infantil y lanza un detector de imágenes
OpenAI anunció que ChatGPT mostrará una advertencia, borrará la conversación y pausará la cuenta 24 horas a quien intente encontrar material de abuso sexual…
Por qué importaMuestra cómo los proveedores de IA están endureciendo las salvaguardas de sus productos de consumo y ofreciendo herramientas de detección a terceros…
OpenAI lanza un clasificador para detectar material de abuso infantil, incluido el generado con IA
OpenAI anunció en una rueda de prensa en Washington un clasificador que, según afirma, detecta mejor imágenes de abuso sexual infantil, incluido si han sido…
Por qué importaMuestra cómo los proveedores de modelos asumen herramientas de moderación para reducir el volumen de material falso en las líneas de denuncia. Para…
OpenAI lanza un clasificador de imágenes y advertencias en ChatGPT contra el abuso sexual infantil
OpenAI anunció herramientas contra el material de abuso sexual infantil (CSAM), entre ellas un clasificador de imágenes que ofrece sin coste a algunas empresas…
Por qué importaPara empresas que desarrollan o alojan productos de IA con contenido generado por usuarios, los controles de seguridad infantil empiezan a ser una…


