OpenAI lanza una herramienta gratuita para detectar material de abuso infantil creado con IA y refuerza la prevención en ChatGPT

Hecho Qué ha ocurrido
OpenAI ha lanzado una herramienta gratuita para organizaciones verificadas que permite detectar material de abuso sexual infantil (CSAM), tanto generado con IA como contenido real. La empresa también ha introducido nuevas medidas de prevención en ChatGPT.
Resumen generado mediante IA a partir de Europa Press Portaltic. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Muestra que los proveedores de modelos generativos asumen responsabilidades de moderación y detección de contenido ilícito, lo que puede afectar a sus obligaciones de cumplimiento y a sus políticas de uso.
- Quién se ve afectado
- Plataformas que alojan contenido generado por usuarios, empresas que integran modelos de OpenAI y organizaciones de protección infantil.
- Qué puede cambiar
- Las organizaciones verificadas podrán usar una herramienta de detección específica, y los controles de prevención en ChatGPT se endurecen. El alcance real dependerá de los detalles de acceso y de su rendimiento, que aún no se han verificado de forma independiente.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Qué organizaciones obtienen acceso, cómo se verifica su eficacia y si otros proveedores de IA o reguladores europeos adoptan medidas similares.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Europa Press Portaltic. La referencia es siempre el artículo original.
Ver fuente original ↗detección de contenidoChatGPT OpenAI ChatGPT CSAM moderación OpenAI seguridad infantil
Relacionadas
OpenAI lanza un clasificador de imágenes y advertencias en ChatGPT contra el abuso sexual infantil
OpenAI anunció herramientas contra el material de abuso sexual infantil (CSAM), entre ellas un clasificador de imágenes que ofrece sin coste a algunas empresas…
Por qué importaPara empresas que desarrollan o alojan productos de IA con contenido generado por usuarios, los controles de seguridad infantil empiezan a ser una…
OpenAI lanza un clasificador para detectar material de abuso infantil, incluido el generado con IA
OpenAI anunció en una rueda de prensa en Washington un clasificador que, según afirma, detecta mejor imágenes de abuso sexual infantil, incluido si han sido…
Por qué importaMuestra cómo los proveedores de modelos asumen herramientas de moderación para reducir el volumen de material falso en las líneas de denuncia. Para…
OpenAI anuncia nuevas herramientas y colaboraciones contra el abuso sexual infantil en línea
OpenAI anunció nuevas herramientas, orientación práctica y alianzas para prevenir, detectar y responder a la explotación y el abuso sexual infantil en línea…
Por qué importaLas plataformas que usan IA generativa están bajo presión para prevenir el uso de sus sistemas en la creación o difusión de material de abuso…
OpenAI suspenderá 24 horas el acceso a quien busque material de abuso sexual infantil y lanza un detector de imágenes
OpenAI anunció que ChatGPT mostrará una advertencia, borrará la conversación y pausará la cuenta 24 horas a quien intente encontrar material de abuso sexual…
Por qué importaMuestra cómo los proveedores de IA están endureciendo las salvaguardas de sus productos de consumo y ofreciendo herramientas de detección a terceros…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.



