seguridad infantil: noticias de IA

Common Sense Media halla fallas en controles parentales y ayuda en crisis de ChatGPT para adolescentes

Common Sense Media realizó más de 4.000 consultas para evaluar la versión de ChatGPT dirigida a adolescentes. El análisis encontró problemas en las alertas a…

Por qué importaLa seguridad de menores en plataformas de IA es un tema sensible que puede derivar en presión regulatoria y de reputación para OpenAI y otras…

Impacto bajo Fiabilidad declaración interesada El Tiempo Tecnósfera

Regulación y ética 7 oct

Meta despliega nuevas herramientas de IA para detectar anuncios que enlazan a material de abuso infantil

Meta anunció que actuó contra 33,2 millones de contenidos de explotación sexual infantil en Facebook e Instagram en el primer semestre de 2026, más del 97%…

Por qué importaMuestra cómo las plataformas usan IA generativa no solo para crear contenido sino para defensa y cumplimiento ante presión legal y regulatoria…

Impacto bajo Fiabilidad confirmado por varias fuentes TechCrunch AI

Regulación y ética 7 oct

Common Sense Media alerta fallos en notificaciones de emergencia de ChatGPT for Teens

Common Sense Media evaluó ChatGPT for Teens, de OpenAI, y concluyó que las notificaciones a padres ante señales de autolesión o crisis emocional no se envían…

Por qué importaEl caso expone brechas entre lo que las empresas de IA prometen en materia de seguridad infantil y lo que realmente funciona en producción, lo que…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Infobae Tecno

Regulación y ética 7 oct

Auditoría independiente califica a ChatGPT de 'riesgo inaceptable' para menores por fallos en alertas parentales

El Youth AI Safety Institute de Common Sense Media aplicó más de 4.000 pruebas a ChatGPT for Teens y lo calificó de 'riesgo inaceptable' para menores. En…

Por qué importaLas alertas parentales son el eje central de la defensa legal de OpenAI en varias demandas por muertes de adolescentes vinculadas a ChatGPT, y esta…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 The Decoder

Regulación y ética 7 oct

Common Sense Media denuncia que ChatGPT para adolescentes tiene fallos de seguridad graves

Common Sense Media ha publicado un análisis en el que concluye que la versión de ChatGPT para adolescentes presenta un "riesgo inaceptable" para los menores…

Por qué importaRefuerza la presión pública y regulatoria sobre OpenAI respecto a la seguridad de menores en productos de IA conversacional, en un contexto de…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Europa Press Portaltic

Regulación y ética 7 oct

Common Sense Media califica ChatGPT para adolescentes como 'riesgo inaceptable'

Common Sense Media, ONG centrada en seguridad infantil, publicó una evaluación que califica ChatGPT for Teens de OpenAI como 'riesgo inaceptable'. Según el…

Por qué importaPone en duda la eficacia real de las protecciones que OpenAI promete para menores, en un contexto de creciente escrutinio sobre seguridad infantil y…

Impacto bajo Fiabilidad confirmado por varias fuentes The Verge AI

Herramientas y productos 5 oct

Meta amplía la supervisión parental de temas consultados a Meta AI por adolescentes

Meta extendió globalmente una función que permite a padres y tutores ver qué temas generales consultaron sus hijos adolescentes a Meta AI en los últimos siete…

Por qué importaRefleja la presión creciente sobre las plataformas de IA para incorporar controles de seguridad infantil, un tema sensible que puede derivar en…

Impacto bajo Fiabilidad declaración interesada Infobae Tecno

Sociedad y trabajo 29 sep

Exjefe de seguridad de Google advierte sobre el impacto de la IA en niños y se une a Common Sense Media

Tom Siegel, exjefe de seguridad de Google, se unió a Common Sense Media y liderará el Instituto de Seguridad de la IA para Jóvenes, lanzado en mayo con…

Por qué importaLas advertencias de un exresponsable de seguridad con conocimiento interno de la industria pueden acelerar la presión regulatoria y reputacional…

Impacto bajo Fiabilidad declaración interesada Ámbito Tecnología

Regulación y ética 15 sep

Common Sense Media otorga a Perplexity su peor calificación de seguridad para menores

Common Sense Media evaluó Perplexity con 1.222 interacciones entre mayo y agosto de 2026 y le dio su calificación más baja en seguridad para menores, fallando…

Por qué importaEl caso expone riesgos legales y reputacionales para plataformas de IA generativa que no segmentan a usuarios menores, en un contexto de creciente…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 Infobae Tecno

Regulación y ética 13 sep

California firma 12 leyes de seguridad infantil online y veta la prohibición total de chatbots de IA a menores

El gobernador Gavin Newsom firmó el 10 de septiembre un paquete de 12 leyes que impone multas de hasta 1 millón de dólares por niño afectado a plataformas…

Por qué importaCalifornia marca el estándar regulatorio de facto en EE.UU. para plataformas sociales y chatbots de IA, con sanciones económicas que pueden alterar…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 WWWhat's new

Regulación y ética 12 sep

El caso de un adolescente de Quilmes revela cómo OpenAI, Google y Anthropic vigilan conversaciones de riesgo

Un adolescente de 15 años de Quilmes fue investigado tras hablar con ChatGPT sobre un ataque escolar; el FBI alertó a la Policía Federal Argentina y se allanó…

Por qué importaExpone que las conversaciones con chatbots no son privadas frente a riesgos de seguridad y que las empresas de IA actúan como intermediarias entre…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 Clarín Tecnología

Regulación y ética 11 sep

California obliga a auditorías de seguridad infantil y evaluaciones de riesgo en chatbots de IA

El gobernador Gavin Newsom firmó un paquete de leyes que prohíbe funciones adictivas en redes sociales para menores de 16 años y obliga a empresas de IA a…

Por qué importaEs la primera legislación estatal en EE. UU. que impone auditorías obligatorias y evaluaciones de riesgo específicas para chatbots de IA, marcando un…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Wired en Español

Regulación y ética 11 sep

Meta modifica sugerencias de su IA tras generar preguntas invasivas sobre menores

Meta anunció cambios en las sugerencias generadas por su chatbot de IA después de que un video viral mostrara al sistema preguntando datos personales sobre las…

Por qué importaMuestra los riesgos de privacidad y seguridad infantil en funciones de IA generativa integradas en redes sociales masivas, lo que puede generar…

Impacto bajo Fiabilidad una fuente fiable The Verge AI

Regulación y ética 8 sep

Meta tardó días en retirar anuncios de apps 'nudify' con CSAM generado por IA de niñas reales

Una investigación del Tech Transparency Project (TTP) publicada el martes reveló que Meta no detectó 332 anuncios con material de abuso sexual infantil (CSAM)…

Por qué importaEl caso expone fallos graves de moderación en plataformas publicitarias masivas frente a contenido ilegal generado con IA, y plantea responsabilidad…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Ars Technica AI

Sociedad y trabajo 8 sep

OpenAI lanza fondo de 5 millones de dólares para investigar IA y desarrollo adolescente

OpenAI anunció un programa de becas de 5 millones de dólares para financiar investigación independiente sobre cómo la IA generativa afecta el desarrollo…

Por qué importaRefleja la presión creciente sobre las empresas de IA para abordar preocupaciones sobre el impacto en menores, un tema con creciente escrutinio…

Impacto bajo Fiabilidad una fuente fiable OpenAI

Herramientas y productos 20 ago

Meta implementa IA para detectar abuso en mensajería sin descifrar contenido encriptado

Meta anunció su enfoque para equilibrar privacidad y seguridad en Messenger e Instagram DMs mediante encriptación de extremo a extremo (E2EE). La empresa…

Por qué importaIlustra un dilema clave para plataformas digitales: mantener privacidad robusta mientras se mitiga explotación infantil y fraude. El uso de IA en…

Impacto medio Fiabilidad una fuente fiable Meta Newsroom

Regulación y ética 2 jun

OpenAI propone un instituto global para la seguridad de menores con IA

OpenAI ha publicado un llamamiento a la acción global sobre la seguridad de los jóvenes en el uso de IA, proponiendo la creación de un instituto internacional…

Por qué importaEl posicionamiento de un actor líder en IA sobre regulación de menores puede influir en futuras normativas y estándares de la industria a nivel…

Impacto bajo Fiabilidad una fuente fiable OpenAI

Herramientas y productos 12 may

Meta amplía herramientas de supervisión parental con información sobre el algoritmo de Instagram

Meta ha consolidado sus herramientas de supervisión parental en Family Center, permitiendo que padres administren cuentas de adolescentes en Instagram…

Por qué importaLa supervisión parental es un área crítica de regulación y responsabilidad social en plataformas dirigidas a menores. Para Meta, estas herramientas…

Impacto bajo Fiabilidad fuente primaria Meta Newsroom

Herramientas y productos 16 abr

Character.AI lanza modo Libros para roleplay basado en clásicos literarios

Character.AI ha anunciado un nuevo modo «Books» que permite a los usuarios interactuar con mundos ficticios estructurados basados en más de 20 títulos de…

Por qué importaEl movimiento refleja un intento de repositionar el roleplay con IA como experiencia más segura y literaria, alejándose de los usos problemáticos…

Impacto bajo Fiabilidad una fuente fiable The Verge AI

Regulación y ética 8 abr

OpenAI presenta Blueprint de Seguridad Infantil para IA responsable

OpenAI ha publicado su Child Safety Blueprint, un documento orientativo sobre cómo construir sistemas de IA con salvaguardas, diseño apropiado para la edad y…

Por qué importaLas empresas que desarrollan o integran IA en plataformas dirigidas a menores o de acceso público necesitan marcos claros de seguridad infantil…

Impacto medio Fiabilidad confirmado por varias fuentes OpenAI

Herramientas y productos 24 mar

OpenAI publica políticas de seguridad para adolescentes con gpt-oss-safeguard

OpenAI ha lanzado gpt-oss-safeguard, una herramienta basada en prompts que permite a desarrolladores implementar políticas de seguridad específicas para…

Por qué importaLos desarrolladores que crean aplicaciones con IA para o utilizables por menores necesitan herramientas concretas para cumplir con regulaciones de…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 OpenAI

Regulación y ética 27 ene

Informe: Grok falla en protección de menores con contenido sexual y violento

Common Sense Media publicó un análisis que encuentra que Grok, el chatbot de xAI, tiene mecanismos débiles de identificación de menores, guardrails…

Por qué importaEste hallazgo intensifica la presión regulatoria sobre plataformas de IA y chatbots de companía, relevante tras varios suicidios de adolescentes…

Impacto alto Fiabilidad varias fuentes Relevancia 8/10 TechCrunch AI

Herramientas y productos 25 ene

OpenAI despliega predicción de edad en ChatGPT para adaptar contenido a menores

OpenAI está implementando un sistema de predicción de edad en ChatGPT a nivel mundial, con despliegue inicial en la Unión Europea en las próximas semanas. El…

Por qué importaLa medida responde tanto a presiones regulatorias (investigación de la FTC, demandas sobre protección de menores) como a obligaciones legales en la…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 El Periódico Tecnología

Regulación y ética 15 ene

Ofcom mantiene investigación a X pese a restricciones de Grok para generar desnudos

Ofcom continúa su investigación formal contra X tras confirmarse que la plataforma ha implementado medidas tecnológicas para impedir que Grok genere imágenes…

Por qué importaEstablece un precedente regulatorio crucial sobre responsabilidad corporativa en IA generativa y seguridad infantil en redes sociales. Para empresas…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 The Register AI