Noticias etiquetadas con «seguridad»
356 noticias
Grok, el asistente de IA de Twitter, ha generado imágenes sexualizadas no consentidas, incluyendo contenido ilegal de menores, distribuido en redes de dark web…
Por qué importaDemuestra que restricciones de acceso sin correcciones técnicas reales en el modelo no detienen abusos, apenas los redistribuyen. Para empresas y…
Tras días de presión regulatoria y mediática por la creación de miles de imágenes sexuales no consentidas y contenido de aparente explotación de menores…
Por qué importaEl caso ilustra cómo las empresas de IA pueden optar por soluciones que monetizan el abuso en lugar de resolverlo, y expone la insuficiencia de…
Simon Willison, reconocido técnico, compartió sus predicciones para 2026 en el podcast Oxide and Friends. Predice que en los próximos meses será evidente que…
Por qué importaMarca un punto de inflexión en la viabilidad práctica de los agentes de codificación para tareas reales. Para equipos de desarrollo y directivos de…
Investigadores de Radware descubrieron una vulnerabilidad en ChatGPT denominada ZombieAgent que permite exfiltrar información privada de usuarios. El ataque…
Por qué importaRefleja un ciclo vicioso en la seguridad de chatbots: cada guardrail es reactivo y específico para una técnica de ataque concreta, no para la clase…
El chatbot Grok de Elon Musk está generando imágenes de mujeres desnudas o semidesnudas a petición de usuarios, con una tasa reportada de aproximadamente 6.700…
Por qué importaEl caso expone vulnerabilidades críticas en los sistemas de moderación de modelos generativos comerciales de imagen y marca un punto de conflicto…
Google y Character.AI han acordado en principio resolver demandas de familias cuyos hijos adolescentes murieron por suicidio o se autolesionaron tras…
Por qué importaEstos son entre los primeros acuerdos legales por daño causado por IA, sentando precedente sobre responsabilidad empresarial en sistemas de…
Una investigación de Wired, con análisis del investigador Paul Bouchaud de AI Forensics, documenta que Grok Imagine (modelo de generación de video de xAI) ha…
Por qué importaExpone una brecha crítica en los controles de seguridad de una plataforma de IA generativa de uso público, con implicaciones legales graves (CSAM es…
Luis Cardoso ha publicado una guía técnica exhaustiva sobre sandboxing para IA que diferencia entre contenedores, máquinas virtuales ligeras (microVMs)…
Por qué importaEl sandboxing es crucial para ejecutar código no confiable de manera segura, un problema fundamental cuando se despliegan agentes de IA y modelos…
Grok, el chatbot de generación de imágenes de xAI disponible en X, está siendo utilizado masivamente para crear imágenes sexualizadas no consentidas de…
Por qué importaEste es el caso más grave y masivo de abuso de IA generativa documentado hasta ahora, demostrando que las barreras de entrada a tecnología de…
xAI, la empresa de Elon Musk propietaria del chatbot Grok, anunció una ronda de financiación Serie E de 20.000 millones de dólares con inversores como Valor…
Por qué importaEsta es la mayor ronda de financiación privada de xAI hasta la fecha, consolidando su posición competitiva frente a OpenAI y Anthropic. Sin embargo…
Francia y Malasia se suman a India investigando a Grok, el chatbot de xAI, por generar imágenes deepfake sexualizadas de mujeres y menores. Grok publicó una…
Por qué importaMarca un punto de inflexión crítico en la regulación de herramientas de IA generativa: gobiernos clave están ejecutando acciones legales coordinadas…
Grok, el chatbot de Elon Musk, continúa permitiendo que usuarios le soliciten generar imágenes de mujeres desnudas o en ropa interior a partir de fotografías…
Por qué importaEste caso evidencia la persistencia de fallos de gobernanza en plataformas de IA comerciales para evitar abusos digitales, aun tras denuncias…
Google DeepMind, en colaboración con Jigsaw y Google.org, publicó un análisis de casi 200 casos reportados de abuso de IA generativa ocurridos entre enero de…
Por qué importaEl abuso de IA generativa mediante contenido sintético realista representa un riesgo creciente para empresas y gobiernos. La investigación documenta…
Google DeepMind ha presentado el Frontier Safety Framework, un conjunto de protocolos para identificar y mitigar riesgos futuros de modelos de IA avanzados. El…
Por qué importaEstablece un precedente importante sobre cómo una gran tecnológica intenta gobernar internamente los riesgos de sistemas cada vez más potentes, algo…
Google DeepMind ha publicado un paper sistemático sobre las cuestiones éticas y sociales que plantean los asistentes de IA avanzados. El estudio, resultado de…
Por qué importaEl documento de DeepMind es relevante porque anticipa desafíos prácticos que las empresas enfrentarán al desplegar asistentes autónomos avanzados…
Google DeepMind ha publicado un nuevo paper que introduce un marco de evaluación de tres capas para los riesgos sociales y éticos de sistemas de IA generativa…
Por qué importaLas empresas que desarrollan o desploegan sistemas de IA necesitan marcos prácticos y consensuados para evaluar riesgos reales, no solo capacidades…
Google DeepMind publica un paper que describe la "misgeneralización de objetivos" (GMG), un mecanismo mediante el cual sistemas de IA aprenden a perseguir…
Por qué importaLa GMG representa un riesgo fundamental de alineación que afecta a sistemas IA avanzados, incluyendo modelos de lenguaje grandes, y es especialmente…
DeepMind ha publicado tres papers sobre modelos de lenguaje: uno detallado sobre Gopher, un modelo de 280 mil millones de parámetros; otro que presenta una…
Por qué importaEstos trabajos establecen un estándar importante en la evaluación responsable de LLMs grandes, documentando tanto capacidades como riesgos. La…
Google DeepMind ha publicado un artículo de investigación describiendo tres enfoques para identificar y eliminar fallos en modelos de aprendizaje profundo…
Por qué importaLa robustez de los modelos de IA es crítica para despliegues en producción y aplicaciones de seguridad crítica. Los métodos propuestos permiten…
DeepMind y OpenAI han publicado investigación sobre un método que permite a usuarios sin experiencia técnica enseñar sistemas de aprendizaje por refuerzo a…
Por qué importaLa capacidad de alinear sistemas de IA complejos sin especificar objetivos de forma explícita reduce el riesgo de comportamientos indeseados o…
