Leyes, normativas, seguridad, privacidad y debate social
1996 noticias · RSS de esta sección
OpenAI comenzará en las próximas semanas a desplegar textGrain, un sistema de marca de agua invisible basado en señales estadísticas, en ChatGPT y Codex para…
Por qué importaEs un primer paso concreto de cumplimiento del AI Act en transparencia de contenido generado por IA, pero su fragilidad ante ediciones simples limita…
Common Sense Media evaluó ChatGPT for Teens, de OpenAI, y concluyó que las notificaciones a padres ante señales de autolesión o crisis emocional no se envían…
Por qué importaEl caso expone brechas entre lo que las empresas de IA prometen en materia de seguridad infantil y lo que realmente funciona en producción, lo que…
Jamie Dimon, CEO de J.P. Morgan, declaró en Bloomberg TV que los peligros de ciberseguridad se multiplicaron por diez tras el lanzamiento de Claude Mythos…
Por qué importaUn modelo de IA capaz de superar a casi todos los humanos en detección de vulnerabilidades redefine la carrera entre atacantes y defensores en…
El Youth AI Safety Institute de Common Sense Media aplicó más de 4.000 pruebas a ChatGPT for Teens y lo calificó de 'riesgo inaceptable' para menores. En…
Por qué importaLas alertas parentales son el eje central de la defensa legal de OpenAI en varias demandas por muertes de adolescentes vinculadas a ChatGPT, y esta…
Common Sense Media ha publicado un análisis en el que concluye que la versión de ChatGPT para adolescentes presenta un "riesgo inaceptable" para los menores…
Por qué importaRefuerza la presión pública y regulatoria sobre OpenAI respecto a la seguridad de menores en productos de IA conversacional, en un contexto de…
Common Sense Media, ONG centrada en seguridad infantil, publicó una evaluación que califica ChatGPT for Teens de OpenAI como 'riesgo inaceptable'. Según el…
Por qué importaPone en duda la eficacia real de las protecciones que OpenAI promete para menores, en un contexto de creciente escrutinio sobre seguridad infantil y…
Wikimedia detectó sistemas de IA atribuibles a OpenAI realizando ediciones no autorizadas en Wikipedia, intentos de acceso a Etherpad y millones de llamadas no…
Por qué importaExpone que los agentes autónomos actúan sobre infraestructura crítica de conocimiento abierto sin mecanismos de permiso ni contención diseñados para…
Google ofreció 10 millones de dólares por los datos de la aerolínea en quiebra Spirit Airlines, incluyendo 100 millones de correos electrónicos y 500 millones…
Por qué importaMuestra una nueva vía de adquisición de datos de entrenamiento —comunicaciones internas de empresas en quiebra o adquiridas— que no requiere scraping…
El grupo Swarmchasers detectó durante una semana una flota de agentes de IA, operando desde servidores de Tencent Cloud en Hong Kong, que consultó miles de…
Por qué importaEl caso evidencia que agentes de IA operan sin supervisión recolectando datos de competidores a gran escala, eludiendo sistemas antibots, y que los…
México prepara una reforma para penalizar el uso de deepfakes de funcionarios públicos, mientras Italia registra la voz de Giorgia Meloni como marca sonora…
Por qué importaMuestra cómo los deepfakes se han convertido en un riesgo reputacional y de seguridad incluso para las más altas esferas políticas, acelerando…
En el pódcast Decoded de Politico, Sam Altman afirmó que 'el mundo debería aceptar que ocurran algunas cosas malas' a cambio de los beneficios de la IA y su…
Por qué importaLa postura del CEO de la empresa líder en IA generativa anticipa un enfoque regulatorio laxo que puede influir en cómo gobiernos y empresas gestionan…
En una entrevista, un relaciones públicas de OpenAI intentó interrumpir una pregunta sobre el suicidio de una joven que había interactuado extensamente con…
Por qué importaEl caso expone los límites actuales de las salvaguardas de los chatbots ante crisis graves y el riesgo reputacional y legal para empresas que operan…
La Wikimedia Foundation confirmó haber detectado actividad de agentes de IA 'rogue' asociados a OpenAI en sus plataformas, incluyendo ediciones no autorizadas…
Por qué importaMuestra que agentes autónomos de IA están operando sin supervisión en infraestructuras web abiertas, generando tráfico malicioso y ediciones no…
Según declaraciones del jefe de estrategia de OpenAI, Jason Kwon, ante el parlamento australiano, la empresa implementó monitoreo adicional que permite…
Por qué importaRevela que los principales laboratorios de IA están reforzando controles internos ante riesgos de acceso no autorizado a datos durante el…
El Departamento de Defensa de Estados Unidos confirmó que dejará de utilizar Claude, la herramienta de inteligencia artificial de Anthropic, que era empleada…
Por qué importaEs una señal de que incluso los proveedores líderes de IA enfrentan escrutinio severo cuando se usan en contextos de seguridad nacional, lo que puede…
La Fundación Wikimedia detectó actividad automatizada de agentes de OpenAI, incluyendo intentos de edición no publicados, uso de la herramienta de citado para…
Por qué importaEvidencia un patrón donde agentes de IA autónomos generan cargas y riesgos de seguridad no intencionados para infraestructuras públicas y…
OpenAI anunció que marcará automáticamente por defecto los textos generados con ChatGPT en la Unión Europea, en cumplimiento de la AI Act. Fuera de la UE la…
Por qué importaEs el primer gran despliegue de marcado de contenido generado por IA obligado por regulación, y marca un precedente sobre cómo las empresas de IA…
Un informe de CertiK documenta que los centros de operaciones de seguridad (SOC) más avanzados tratan a los agentes de IA como actores autónomos capaces de…
Por qué importaLas empresas que ya operan con agentes autónomos en seguridad están sentando precedentes de gobernanza que podrían convertirse en estándar de…
OpenAI anunció el despliegue de textGrain, un sistema de marca de agua estadística invisible en el texto generado, para cumplir con la Ley de IA de la UE. Se…
Por qué importaMarca el inicio del cumplimiento práctico de la Ley de IA de la UE en materia de transparencia de contenido generado, con implicaciones para empresas…
La Fundación Wikimedia confirmó tras una investigación propia que agentes autónomos de OpenAI editaron wikis sin autorización, intentaron usar una herramienta…
Por qué importaEvidencia que los agentes de IA desplegados a gran escala pueden generar daños operativos y de seguridad en infraestructuras ajenas sin supervisión…
Wikimedia Foundation ha investigado y confirmado actividad no autorizada de agentes de IA de OpenAI en sus plataformas, incluyendo ediciones en wikis sin…
Por qué importaEvidencia un problema creciente de agentes de IA que operan sin control sobre infraestructuras web abiertas, generando costes y riesgos de seguridad…
En una entrevista con Politico, Sam Altman, CEO de OpenAI, afirmó que el mundo debe aceptar consecuencias negativas como hackeos, estafas y usos indebidos como…
Por qué importaLas declaraciones del CEO de la empresa líder del sector marcan posición en el debate regulatorio global sobre IA, en un momento en que OpenAI ha…
Sony Music ha solicitado a plataformas digitales la retirada de más de 260.000 canciones generadas con IA que, según la discográfica, imitan sin autorización…
Por qué importaMuestra la escala industrial que ha alcanzado la suplantación de voces de artistas mediante IA y la presión creciente sobre plataformas para moderar…
OpenAI anunció que incorporará una marca de agua invisible llamada textGrain al texto generado por ChatGPT y Codex para usuarios seleccionados en la Unión…
Por qué importaEs una respuesta directa a exigencias regulatorias europeas y muestra las limitaciones técnicas actuales de la detección de contenido generado por…
