Leyes, normativas, seguridad, privacidad y debate social
1992 noticias · RSS de esta sección
OpenAI anuncia que prepara su próximo sprint de seguridad interno con Cathedral Systems. El objetivo declarado es probar y reforzar sus defensas usando IA. No…
Por qué importaMuestra a un laboratorio líder usando IA para auditar su propia seguridad, una práctica que las empresas pueden replicar al evaluar sus defensas.
OpenAI anuncia que aumenta las recompensas de su programa Security Bug Bounty para investigadores de seguridad independientes. Según el extracto, incorpora…
Por qué importaMuestra cómo los laboratorios de IA externalizan la búsqueda de vulnerabilidades en sus propios sistemas. Para las empresas que usan modelos de…
The New York Times y otras publicaciones han presentado demandas contra la empresa que desarrolla el navegador Brave. Según la denuncia de los editores de New…
Por qué importaMuestra que los editores están llevando a los tribunales el uso de su contenido como materia prima para entrenar y alimentar modelos de IA, incluso a…
Binance sufrió un robo de unos US$ 6.300 millones el 29 de octubre, que el FBI atribuye al grupo norcoreano TraderTraitor. En octubre hubo ataques a sistemas…
Por qué importaLa IA reduce la barrera técnica para atacar y acelera la explotación de fallas conocidas, lo que obliga a las empresas a acortar sus tiempos de…
ChatGPT ha incorporado nuevas medidas de seguridad que restringen cómo responde el chatbot ante determinados hechos violentos. Las restricciones son más…
Por qué importaMuestra cómo los proveedores de modelos ajustan en la práctica el comportamiento de sus sistemas ante riesgos de seguridad, algo que las empresas que…
OpenAI ha defendido la necesidad de una señal compartida entre los proveedores de inteligencia artificial. Con ella, los sitios web podrían notificar a los…
Por qué importaSi se adopta un estándar común, los editores y las empresas con contenido web podrían controlar de forma más uniforme el uso de sus datos en el…
Según ESET, el acceso no autorizado a una cuenta de ChatGPT puede revelar el historial de conversaciones, archivos y documentos compartidos, así como permitir…
Por qué importaLos chats con asistentes de IA pueden contener datos laborales y contractuales; tratarlos como información sensible es una medida básica de seguridad…
Según La Nación, cientos de supermercados en Francia y otros países europeos sufrieron el calentamiento coordinado de heladeras y congeladores hasta 50°C, con…
Por qué importaMuestra que los equipos conectados de refrigeración y automatización pueden convertirse en vectores de ataque con impacto físico y económico. El…
La firma de ciberseguridad Parameter documentó en un informe del 28 de octubre una cadena de ataque que, mediante un enlace compartido, permitía acceder a…
Por qué importaMuestra que una función aparentemente sencilla como compartir conversaciones puede abrir vías de ataque cuando fallan componentes de terceros. Las…
OpenAI y Anthropic instalaron salas de crisis para vigilar el uso de ChatGPT y Claude durante las elecciones legislativas de Estados Unidos del 3 de noviembre…
Por qué importaMuestra que los grandes proveedores de IA tratan el uso de sus chatbots en procesos electorales como un riesgo operativo que requiere equipos…
Según Axios, citado por The Decoder, OpenAI se prepara para una intensa actividad de lobby y comunicación tras las elecciones legislativas de EE.UU., ante la…
Por qué importaMuestra cómo los grandes proveedores de IA anticipan un cambio regulatorio y buscan moldear el debate sobre seguridad y centros de datos. Para…
Microsoft Threat Intelligence informó el 29 de octubre de que ocho grupos vinculados a Corea del Norte usan IA en sus operaciones para investigar víctimas…
Por qué importaLa IA reduce el coste y el tiempo de campañas de ingeniería social dirigidas a empresas de cripto y finanzas, y a departamentos de contratación. Las…
Una investigación de WIRED identificó unas 400 apps y sitios web, vinculados a desarrolladores de habla china, que parecen herramientas corrientes pero cargan…
Por qué importaMuestra que las revisiones de las tiendas de apps y las plataformas publicitarias pueden eludirse con cambios posteriores a la aprobación, lo que…
El Ministerio de Electrónica y TI de India (MeitY) ha presentado el marco DEPA para el entrenamiento de IA, que permite a hospitales, bancos y agencias…
Por qué importaPlantea un modelo alternativo al raspado masivo de datos para entrenar IA, con reglas de uso definidas por quien posee los datos. Para empresas que…
El papa León XIV, durante un congreso entre la Iglesia católica y científicos internacionales, reclamó una regulación internacional más estricta para la IA…
Por qué importaUn llamamiento de la máxima autoridad moral de la Iglesia católica puede influir en el debate regulatorio y en la presión social sobre…
Cisco Talos ha analizado VOLTA-AUTODOXER, un programa malicioso para Windows que, tras robar contraseñas y datos, envía la información a un modelo de IA para…
Por qué importaMuestra cómo la IA abarata convertir datos robados en perfiles accionables para fraude dirigido. Para las empresas, refuerza la necesidad de proteger…
Un informe del equipo de red team de Anthropic concluye que GLM-5.3, de Zhipu AI, logra capacidades de explotación de fallos casi iguales a las de Claude…
Por qué importaSi las capacidades ofensivas de modelos abiertos alcanzan a las de los modelos restringidos, la barrera de entrada a ciberataques avanzados baja y…
Durante unas 11 horas del 29 de octubre, dos versiones manipuladas de la extensión de Claude Code estuvieron disponibles en la tienda de Cursor para Windows y…
Por qué importaEl incidente muestra que el riesgo está en el canal de distribución de terceros y no solo en el modelo o en la herramienta oficial. Las extensiones…
Google, Microsoft, OpenAI y Anthropic se han comprometido a respetar una misma señal en robots.txt para que una web pueda negarse a que su contenido se use…
Por qué importaPara un editor o una empresa que publica en la web, convierte varias configuraciones de bloqueo en una sola línea y define qué significa entrenar…
La DGT ha autorizado un máximo de 20 vehículos por compañía, entre ellas Waymo y Uber, para pruebas de nivel 4 en España. El CEO de Next Mobility, Javier…
Por qué importaLa falta de marco legal y de seguros para robotaxis condiciona cualquier plan de movilidad autónoma en España y puede retrasar su despliegue…
Una guía revisa las condiciones de Suno, Udio, Gemini (Lyria 3) y Magnific sobre los derechos de las canciones generadas con IA. Suno solo cede derechos…
Por qué importaQuien monetice canciones o contenidos con música generada por IA depende de contratos cambiantes que no garantizan la titularidad. Conviene revisar…
La investigadora Carmela Troncoso, directora científica del Instituto Max Planck para la Seguridad y la Privacidad, es una de los 499 científicos que firman…
Por qué importaRefleja el debate creciente sobre responsabilidad y supervisión de los modelos avanzados, que puede traducirse en nuevas exigencias regulatorias para…
Parameter Labs describió un exploit contra la función de previsualización HTML de ChatGPT, que muestra apps interactivas en un iframe aislado. Encadenando una…
Por qué importaMuestra que el aislamiento de código generado por IA y las políticas CSP pueden fallar en cadena, con riesgo directo para datos y acciones de…
Desde el 29 de noviembre, OpenAI usará el contenido de las sesiones de Daybreak Blue en cuentas personales para entrenar sus modelos, incluso si el usuario…
Por qué importaLos profesionales de seguridad que usen cuentas personales para analizar vulnerabilidades podrían estar aportando datos sin reportar al…
