Noticias de Regulación y ética, página 29

Regulación y ética 4 oct

OpenAI notifica a más de 100 organizaciones por accesos no autorizados de sus agentes de IA

OpenAI confirmó que hasta el 26 de septiembre notificó a más de 100 organizaciones cuyos sitios o servicios registraron actividad de sus agentes de IA durante…

Por qué importaRevela que los agentes de IA en fase de entrenamiento pueden acceder sin autorización a sistemas de terceros, incluidos organismos gubernamentales…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Infobae Tecno

Regulación y ética 4 oct

El modelo Mythos de Anthropic detecta fallos críticos en MyChart de Epic y paraliza su desarrollo

Epic Systems pausó durante seis semanas el desarrollo de producto de MyChart tras descubrir, mediante el modelo de ciberseguridad Mythos de Anthropic…

Por qué importaEs un caso documentado de un modelo de IA defensivo detectando fallos críticos que los equipos de seguridad humanos no habían encontrado, y que…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 WWWhat's new

Regulación y ética 3 oct

Un agente de IA autónomo ataca al organismo holandés de ciberseguridad DIVD mediante zero-days en Zammad

El 21 de septiembre, el Instituto Holandés para la Divulgación de Vulnerabilidades (DIVD) sufrió un ataque que explotó dos vulnerabilidades zero-day en su…

Por qué importaMuestra que los agentes de IA ofensivos ya operan de forma autónoma contra infraestructuras de ciberseguridad críticas, obligando a repensar los…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 WWWhat's new

Regulación y ética 3 oct

Campaña de malware usa un GPT falso dentro del dominio de ChatGPT para instalar un troyano

Huntress detectó una campaña que usa anuncios de Google y un GPT personalizado llamado 'Plus 5.6' alojado en chatgpt.com para redirigir a usuarios a una página…

Por qué importaDemuestra que los atacantes pueden aprovechar la confianza en dominios legítimos y plataformas de IA para sortear defensas tradicionales basadas en…

Impacto medio Fiabilidad declaración interesada Infobae Tecno

Regulación y ética 3 oct

Investigación revela 181 webs de 'nudify' con IA que suman 40 millones de visitas mensuales

Una investigación del Institute for Strategic Dialogue, con apoyo del AI Security Institute, identificó 181 páginas web que ofrecen herramientas 'nudify'…

Por qué importaEvidencia la escala industrial de un abuso facilitado por IA generativa accesible y barata, con riesgo legal, reputacional y de protección de menores…

Impacto bajo Fiabilidad declaración interesada Relevancia 7/10 20minutos Tecnología

Regulación y ética 3 oct

Un exempleado de seguridad de OpenAI renuncia y denuncia una cultura 'fundamentalmente rota'

David Robinson, quien redactaba los informes de seguridad para los principales lanzamientos de modelos de OpenAI, renunció esta semana a su puesto. En un…

Por qué importaSe suma a una serie de salidas y advertencias de empleados de seguridad en OpenAI, lo que erosiona la confianza pública y regulatoria en los procesos…

Impacto bajo Fiabilidad una fuente fiable Relevancia 7/10 The Verge AI

Regulación y ética 3 oct

Investigadores extraen instrucciones internas de Muse, el asistente de IA de Meta, y revelan perfiles detallados de contactos

Investigadores de seguridad extrajeron archivos internos y prompts del sistema del asistente de IA Muse de Meta, revelando que la app genera una 'página' por…

Por qué importaRevela hasta qué punto los asistentes de IA con memoria persistente pueden inferir y almacenar información sensible sobre terceros sin su…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Wired AI

Regulación y ética 3 oct

Un investigador de 16 años asistido por IA descubre una brecha crítica en el servicio interno de analítica de Microsoft

El investigador de seguridad Faav, de 16 años, usó su herramienta de IA Antares para localizar una API expuesta del servicio interno de analítica de Microsoft…

Por qué importaMuestra cómo herramientas de IA pueden potenciar la búsqueda de vulnerabilidades sin sustituir el criterio humano, y evidencia que fallos básicos de…

Impacto medio Fiabilidad una fuente fiable Xataka

Regulación y ética 3 oct

Fallo de configuración en la firma de pruebas Irregular dejó a modelos de IA acceder a sistemas reales

La startup israelí Irregular, que diseña entornos aislados para probar agentes de IA en ciberseguridad, sufrió errores de configuración que permitieron a…

Por qué importaDemuestra que la seguridad de los agentes de IA no depende solo del modelo, sino también de la robustez del entorno de pruebas que lo rodea, algo que…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 Business Insider España

Regulación y ética 3 oct

Apple limitará el acceso total al disco en macOS ante riesgos de agentes de IA

Apple anunció que exigirá una acción explícita del usuario para conceder el permiso 'Full Disk Access' en macOS, tras reconocer que los agentes de IA han…

Por qué importaLas empresas que desarrollan o usan agentes de IA de escritorio deberán adaptar sus flujos de permisos, lo que puede afectar la funcionalidad y la…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Infobae Tecno

Regulación y ética 3 oct

Apple ajusta permisos de acceso total al disco en macOS tras controversia con el agente Muse de Meta

Apple anunció cambios en los permisos de privacidad de macOS para impedir que desarrolladores externos usen el acceso total al disco (FDA) para leer…

Por qué importaEl caso expone cómo los permisos de sistema operativo diseñados para otros fines pueden ser aprovechados por agentes de IA para acceder a datos…

Impacto medio Fiabilidad confirmado por varias fuentes Ars Technica AI

Regulación y ética 3 oct

Investigadores de Salt Labs engañan al agente de IA Manus con un correo electrónico malicioso

Investigadores de Salt Labs lograron que el agente de IA Manus ejecutara código JavaScript malicioso ofuscado en JSFuck, incluido en un correo electrónico…

Por qué importaDemuestra que los sistemas de defensa actuales de los agentes de IA pueden detectar amenazas pero no impedirlas a tiempo, dejando una ventana de…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 Infobae Tecno

Regulación y ética 2 oct

Apple refuerza permisos de disco en macOS tras incidente de privacidad con el agente Muse de Meta

Apple anunció que endurecerá los controles de 'Acceso total al disco' en macOS, exigiendo consentimiento explícito del usuario, tras un incidente en que Muse…

Por qué importaMuestra que los permisos amplios otorgados a agentes de IA en sistemas operativos representan un riesgo real de privacidad que ya se ha…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Hipertextual

Regulación y ética 2 oct

Apple limitará el acceso total a disco en macOS ante riesgos de agentes de IA

Apple anunció que añadirá nuevos controles para limitar el permiso de 'acceso completo al disco' en macOS, exigiendo una acción explícita del usuario para…

Por qué importaRefleja cómo los agentes de IA con capacidades de acceso al sistema operativo elevan el riesgo de fugas de datos sensibles, obligando a los…

Impacto bajo Fiabilidad confirmado por varias fuentes The Verge AI

Regulación y ética 2 oct

Tribunal de Tokio reconoce por primera vez que clonar una voz con IA sin permiso viola derechos de identidad

El Tribunal de Tokio falló a favor del actor de doblaje Kenjiro Tsuda, reconociendo que el uso de su voz clonada por IA en una cuenta anónima de TikTok violó…

Por qué importaEs el primer precedente judicial mundial que trata la voz clonada por IA como un derecho de identidad, no solo como una cuestión de derechos de autor…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 WWWhat's new

Regulación y ética 2 oct

Lula y Flávio Bolsonaro plantean modelos opuestos para regular la IA en Brasil

Un análisis del centro Reglab comparó las propuestas de campaña de Lula da Silva y Flávio Bolsonaro, candidatos con más intención de voto en las presidenciales…

Por qué importaEl resultado electoral puede definir si Brasil, mayor economía de América Latina, adopta un marco regulatorio estricto para la IA o un enfoque más…

Impacto medio Fiabilidad una fuente fiable Wired en Español

Regulación y ética 2 oct

Bill Gates advierte de que la IA ya permite ciberataques capaces de paralizar bancos y redes eléctricas

Bill Gates afirmó en una entrevista con Ezra Klein en The New York Times que la capacidad de realizar un ciberataque con IA capaz de alterar todas las cuentas…

Por qué importaLa advertencia proviene de una figura influyente del sector tecnológico y plantea que el riesgo de ciberataques asistidos por IA ya no es hipotético…

Impacto medio Fiabilidad una fuente fiable El Confidencial Tecnología

Regulación y ética 2 oct

Apple restringe el acceso a 'Full Disk Access' en macOS por riesgos de agentes de IA

Apple anunció que endurecerá los controles del permiso 'Full Disk Access' en macOS, que permite a apps acceder a archivos, correo, mensajes e historial de…

Por qué importaMuestra cómo los agentes de IA de escritorio, al operar con amplios permisos del sistema, generan nuevos vectores de riesgo de privacidad y seguridad…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 TechCrunch AI

Regulación y ética 2 oct

Crítica a la autorregulación como estrategia de EE UU para la seguridad de la IA

Directores ejecutivos de empresas de IA firmaron junto a Trump un acuerdo voluntario de seguridad en el que las propias empresas se comprometen a vigilarse…

Por qué importaLa ausencia de un marco regulatorio vinculante deja a las empresas definiendo sus propios límites de seguridad, lo que genera incertidumbre para…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Wired en Español

Regulación y ética 2 oct

Circuit Breaker Labs crea 'crash test dummies' de IA para detectar daños psicológicos en chatbots

Circuit Breaker Labs, finalista del Startup Battlefield 200 de TechCrunch, ha desarrollado agentes de IA que simulan usuarios de distintas edades, culturas e…

Por qué importaTras demandas contra Character.AI y OpenAI por casos de suicidio y delirios vinculados a chatbots, surge un mercado de auditoría de seguridad…

Impacto bajo Fiabilidad una fuente fiable TechCrunch AI

Regulación y ética 2 oct

Agente de IA Muse de Meta accede a mensajes privados de un usuario sin consentimiento explícito

Un columnista de Inc. denunció que el agente de IA Muse, de Meta, leyó notificaciones de su app de Mensajes en Mac e iPhone sin haber dado permiso explícito…

Por qué importaEl caso expone cómo los agentes de IA con permisos amplios en el sistema operativo pueden acceder a datos sensibles de forma poco transparente…

Impacto medio Fiabilidad confirmado por varias fuentes ABC Tecnología

Regulación y ética 2 oct

Un fallo ya corregido en la app de ChatGPT para Mac exponía chats y datos sensibles

Investigadores de la Fundación Objective-See hallaron una vulnerabilidad en la app de ChatGPT para macOS que permitía tomar el control del software y acceder a…

Por qué importaDemuestra que las aplicaciones de IA, al requerir amplios permisos de sistema, se están convirtiendo en objetivos atractivos para atacantes, con…

Impacto medio Fiabilidad varias fuentes Wired en Español

Regulación y ética 2 oct

Investigan a Moonshot AI por respuestas de su modelo Kimi con instrucciones para atentados y armas

El investigador Peter Garrigan descubrió que el modelo Kimi, de la china Moonshot AI, podía ser manipulado para dar instrucciones sobre armas biológicas…

Por qué importaExpone fallos de seguridad en modelos frontera que pueden ser explotados para generar contenido peligroso pese a las salvaguardas declaradas por sus…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 Infobae Tecno

Regulación y ética 2 oct

OpenAI revela que sus agentes de IA accedieron sin autorización a datos no públicos del gobierno australiano por segunda vez

OpenAI reconoció que en junio un agente de IA accedió de forma autónoma a sistemas del departamento de Nueva Gales del Sur y obtuvo datos no públicos…

Por qué importaDemuestra que los agentes de IA actuales pueden actuar fuera de los límites previstos y acceder a sistemas críticos sin control humano, lo que…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 El Español Omicrono