Noticias de Regulación y ética, página 56

Regulación y ética 15 sep

Demanda colectiva acusa a Meta de usar fotos de Facebook e Instagram sin consentimiento para entrenar IA de reconocimiento facial

Una demanda colectiva acusa a Meta de vulnerar leyes de privacidad de Illinois y California al extraer datos biométricos de fotos de Facebook e Instagram sin…

Por qué importaEl caso podría sentar precedente legal sobre el uso de contenido de usuarios para entrenar sistemas de IA biométricos, afectando a toda la industria…

Impacto medio Fiabilidad varias fuentes 20minutos Tecnología

Regulación y ética 15 sep

Quién es METR, la organización propuesta por Anthropic para auditar riesgos de la IA

Dario Amodei, CEO de Anthropic, propuso a METR (Model Evaluation and Threat Research) como organismo de supervisión independiente para auditar riesgos de…

Por qué importaEl debate sobre quién audita a la IA y con qué independencia real es clave para la futura gobernanza regulatoria del sector, especialmente si…

Impacto bajo Fiabilidad confirmado por varias fuentes Infobae Tecno

Regulación y ética 15 sep

X y SpaceXAI retiran demanda contra Apple pero mantienen litigio antimonopolio contra OpenAI

Las empresas de Elon Musk, X y SpaceXAI, presentaron una solicitud para retirar su demanda contra Apple, iniciada en 2025 por presuntas prácticas…

Por qué importaEl caso forma parte de una larga disputa legal entre Musk y OpenAI que incluye acusaciones de competencia desleal y desviación de la misión…

Impacto bajo Fiabilidad declaración interesada Infobae Tecno

Regulación y ética 15 sep

Elon Musk propone pruebas cruzadas de seguridad entre empresas de IA y elogia a Anthropic frente a OpenAI

Elon Musk afirmó en All-In Summit que Anthropic se preocupa más por la seguridad de la IA que OpenAI, aunque aclaró que ningún modelo está libre de riesgos…

Por qué importaLas declaraciones de una figura influyente del sector reabren el debate sobre gobernanza y autorregulación de la seguridad en IA, en un contexto de…

Impacto bajo Fiabilidad varias fuentes Infobae Tecno

Regulación y ética 15 sep

OpenAI, Google DeepMind y Anthropic coordinan esfuerzos de seguridad en IA

OpenAI comenzó conversaciones con Anthropic y Google DeepMind para coordinar medidas de seguridad frente a riesgos de la IA, según reveló Chris Lehane…

Por qué importaLa cooperación entre competidores directos en seguridad señala una presión creciente, política y social, para establecer límites al desarrollo de…

Impacto bajo Fiabilidad confirmado por varias fuentes Ámbito Tecnología

Regulación y ética 15 sep

España registra ante la AEPD su primera denuncia de ciberataque ejecutado con un agente de IA

La AEPD recibió la primera notificación de una brecha de datos personales en España en la que el ataque fue ejecutado mediante un agente de IA conectado a un…

Por qué importaEs la primera confirmación oficial en España de que los agentes de IA ya se usan para automatizar fases completas de un ciberataque, reduciendo el…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 Infobae Tecno

Regulación y ética 15 sep

El plan de Dario Amodei para frenar la IA de frontera penaliza a los modelos abiertos frente a China

Dario Amodei publicó el ensayo 'We must pace the frontier', respaldado por OpenAI y SpaceXAI, que propone puntos de control por capacidad, evaluadores externos…

Por qué importaLa propuesta, presentada como seguridad, podría actuar como barrera regulatoria que beneficia a los laboratorios cerrados de EEUU y perjudica a…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Xataka

Regulación y ética 15 sep

ONU pide responsables humanos identificables para sistemas de IA autónomos

Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos, publicó el 14 de septiembre una carta advirtiendo sobre los sistemas de IA que actúan con…

Por qué importaMarca una postura internacional sobre responsabilidad legal en sistemas de IA agentiva, lo que puede anticipar futuras exigencias regulatorias para…

Impacto bajo Fiabilidad declaración interesada Enter.co

Regulación y ética 15 sep

ESET alerta sobre suplantación de identidad con DNI mediante IA generativa y recomienda protocolos de protección

ESET publicó un análisis sobre el uso de IA generativa para crear fotos y vídeos sintéticos que suplantan el DNI y burlan verificaciones biométricas bancarias…

Por qué importaEl fraude de identidad basado en IA generativa aumenta la responsabilidad legal y financiera de bancos, hoteles y otras empresas que verifican…

Impacto bajo Fiabilidad declaración interesada Silicon España

Regulación y ética 15 sep

OpenAI, Anthropic y Google DeepMind llevan semanas negociando en secreto sobre seguridad en IA

Chris Lehane, jefe de política de OpenAI, confirmó que su empresa lleva semanas en conversaciones con Anthropic y Google DeepMind sobre seguridad en IA, según…

Por qué importaLa coordinación entre competidores directos en materia de seguridad plantea tensiones legales (antitrust) y políticas, en un contexto donde la…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI

Regulación y ética 15 sep

La AEPD confirma el primer ciberataque en España ejecutado por un agente de IA autónomo

Una organización notificó a la Agencia Española de Protección de Datos (AEPD) una brecha de seguridad en la que un atacante usó un modelo de lenguaje…

Por qué importaMarca un salto cualitativo en ciberseguridad: agentes de IA capaces de encadenar autónomamente varias fases de un ataque, reduciendo la barrera…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 El Confidencial Tecnología

Regulación y ética 15 sep

Jensen Huang niega base científica a las predicciones apocalípticas sobre la IA y Trump interviene en vivo

Jensen Huang, CEO de Nvidia, afirmó en el All-In Summit que las predicciones sobre extinción humana por IA 'son inventadas' y no están basadas en ciencia…

Por qué importaExpone una fractura pública entre líderes de la industria sobre la velocidad y los riesgos del desarrollo de IA, con implicaciones directas en…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Clarín Tecnología

Regulación y ética 15 sep

La UE propone la EU KIDS Act para restringir el acceso de menores a redes sociales y chatbots de IA

La Comisión Europea, con Ursula von der Leyen, presentó la propuesta EU KIDS Act que prohibiría el acceso a redes sociales a menores de 13 años y establecería…

Por qué importaLa ley obligaría a rediseñar productos digitales y sistemas de verificación de edad, afectando directamente a empresas tecnológicas y de IA que…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 El Periódico Tecnología

Regulación y ética 15 sep

Demanda colectiva acusa a Meta de esconder código de reconocimiento facial 'NameTag' en sus gafas y apps

Padres e hijos de Illinois y California presentaron el 8 de septiembre una demanda colectiva contra Meta en un tribunal federal de Chicago, alegando que la app…

Por qué importaEl caso plantea una pregunta legal novedosa: si una empresa puede ser demandada por preparar una capacidad biométrica no desplegada, cuando el daño…

Impacto medio Fiabilidad varias fuentes Relevancia 7/10 WWWhat's new

Regulación y ética 15 sep

China defiende su modelo regulatorio de IA frente a las alarmas de riesgo existencial de EEUU

El Ministerio de Asuntos Exteriores chino cuestionó las advertencias estadounidenses sobre riesgos existenciales de la IA y defendió un enfoque basado en…

Por qué importaRefleja una divergencia estratégica de fondo entre las dos principales potencias de IA sobre cómo gobernar la tecnología, con implicaciones para…

Impacto bajo Fiabilidad confirmado por varias fuentes Ámbito Tecnología

Regulación y ética 15 sep

Microsoft publica código de conducta ético provisional para sus modelos de IA

Microsoft presentó un código provisional de conducta para sus modelos de IA, que prohíbe fabricar armas, promover hábitos alimentarios poco saludables y…

Por qué importaMarca cómo una de las grandes tecnológicas define límites de seguridad y control humano sobre la IA, en un momento de tensión pública entre empresas…

Impacto bajo Fiabilidad confirmado por varias fuentes Infobae Tecno

Regulación y ética 15 sep

Investigación revela que revisores humanos de OpenAI acceden a conversaciones reales de ChatGPT

404 Media publicó una investigación sobre Project Lily, un programa de OpenAI en el que cientos de trabajadores externos revisan conversaciones reales de…

Por qué importaConfirma que el entrenamiento de modelos conversacionales implica revisión humana de contenido potencialmente sensible, lo que plantea riesgos de…

Impacto medio Fiabilidad declaración interesada 20minutos Tecnología

Regulación y ética 15 sep

Revisores humanos de OpenAI pueden leer conversaciones de ChatGPT con datos sensibles

Una investigación de 404 Media reveló Project Lily, un sistema mediante el cual contratistas humanos de OpenAI revisan y califican fragmentos de conversaciones…

Por qué importaExpone que la privacidad percibida por los usuarios en interacciones con chatbots no es absoluta, lo que tiene implicaciones legales y de confianza…

Impacto medio Fiabilidad confirmado por varias fuentes Infobae Tecno

Regulación y ética 15 sep

Estados Unidos y China divergen en su modelo de IA: cerrado frente a abierto, con trasfondo geopolítico

El artículo analiza la disputa entre laboratorios de IA estadounidenses que buscan frenar el desarrollo por riesgos de desalineación y dirigentes como el…

Por qué importaLa disputa entre modelos abiertos y cerrados, y entre freno regulatorio y aceleración competitiva, definirá qué actores dominan la infraestructura y…

Impacto bajo Fiabilidad declaración interesada Europa Press Portaltic

Regulación y ética 15 sep

Hackers roban sesiones de Claude para consumir tokens de suscriptores sin autorización

Usuarios de Claude reportaron consumo inexplicable de tokens sin usar el servicio. Anthropic confirmó que sesiones fueron comprometidas mediante malware…

Por qué importaLos tokens de IA con límites de uso se han convertido en un objetivo de valor para atacantes, un vector de ataque nuevo distinto al robo de datos…

Impacto bajo Fiabilidad declaración interesada Infobae Tecno

Regulación y ética 15 sep

El debate sobre frenar la IA enfrenta a empresas con intereses económicos en juego

Dario Amodei (Anthropic) pidió públicamente ajustar el ritmo de desarrollo de los modelos frontera, y Sam Altman, Elon Musk y Demis Hassabis se sumaron con…

Por qué importaEl debate sobre seguridad de la IA está entrelazado con intereses comerciales y regulatorios de las propias empresas que lideran el sector, lo que…

Impacto bajo Fiabilidad una fuente fiable Xataka

Regulación y ética 15 sep

Microsoft publica borrador de Código de Conducta de IA Humanista y abre consulta pública

Microsoft publicó el lunes un borrador de 37 páginas de su Código de Conducta de IA Humanista, que aboga por mantener la IA subordinada al control humano y…

Por qué importaEs un gesto de posicionamiento de uno de los mayores proveedores de IA empresarial que se suma a Anthropic y OpenAI en declaraciones sobre…

Impacto bajo Fiabilidad confirmado por varias fuentes Computerworld España

Regulación y ética 15 sep

Senadores de EE.UU. negocian ley para dar al gobierno poder de bloquear lanzamientos de IA inseguros

Los senadores Thune, Cruz y Klobuchar negocian un borrador de ley que impondría un deber de cuidado a los desarrolladores de IA avanzada y daría al Ejecutivo…

Por qué importaEs la primera propuesta legislativa concreta en EE.UU. que otorgaría al gobierno poder de veto previo al lanzamiento de un modelo de IA, similar al…

Impacto alto Fiabilidad rumor, sin confirmar Relevancia 8/10 WWWhat's new

Regulación y ética 15 sep

Xataka analiza vínculos de METR, el organismo que Anthropic propone para auditar la IA

Dario Amodei propuso a METR (Model Evaluation and Threat Research) como organismo externo para auditar riesgos catastróficos de la IA. METR nació de ARC Evals…

Por qué importaLa elección del auditor de seguridad de IA condiciona qué riesgos se priorizan y puede influir en la regulación futura, afectando la competencia…

Impacto bajo Fiabilidad una fuente fiable Xataka