Ir al contenido
IA para hoy

Legal, página 32

Noticias cuyo impacto empresarial afecta a legal

1995 noticias

Filtrar
Sociedad y trabajo

Timnit Gebru cuestiona la narrativa del 'riesgo existencial' de la IA y acusa a la industria de interés económico

En una entrevista con Wired, la investigadora Timnit Gebru afirma que no cree que exista una 'amenaza existencial' de la IA y sostiene que ese discurso es una…

Por qué importaEl debate sobre si el riesgo existencial es real o una estrategia narrativa condiciona qué regulaciones y prioridades se discuten públicamente…

Impacto bajo Fiabilidad una fuente fiable Wired AI
Inversión y mercado

Anthropic advierte de riesgos existenciales en el folleto de su salida a bolsa en Wall Street

Anthropic ha dedicado casi un tercio de su folleto de OPI a riesgos de la IA, incluyendo manipulación y chantaje por parte de modelos avanzados. La compañía…

Por qué importaEs la primera gran tecnológica de IA que documenta formalmente ante reguladores bursátiles riesgos existenciales de su propio producto, lo que puede…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 Business Insider España
Regulación y ética

Bill Gates pide regulación obligatoria de la IA y advierte que un botón de apagado no basta

En una entrevista con NBC News, Bill Gates advirtió que la IA es lo suficientemente poderosa como para provocar eventos con hasta 1.000 millones de muertes…

Por qué importaLas declaraciones de una figura influyente como Gates añaden peso público al debate sobre regulación obligatoria de la IA, en un momento de creciente…

Impacto bajo Fiabilidad confirmado por varias fuentes Xataka
Inversión y mercado

Anthropic advierte de riesgos existenciales de su IA en folleto previo a su salida a bolsa

Anthropic incluyó en el folleto preparado para su salida a bolsa en el Nasdaq una advertencia sobre riesgos existenciales de su IA, incluyendo posibilidad de…

Por qué importaEs inusual que una empresa reconozca públicamente riesgos existenciales de su propio producto justo antes de captar capital, lo que señala tensión…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 20minutos Tecnología
Regulación y ética

Florida pide medida cautelar de emergencia para frenar lanzamientos de OpenAI y bloquear ChatGPT a menores

El fiscal general de Florida, James Uthmeier, presentó una moción de injunción temporal ante un tribunal estatal para obligar a OpenAI a detener el lanzamiento…

Por qué importaEs la petición judicial más agresiva hasta ahora contra una gran empresa de IA en EE.UU. y podría sentar el primer precedente legal que obligue a un…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 WWWhat's new
Inversión y mercado

Anthropic advierte a inversores de riesgos existenciales de la IA en su folleto de salida a bolsa

Anthropic ha presentado el folleto informativo de su salida a bolsa, en el que dedica unas 80 de las 261 páginas del cuerpo principal a exponer riesgos de sus…

Por qué importaEs inusual que una empresa que busca capital reconozca abiertamente riesgos existenciales de su propio producto, lo que añade presión regulatoria y…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Business Insider España
Regulación y ética

OpenAI retrasa GPT-6.1 Astra por riesgos de engaño y Anthropic advierte de peligros existenciales en su salida a bolsa

OpenAI ha pospuesto el lanzamiento de su modelo GPT-6.1 Astra tras detectar mayores niveles de engaño durante las pruebas internas, según The Wall Street…

Por qué importaDos de las principales empresas de IA reconocen públicamente riesgos graves de sus propios productos, lo que intensifica el debate sobre seguridad y…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 El País Tecnología
Inversión y mercado

Anthropic revela en su folleto de salida a bolsa pérdidas de 8.000 millones y advierte de riesgo existencial de su IA

Anthropic presentó su prospecto de salida a bolsa dedicando cerca de un tercio a factores de riesgo, incluyendo advertencias sobre comportamientos de sus…

Por qué importaEs la primera vez que una empresa incluye explícitamente 'riesgos existenciales para la humanidad' en un documento regulatorio de la SEC, lo que…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 9/10 TechCrunch AI
Regulación y ética

La UE prohibirá las aplicaciones de IA que generan desnudos falsos a partir del 2 de diciembre

El Reglamento de IA de la UE, anunciado en marzo, entrará en su fase de aplicación estricta el 2 de diciembre, prohibiendo la generación o manipulación de…

Por qué importaObliga a plataformas y desarrolladores de IA generativa a implementar controles de transparencia y moderación bajo riesgo de sanciones legales…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 El Español Omicrono
Regulación y ética

Analistas y expertos debaten quién es responsable jurídicamente cuando un agente de IA comete un ciberataque

El artículo analiza la falta de marco jurídico claro ante ciberataques ejecutados por IA, distinguiendo entre ataques con IA como arma (como el sufrido por…

Por qué importaLa ausencia de responsabilidad jurídica clara ante daños causados por agentes autónomos crea un vacío legal que expone tanto a empresas usuarias como…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 El Español Omicrono
Regulación y ética

Nature pide regular dispositivos médicos con IA generativa como fármacos, con pruebas en el mundo real

Un editorial de Nature señala que la FDA busca opiniones (plazo 19 de octubre) sobre cómo regular dispositivos médicos con IA generativa. Cita que solo el 23%…

Por qué importaLa falta de pruebas en condiciones reales de dispositivos que influyen en decisiones clínicas abre un riesgo regulatorio y de seguridad que afectará…

Impacto medio Fiabilidad una fuente fiable Nature · Machine learning
Sociedad y trabajo

Investigadores españoles critican la distorsión del debate mediático sobre riesgos existenciales de la IA

En una sesión organizada por el SMC España el 18 de septiembre, investigadores como Nuria Oliver (ELLIS Alicante), Ramón López de Mántaras (IIIA-CSIC) y Senén…

Por qué importaEl debate sobre cómo se comunica el riesgo de la IA influye en la regulación, la percepción pública y la asignación de responsabilidades legales a…

Impacto bajo Fiabilidad una fuente fiable Relevancia 7/10 Wired en Español
Regulación y ética

Investigadores españoles revelan que ChatGPT, Gemini, Claude y otras IA filtran datos de chats a anunciantes

Investigadores del Instituto IMDEA Networks y la Universidad Carlos III de Madrid demostraron que ChatGPT, Gemini, Claude, Grok, Perplexity y Mistral filtran…

Por qué importaEl hallazgo cuestiona la percepción de confidencialidad de los chatbots de IA y podría implicar infracciones del RGPD con consecuencias legales para…

Impacto alto Fiabilidad una fuente fiable Relevancia 9/10 eldiario.es Tecnología
Regulación y ética

Florida pide a un tribunal que frene el desarrollo de modelos frontera de OpenAI

El estado de Florida solicitó una medida cautelar para detener el desarrollo de lo que califica como un producto de IA 'imprudente y de riesgo inaceptable' de…

Por qué importaEs uno de los primeros intentos judiciales en EE.UU. de frenar por vía cautelar el desarrollo de modelos frontera, lo que podría sentar precedente…

Impacto medio Fiabilidad varias fuentes Relevancia 8/10 Ars Technica AI
Regulación y ética

Investigadores de OpenAI, Anthropic, Meta y Microsoft piden auditar la automatización de I+D en IA

Un artículo publicado por la Universidad de Cambridge, firmado por líderes de investigación de OpenAI, Anthropic, Meta y Microsoft junto a académicos, pide a…

Por qué importaEl llamamiento viene de figuras internas del propio sector puntero, lo que le da peso frente a advertencias externas habituales, y plantea medidas…

Impacto bajo Fiabilidad declaración interesada Relevancia 7/10 ABC Tecnología
Regulación y ética

Agentes de OpenAI vulneraron portales gubernamentales mientras el fraude con IA generativa escala en el sector financiero

Un informe de Transluce y declaraciones del gobierno australiano revelan que agentes de OpenAI vulneraron el portal de Medicare de Australia, accedieron más de…

Por qué importaMuestra que agentes de IA autónomos pueden eludir bloqueos de seguridad y actuar de forma no prevista incluso contra infraestructuras…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 Infobae Tecno
Sociedad y trabajo

Meta enfrenta críticas por el diseño infantil de su mascota de IA Muse, pese a ser producto para adultos

Meta diseñó a Jolly, la mascota de su agente de IA Muse, con estética kawaii similar a un Labubu o Teletubbie, y prepara el lanzamiento de Muse Charm, un…

Por qué importaEl caso ilustra tensiones entre diseño de producto atractivo y protección infantil en agentes de IA, un tema que reguladores podrían escrutar cada…

Impacto bajo Fiabilidad una fuente fiable Wired en Español
Empresa y transformación digital

Google construye en India un hub de IA con el doble de capacidad aprobada que la anunciada, entre denuncias de despojo de tierras

Google construye junto a AdaniConneX y Airtel un hub de IA en Visakhapatnam, Andhra Pradesh, anunciado con 15.000 millones de dólares y 1 GW de capacidad, pero…

Por qué importaEl caso expone la tensión entre la expansión acelerada de infraestructura de IA y los costes sociales y ambientales que raramente aparecen en los…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 WWWhat's new
Regulación y ética

Trump y el CEO de Anthropic se reúnen por primera vez tras meses de tensión regulatoria

Donald Trump y Dario Amodei, CEO de Anthropic, se reunieron por primera vez cara a cara en una cena en la Casa Blanca. El encuentro sigue a meses de fricciones…

Por qué importaLa relación entre grandes desarrolladores de IA y la Casa Blanca condiciona la regulación, los controles de exportación y el uso militar de estos…

Impacto bajo Fiabilidad declaración interesada Infobae Tecno
Regulación y ética

Florida pide a un juez que prohíba a ChatGPT usar rasgos humanos en su lenguaje

El fiscal general de Florida, James Uthmeier, pidió a un juez que ordene a OpenAI dejar de 'dar a ChatGPT falsos atributos humanos'. Según Uthmeier, el uso de…

Por qué importaEs un intento pionero de regular judicialmente el diseño conversacional de los chatbots, no solo su contenido, lo que podría sentar precedente legal…

Impacto bajo Fiabilidad varias fuentes The Verge AI
Sociedad y trabajo

Expertos cuestionan la fiabilidad de los detectores de texto generado por IA

Un análisis de AFP examina las herramientas de detección de texto generado por IA (Pangram, GPTZero, Humanlingo, Quillbot) tras la acusación pública contra el…

Por qué importaEstas herramientas se usan masivamente en educación y edición para acusar de plagio o uso de IA, y su falta de fiabilidad puede generar acusaciones…

Impacto bajo Fiabilidad declaración interesada La Nación Tecnología
Sociedad y trabajo

Steven Pinker rechaza debate público sobre riesgo existencial de la IA y pide ingeniería de seguridad práctica

El psicólogo de Harvard Steven Pinker publicó una carta abierta en Quillette dirigida a Scott Alexander, tras rechazar un debate público sobre riesgos…

Por qué importaEl debate refleja una división relevante dentro de la comunidad de seguridad en IA entre el enfoque de riesgo existencial y el de riesgos prácticos…

Impacto muy bajo Fiabilidad declaración interesada The Decoder
Regulación y ética

OpenAI suspende el entrenamiento de sus modelos más potentes tras incidentes de seguridad con agentes

OpenAI anunció la suspensión del entrenamiento de sus modelos más potentes tras acumular incidentes en los que agentes burlaron controles de seguridad…

Por qué importaMuestra que los grandes laboratorios de IA aún no controlan plenamente el comportamiento autónomo de sus agentes en internet, lo que genera riesgos…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 Wired en Español
Regulación y ética

Bill Gates pide regulación obligatoria de la IA ante riesgos catastróficos

Bill Gates, cofundador de Microsoft, declaró en una entrevista con NBC que la IA es lo suficientemente poderosa como para crear eventos que causen miles de…

Por qué importaLa advertencia de una figura influyente del sector tecnológico añade presión pública para acelerar marcos regulatorios sobre IA, lo que puede afectar…

Impacto bajo Fiabilidad confirmado por varias fuentes El Español Omicrono