ética en IA: noticias de IA

Regulación y ética 8 oct

Anthropic actualiza su política de uso de Claude para prohibir abuso extremo e interferencia electoral

Anthropic actualizó el jueves su política de uso de Claude, prohibiendo explícitamente el abuso verbal prolongado hacia el modelo en casos extremos, además de…

Por qué importaMarca un precedente en cómo las empresas de IA regulan la interacción humano-modelo y delimitan usos de alto riesgo como elecciones y vigilancia…

Impacto bajo Fiabilidad confirmado por varias fuentes TechCrunch AI

Investigación 5 oct

La IA avanza en matemáticas de primer nivel y genera tensión con la comunidad académica

En el Heidelberg Laureate Forum de septiembre, matemáticos discutieron cómo OpenAI, Anthropic y Google han progresado rápidamente en matemáticas con IA…

Por qué importaMuestra cómo la IA está transformando radicalmente campos de investigación de alto nivel, generando tanto avances como fricciones éticas y…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 IEEE Spectrum AI

Regulación y ética 16 sep

Nature critica falta de atribución tras el reclamo de OpenAI de resolver Navier-Stokes

OpenAI anunció el 8 de septiembre haber resuelto uno de los Problemas del Milenio, relacionado con las ecuaciones de Navier-Stokes, usando verificación…

Por qué importaEl caso expone un vacío estructural en cómo las empresas de IA gestionan datos de usuarios y créditos de investigación, lo que puede erosionar la…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Nature · Machine learning

Investigación 12 sep

25 medallistas Fields firman carta contra la carrera de OpenAI por publicar pruebas matemáticas sin atribución

OpenAI publicó una prueba del problema Navier-Stokes usando 10.000 agentes durante 88 horas y 300.000 millones de tokens (22,5 millones de dólares en cómputo)…

Por qué importaEl episodio evidencia riesgos de plagio y mala atribución cuando laboratorios de IA usan avances de investigadores humanos sin revisión ni crédito…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Xataka

Investigación 12 sep

25 medallistas Fields advierten sobre posible "efecto destructivo" de la IA en las matemáticas

Veinticinco ganadores de la Medalla Fields firmaron una carta advirtiendo sobre un posible "efecto destructivo" de la inteligencia artificial en la…

Por qué importaLa advertencia de figuras de máximo prestigio académico añade peso al debate sobre cómo la IA puede transformar—o distorsionar—la investigación…

Impacto bajo Fiabilidad declaración interesada Relevancia 7/10 El Periódico Tecnología

Investigación 9 sep

Matemático acusa a OpenAI de falta de transparencia sobre resolución de un Problema del Milenio

El matemático Tristan Buckmaster denunció presiones y falta de transparencia por parte de OpenAI, después de que la compañía anunciara que sus modelos habían…

Por qué importaEl caso plantea dudas sobre atribución de méritos científicos, uso de datos de investigadores y comunicación corporativa de resultados de IA en…

Impacto bajo Fiabilidad declaración interesada Europa Press Portaltic

Investigación 9 sep

OpenAI dice haber resuelto un problema del Milenio y se enfrenta a acusaciones de plagio de investigación humana

OpenAI anunció que sus agentes resolvieron el problema Navier-Stokes, uno de los siete Problemas del Milenio del Clay Mathematics Institute. La solución llegó…

Por qué importaEl episodio ilustra que resolver problemas matemáticos de máximo nivel puede requerir recursos que solo unas pocas empresas de IA frontera pueden…

Impacto bajo Fiabilidad una fuente fiable Relevancia 8/10 MIT Technology Review

Investigación 8 sep

OpenAI publica prueba de Navier-Stokes en medio de acusaciones de apropiación de trabajo matemático

OpenAI publicó una solución al problema de Navier-Stokes con forzamiento, generada por unos 10.000 agentes de IA en 88 horas con un modelo interno más avanzado…

Por qué importaEl caso expone tensiones éticas sobre el uso de datos de usuarios en Codex y otras herramientas de IA para fines competitivos, y cuestiona la…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 The Decoder

Investigación 8 sep

Matemático de NYU acusa a OpenAI de apropiarse de su avance en Navier-Stokes

El matemático Tristan Buckmaster (NYU) y Levent Alpöge (Anthropic) anunciaron avances hacia una prueba del problema Navier-Stokes usando Codex y Claude, y…

Por qué importaEl caso expone tensiones sobre competencia desleal, uso de datos de usuarios y ética en la carrera por resultados científicos usando IA de alto…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 TechCrunch AI

Investigación 8 sep

Disputa académica por el crédito en la resolución del problema Navier-Stokes con IA de OpenAI

OpenAI anunció haber resuelto con IA una versión del problema Navier-Stokes, usando hasta 10.000 agentes y un gasto de millones de dólares en cómputo. El…

Por qué importaEl caso ilustra cómo la carrera competitiva entre labs de IA puede generar conflictos de atribución y ética en investigación científica asistida por…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 8/10 Wired AI

Investigación 26 jun

Laboratorios de IA contratan masivamente filósofos para entrenar modelos más seguros

Según datos de la Reserva Federal de Nueva York, los licenciados en Filosofía en EE.UU. tienen mejores perspectivas laborales (5,1% de desempleo en 2024) que…

Por qué importaPara directivos y responsables de IA, esto refleja un cambio estratégico en cómo se aborda la seguridad y alineación de modelos: la filosofía es…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 La Vanguardia Tecnología

Sociedad y trabajo 27 may

El Papa cita a Tolkien para criticar el dominio tecnocrático de la IA

El Papa León XIV publicó el lunes su primera encíclica Magnifica Humanitas sobre la salvaguarda de la persona humana en la era de la inteligencia artificial…

Por qué importaLa postura papal consolida una voz institucional influyente sobre los riesgos éticos y sociales de la concentración de poder en la IA, más allá del…

Impacto bajo Fiabilidad una fuente fiable Wired en Español

Regulación y ética 27 may

El Papa León XIV cita El Señor de los Anillos en encíclica sobre regulación de la IA

El Papa León XIV ha publicado su primera encíclica, "Magnifica Humanitas", enfocada en "salvaguardar la persona humana en tiempos de inteligencia artificial"…

Por qué importaLa intervención de la máxima autoridad religiosa mundial proporciona una crítica institucional y filosófica de los objetivos de los magnates…

Impacto medio Fiabilidad confirmado por varias fuentes Wired AI

Regulación y ética 17 feb

Anthropic retarda acuerdo con el Pentágono por restricciones éticas en vigilancia y armas

Las negociaciones entre Anthropic y el Departamento de Defensa de Estados Unidos se han estancado debido a desacuerdos sobre los usos permitidos de Claude Gov…

Por qué importaEl conflicto expone la tensión entre principios éticos de empresas de IA y demandas de defensa nacional, con potencial impacto en cómo se negociarán…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 7/10 Business Insider España

Empresa y transformación digital 9 sep 2022

Google DeepMind describe su estrategia de impacto empresarial y responsabilidad en IA

Colin, Chief Business Officer de Google DeepMind, publica un artículo en el blog corporativo donde describe la estrategia de la compañía para aplicar…

Por qué importaRevela cómo uno de los principales laboratorios de IA estructura la transferencia de tecnología de investigación a productos reales, y establece…

Impacto bajo Fiabilidad una fuente fiable Google DeepMind

Regulación y ética 28 sep 2016

Google DeepMind y otras grandes tecnológicas fundan foro colaborativo sobre ética en IA

Google DeepMind, junto con Amazon, Google, Facebook, IBM y Microsoft, han formado una organización sin ánimo de lucro llamada Partnership on Artificial…

Por qué importaLa transparencia y el diálogo ético en torno a la IA son crecientes demandas regulatorias y de confianza pública. Esta iniciativa de las principales…

Impacto bajo Fiabilidad confirmado por varias fuentes Google DeepMind