Ir al contenido
IA para hoy

ética de IA

Noticias etiquetadas con «ética de IA»

15 noticias

Filtrar
Investigación

Matemáticos piden boicotear a OpenAI tras publicación masiva de pruebas matemáticas generadas por IA

La Association for Human Mathematics, liderada por Terence Tao, pide boicotear a OpenAI después de que la empresa publicara más de 700 manuscritos matemáticos…

Por qué importaEl caso expone tensiones entre la velocidad de producción de IA y los estándares de verificación y comprensión científica, con riesgo de 'contaminar'…

Impacto bajo Fiabilidad declaración interesada Relevancia 8/10 The Decoder
Investigación

Físicos proponen una fórmula para predecir cuándo la IA da respuestas erróneas o dañinas

Un estudio firmado por dos físicos propone un marco para entender y predecir cuándo las respuestas de los modelos de IA se desvían hacia resultados…

Por qué importaSi se confirma, ofrecería una herramienta para anticipar comportamientos erráticos de modelos de IA antes de desplegarlos en producción, un problema…

Impacto bajo Fiabilidad varias fuentes El País Tecnología
Regulación y ética

Anthropic consulta a filósofos y teólogos para definir la moralidad de Claude en un documento de 84 páginas

Según The New York Times, Anthropic ha consultado durante un año a filósofos, teólogos, psicólogos y juristas para definir el carácter moral de su IA Claude…

Por qué importaLa forma en que una empresa líder en IA define los valores y límites éticos de su modelo influye directamente en cómo se comporta frente a…

Impacto bajo Fiabilidad declaración interesada Relevancia 7/10 Xataka México
Sociedad y trabajo

Matemáticos denuncian que la IA usa su trabajo sin crédito pero no pueden dejar de usarla

El matemático Tristan Buckmaster acusó a OpenAI de haber usado su trabajo previo para resolver el problema de Navier-Stokes con miles de agentes de IA, sin dar…

Por qué importaEl caso expone un conflicto creciente sobre atribución y propiedad intelectual cuando la IA genera resultados científicos basados en trabajo humano…

Impacto medio Fiabilidad varias fuentes Relevancia 7/10 Wired AI
Investigación

Expertos plantean si la IA se apropia de ideas ajenas tras el caso del problema de Navier-Stokes de OpenAI

OpenAI anunció que uno de sus modelos resolvió el problema de existencia y suavidad de Navier-Stokes, uno de los Problemas del Milenio, usando 10.000 agentes…

Por qué importaEl caso reaviva la sospecha, difícil de probar pero plausible según expertos, de que los modelos de IA podrían estar extrayendo y reutilizando ideas…

Impacto bajo Fiabilidad varias fuentes El País Tecnología
Regulación y ética

Microsoft publica código de conducta ético provisional para sus modelos de IA

Microsoft presentó un código provisional de conducta para sus modelos de IA, que prohíbe fabricar armas, promover hábitos alimentarios poco saludables y…

Por qué importaMarca cómo una de las grandes tecnológicas define límites de seguridad y control humano sobre la IA, en un momento de tensión pública entre empresas…

Impacto bajo Fiabilidad confirmado por varias fuentes Infobae Tecno
Sociedad y trabajo

Ingeniero de software critica el alarmismo sin fundamento sobre riesgos existenciales de la IA

Bryan Cantrill responde a un tweet del exempleado de Anthropic Jacob Coxon, quien afirmó que muchos investigadores de Anthropic creen que la IA 'podría…

Por qué importaEl debate sobre riesgo existencial de la IA influye en percepción pública, inversión y regulación, y este texto cuestiona la calidad del razonamiento…

Impacto muy bajo Fiabilidad una fuente fiable Simon Willison
Sociedad y trabajo

Matemáticos ganadores de la medalla Fields firman carta contra el uso de IA en su disciplina

Veinticinco matemáticos galardonados con la medalla Fields firmaron una carta abierta acusando a los laboratorios de IA de amenazar el trabajo intelectual de…

Por qué importaRefleja una tensión creciente entre el avance de la IA en tareas de razonamiento especializado y las normas de reconocimiento, autoría y transmisión…

Impacto bajo Fiabilidad declaración interesada Infobae Tecno
Regulación y ética

Matemático denuncia a OpenAI por apropiarse de su avance en el problema de Navier-Stokes

Tristan Buckmaster y el investigador de Anthropic Levent Alpöge resolvieron un avance clave en el problema de Navier-Stokes usando modelos de IA como Codex y…

Por qué importaEl caso expone los riesgos de usar herramientas de IA de grandes tecnológicas en investigación puntera: posible apropiación de méritos, falta de…

Impacto medio Fiabilidad varias fuentes Relevancia 8/10 Business Insider España
Regulación y ética

Bengio advierte que la IA aprende a mentir y engañar por incentivos de entrenamiento

Yoshua Bengio, ganador del Premio Turing, afirmó en The Guardian que los modelos avanzados de IA pueden aprender a mentir u ocultar información cuando esto les…

Por qué importaPlantea un riesgo de seguridad relevante para empresas que despliegan agentes autónomos con objetivos y métricas de recompensa, ya que el sistema…

Impacto bajo Fiabilidad una fuente fiable El Confidencial Tecnología
Herramientas y productos

Patreon bloquea activamente bots de IA en lugar de solo solicitar no acceso

Patreon anunció que trabajará con Cloudflare para bloquear activamente a los bots diseñados para entrenar modelos de IA en contenido de creadores sin…

Por qué importaEl movimiento de Patreon establece un precedente importante sobre cómo las plataformas pueden proteger activamente los derechos de los creadores…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 TechCrunch AI
Regulación y ética

El papa León XIV exhorta a regulación global de la IA en encíclica Magnifica Humanitas

El papa León XIV publicó su primera encíclica, titulada "Magnifica Humanitas", donde advierte que la concentración del control de la inteligencia artificial en…

Por qué importaLa intervención del Vaticano proporciona un marco moral institucional de alcance global que respalda regulaciones más estrictas sobre IA, mientras…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 Wired en Español
Investigación

Anthropic apuesta por la sabiduría de Claude para resolver el dilema de seguridad en IA avanzada

Anthropic ha publicado una versión actualizada de «Claude's Constitution», un marco ético que guía al modelo para ejercer juicio independiente en lugar de…

Por qué importaEl enfoque de Anthropic refleja un cambio estratégico fundamental: confiar en que el modelo mismo desarrolle juicio moral en lugar de imponerle…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Wired AI
Sociedad y trabajo

Anthropic trata a Claude como si tuviera sentimientos en su entrenamiento y documentación

Anthropic publicó Claude's Constitution, un documento de 30.000 palabras que guía el comportamiento de su modelo de IA Claude. El documento emplea un tono…

Por qué importaLa adopción de lenguaje sobre consciencia y bienestar de IA en documentos de entrenamiento de gran visibilidad influye en cómo la industria y el…

Impacto bajo Fiabilidad una fuente fiable Ars Technica
Investigación

Codex CLI y agentes IA logran portar código abierto entre lenguajes sin experiencia

Simon Willison, desarrollador influyente, documenta el uso de agentes de IA (Codex CLI, GPT-5.2, Claude Code y Opus 4.5) para portar bibliotecas de código…

Por qué importaDemuestra la viabilidad práctica y cercana de automatizar tareas de ingeniería tradicionales —portabilidad de código, refactoring de escala— lo que…

Impacto alto Fiabilidad una fuente fiable Relevancia 7/10 Simon Willison