Noticias etiquetadas con «alucinaciones»
19 noticias
Un artículo explica la técnica RAG, que hace que un chatbot busque fragmentos relevantes en los documentos del usuario antes de redactar su respuesta. Según el…
Por qué importaMuchas herramientas corporativas de IA documental funcionan con este principio, así que sus límites afectan a la fiabilidad de las respuestas que los…
Geoffrey Hinton afirmó durante la apertura de Starmus, en Tenerife, que los humanos podrían convivir con sistemas que comprendan asuntos fuera de su alcance y…
Por qué importaEs una advertencia de un pionero sobre la dificultad de verificar las respuestas de sistemas avanzados, algo que afecta directamente a quien usa IA…
Un ejercicio con un informe ficticio mostró que un resumen generado con IA puede alterar cifras, inventar un crecimiento y omitir salvedades. Una comprobación…
Por qué importaLas empresas que usan asistentes para resumir informes financieros o contratos pueden tomar decisiones con cifras incorrectas si no contrastan el…
Un tribunal de Canarias multó a un abogado con 840 euros por un recurso con al menos 25 sentencias inexistentes o ajenas al caso, según el Consejo General del…
Por qué importaUn documento con referencias inventadas puede acarrear sanciones y daño reputacional para quien lo firma, sea directivo, profesional o investigador…
Según Artificial Analysis, Claude Opus 5.5 encabeza el índice AA-Omniscience con 46 puntos y una precisión del 66 % en preguntas de hechos concretos sin acceso…
Por qué importaMuestra que incluso los mejores modelos fallan en una de cada cinco preguntas difíciles sin apoyo externo, por lo que la búsqueda en la web sigue…
Una camarera de Nueva York relata que clientes consultan a ChatGPT sobre la presencia de alérgenos en platos y, cuando el chatbot da respuestas incorrectas…
Por qué importaIlustra un riesgo poco discutido de las alucinaciones de IA: cuando los usuarios confían ciegamente en chatbots generalistas para información de…
El abogado Stephen Aarons usó ChatGPT para preparar un recurso en un caso de asesinato en Nuevo México, y el sistema generó nombres de testigos inexistentes…
Por qué importaConfirma que las alucinaciones de IA generativa siguen produciendo errores graves en entornos de alta responsabilidad profesional como el jurídico…
La Corte Suprema de Nuevo México suspendió provisionalmente y multó con 5.000 dólares al abogado Stephen D. Aarons por presentar un recurso judicial elaborado…
Por qué importaEvidencia que el uso descuidado de IA generativa en tareas profesionales de alto riesgo puede tener consecuencias legales y disciplinarias directas…
El Remote Labor Index, desarrollado por Center for AI Safety y Scale Labs, mide la 'tasa de automatización' comparando entregas de IA con trabajos freelance…
Por qué importaPese a la percepción de que los modelos avanzan rápido, siguen siendo poco fiables para trabajos profesionales completos y verificables, lo que…
El Tribunal Supremo de Nuevo México multó con 5.000 dólares al abogado Stephen Aarons por presentar un recurso de apelación de un caso de asesinato con…
Por qué importaEs un nuevo caso de sanción judicial por alucinaciones de IA no verificadas en documentos legales, esta vez con consecuencias de mayor gravedad al…
Un agricultor chino de 67 años, Wu, perdió su cosecha completa de sésamo (10 hectáreas) tras aplicar una mezcla de pesticidas y herbicidas recomendada por una…
Por qué importaEl caso ilustra un riesgo crítico en la adopción de IA en decisiones de alto impacto: las alucinaciones del modelo y su respuesta con seguridad sin…
Una jueza estadounidense canceló un juicio sobre una disputa contractual después de que descubrió que los cuatro abogados implicados habían utilizado ChatGPT…
Por qué importaEste caso ilustra un riesgo crítico en el uso de IA en profesiones reguladas: los modelos generativos alucínan información con confianza, y su…
Una verificadora de datos de WIRED examina la capacidad de los modelos de IA para verificar información. Según su análisis y estudios citados, las tasas de…
Por qué importaLa verificación de hechos es función crítica en medios y empresas que generan contenido; si los modelos de IA fallan sistemáticamente en tareas de…
La CNMV publica un estudio que evalúa cuatro modelos de lenguaje (ChatGPT, Gemini, DeepSeek y Perplexity) en tareas de análisis financiero y detección de…
Por qué importaLos asesores de inversión, gestores de patrimonios y plataformas de trading automático deben conocer estas limitaciones para evitar decisiones…
OpenAI ha lanzado GPT-5.3 Instant, una versión que reduce alucinaciones un 26,8% en consultas web y 19,7% offline respecto a versiones anteriores, además de…
Por qué importaEl equilibrio entre capacidad, seguridad y principios es central para la adopción empresarial de IA. Esta actualización señala que OpenAI responde a…
Un comité del Parlamento británico (Home Affairs Committee) ha publicado su informe sobre el caso de West Midlands Police, donde Microsoft Copilot generó…
Por qué importaIlustra un riesgo crítico para empresas y organismos públicos: la IA generativa puede producir información falsa convincente que influye en…
Shuhui Qu, investigadora en la Universidad de Stanford, ha publicado un artículo sobre Planificación Categorial Bidireccional con Auto-Consulta, un método que…
Por qué importaLas alucinaciones siguen siendo un problema crítico en los LLMs en producción a pesar de años de promesas de mitigación. Este enfoque aborda la raíz…
Un paper reciente de Vishal Sikka (exCTO de SAP) y su hijo argumenta que los modelos de lenguaje tienen limitaciones matemáticas inherentes que los incapacitan…
Por qué importaLas limitaciones en fiabilidad de los agentes IA definirán su adopción corporativa real en los próximos años. Las empresas necesitan entender si…
Según Kate Middagh de Palo Alto Networks, criminales están utilizando herramientas de codificación asistida por IA ("vibe coding") para desarrollar malware y…
Por qué importaLas empresas deben entender que la democratización de herramientas de IA acelera tanto los ataques como sus vulnerabilidades intrínsecas. Solo el 50%…
