Agentes de IA fallan al conducir un coche real: 8 de 11 intentos acaban en colisión
Hecho Qué ha ocurrido
El experimento DrivingBench, diseñado por los investigadores Aditya Ramabadran, Simon Mahns y Tobias Gessler, probó agentes de IA de propósito general conduciendo un Toyota Corolla con hardware de visión de Comma/OpenPilot. De 11 intentos con 4 agentes, 8 terminaron en colisión dentro del primer 11% del recorrido, en la primera curva. Solo GPT-6 Astra completó el recorrido, en su segundo intento, con un coste de 7,74 dólares.
Resumen generado mediante IA a partir de WWWhat's new. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Muestra que el buen rendimiento de los agentes en tareas simbólicas, como texto u hojas de cálculo, no se traslada automáticamente al mundo físico. Para empresas que planean robots o vehículos con IA, el anclaje físico sigue siendo una limitación clara.
- Quién se ve afectado
- Empresas de robótica, automoción y logística que evalúen agentes de IA en entornos físicos.
- Qué puede cambiar
- Refuerza la necesidad de validar agentes en entornos físicos con pruebas controladas antes de confiar en ellos fuera del dominio digital. Los resultados proceden de un único experimento con pocos intentos.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si otros laboratorios publican resultados similares con protocolos revisados, si los modelos mejoran en tareas de anclaje físico y cómo evoluciona el coste por intento.
Enviar esta noticia por correo
Fuente original: WWWhat's new. La referencia es siempre el artículo original.
Ver fuente original ↗agentesmodelos de lenguajevisión por computadorarobótica OpenAIAnthropicxAIToyota agentes de IAconducción autónomaDrivingBenchGPT-6 AstraToyota Corolla
Tu opinión
0 comentarios
Relacionadas
Una fórmula matemática busca anticipar cuándo una IA dará respuestas peligrosas
Investigadores de la Universidad George Washington publicaron en la revista Patterns una fórmula que estima cuántas respuestas adecuadas puede generar un…
Por qué importaOfrece una primera vía para detectar señales de riesgo antes de que una respuesta dañina llegue al usuario, algo relevante para empresas que…
Un estudio del MIT halla en seis modelos de lenguaje una organización modular parecida a la del cerebro humano
Un equipo del MIT, con Pengrui Han, Jacob Andreas, Evelina Fedorenko y Andrea Gregor de Varda, publicó en arXiv (2608.13567) un estudio que identifica en seis…
Por qué importaSi la modularidad aparece de forma emergente durante el entrenamiento, puede ayudar a entender y diagnosticar mejor los fallos de los modelos. Para…
Una bióloga india usa IA y sensores acústicos para alejar elefantes de las aldeas
Seema Lokhandwala, científica del Instituto Indio de Tecnología de Guwahati, desarrolla en Assam un dispositivo con batería que usa sensores acústicos e IA…
Por qué importaMuestra una aplicación de IA en conservación y gestión de conflictos con fauna, con costes de hardware publicados (desde unos 170 dólares en la…
Estudios usan la IA para detectar la esquizofrenia en el habla, con hasta 87% de precisión
Un artículo de Wired repasa investigaciones que aplican IA al habla para ayudar en el diagnóstico de la esquizofrenia. Un equipo de los Países Bajos reportó…
Por qué importaSi estos resultados se confirman, la IA podría reducir la variabilidad y los retrasos del diagnóstico psiquiátrico. Para el sector sanitario y las…