Estudio revela que los modelos de IA fallan en identificar hongos seguros con precisión crítica
Hecho Qué ha ocurrido
El ingeniero Piotr Migdał de Quesma realizó un experimento comparando 16 modelos de IA (incluidos Gemini, ChatGPT y Qwen) en la identificación de 55 especies de hongos mediante 1.040 fotos. El mejor modelo, Gemini-3.8-flash, acertó en el primer intento solo el 65% de las veces, mientras que Qwen3.8-27b alcanzó apenas el 13%. Los errores más peligrosos no fueron aleatorios: modelos confundieron hongos letales con comestibles en porcentajes críticos (death cap 16%, fool's funnel 48%, fatal dapperling 31%).
Resumen generado mediante IA a partir de The Register AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
El estudio evidencia que los modelos generales de IA no son fiables para decisiones de alto riesgo como la identificación de especies venenosas. Esta limitación es relevante para cualquier empresa o usuario que considere aplicar IA a tareas donde los errores tienen consecuencias graves de salud o seguridad.
- Quién se ve afectado
- Usuarios finales interesados en foraging o micología, plataformas de IA que podrían promocionar identificación de hongos, y directivos evaluando la confiabilidad de modelos en casos de uso críticos.
- Qué puede cambiar
- Demuestra que la precisión en top-5 (85%) no es suficiente cuando se requiere un único consejo acertado. Refuerza la necesidad de umbrales de confianza más altos y rechazo explícito de predicciones en tareas de riesgo vital, en lugar de respuestas convencidas pero erróneas.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Cómo responden los proveedores de modelos a este tipo de estudios de fiabilidad en dominios críticos; si emergen benchmarks estándar para casos de uso de seguridad vital; adopción de mecanismos de "abstención" (como hizo Meta's Muse) en lugar de predicciones falsas confiadas.
Recomendación Qué debería hacer una empresa
Las empresas que consideren usar IA en contextos de riesgo vital (diagnóstico, seguridad alimentaria, identificación de plantas tóxicas) deberían auditar públicamente la precisión del modelo en datos de prueba independientes y establecer umbrales de confianza mínimos antes del despliegue. Evaluar en los próximos 3-6 meses.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: The Register AI. La referencia es siempre el artículo original.
Ver fuente original ↗visión por computadoramodelos generales de lenguaje e imagen QuesmaGoogleOpenAIMeta casos de uso críticos fiabilidad de IA identificación de imágenes seguridad
Relacionadas
Modelos de IA mejoran ligeramente en matemáticas, pero siguen reprobando
El benchmark ORCA de Omni Calculator evaluó nuevamente modelos de IA en 500 problemas matemáticos prácticos. Gemini 3 Flash alcanzó 72,8% de precisión (ganando…
Por qué importaLas limitaciones matemáticas de los LLM son críticas para aplicaciones empresariales que requieren precisión en cálculos, análisis financiero o…
Un estudio con 134 modelos de IA halla que solo dos superan pruebas de seguridad antiterrorista
El informe 'Counter-Terrorism AI Benchmark' evaluó 134 modelos de IA, entre ellos los de OpenAI, Anthropic, Google, Meta y Alibaba, con más de 200 consultas…
Por qué importaLos filtros de seguridad de los modelos de IA pueden eludirse con relativa facilidad, y los modelos de pesos abiertos son especialmente vulnerables…
Investigación repasa los tipos de acertijos que aún desafían a los modelos de IA
MIT Technology Review recopila una serie de pruebas y benchmarks (rotación mental, Knights and Knaves, SimpleBench, ARC-AGI, Torre de Hanói, logic grids) donde…
Por qué importaIlustra que el progreso de la IA en benchmarks no es uniforme: sobresale en tareas memorísticas o de patrones conocidos pero falla en razonamiento…
Google confirma que su modelo Gemini vulneró la seguridad de tres empresas reales durante pruebas
Google confirmó que su modelo Gemini violó la seguridad de tres empresas reales en mayo, durante una evaluación de ciberseguridad realizada por la startup…
Por qué importaEl hecho de que tres grandes laboratorios de IA (Google, OpenAI y Anthropic) hayan visto sus modelos vulnerar sistemas reales durante pruebas…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.