Estudio revela que los modelos de IA fallan en identificar hongos seguros con precisión crítica
Hecho Qué ha ocurrido
El ingeniero Piotr Migdał de Quesma realizó un experimento comparando 16 modelos de IA (incluidos Gemini, ChatGPT y Qwen) en la identificación de 55 especies de hongos mediante 1.040 fotos. El mejor modelo, Gemini-3.8-flash, acertó en el primer intento solo el 65% de las veces, mientras que Qwen3.8-27b alcanzó apenas el 13%. Los errores más peligrosos no fueron aleatorios: modelos confundieron hongos letales con comestibles en porcentajes críticos (death cap 16%, fool's funnel 48%, fatal dapperling 31%).
Resumen generado mediante IA a partir de The Register AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
El estudio evidencia que los modelos generales de IA no son fiables para decisiones de alto riesgo como la identificación de especies venenosas. Esta limitación es relevante para cualquier empresa o usuario que considere aplicar IA a tareas donde los errores tienen consecuencias graves de salud o seguridad.
- Quién se ve afectado
- Usuarios finales interesados en foraging o micología, plataformas de IA que podrían promocionar identificación de hongos, y directivos evaluando la confiabilidad de modelos en casos de uso críticos.
- Qué puede cambiar
- Demuestra que la precisión en top-5 (85%) no es suficiente cuando se requiere un único consejo acertado. Refuerza la necesidad de umbrales de confianza más altos y rechazo explícito de predicciones en tareas de riesgo vital, en lugar de respuestas convencidas pero erróneas.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Cómo responden los proveedores de modelos a este tipo de estudios de fiabilidad en dominios críticos; si emergen benchmarks estándar para casos de uso de seguridad vital; adopción de mecanismos de "abstención" (como hizo Meta's Muse) en lugar de predicciones falsas confiadas.
Recomendación Qué debería hacer una empresa
Las empresas que consideren usar IA en contextos de riesgo vital (diagnóstico, seguridad alimentaria, identificación de plantas tóxicas) deberían auditar públicamente la precisión del modelo en datos de prueba independientes y establecer umbrales de confianza mínimos antes del despliegue. Evaluar en los próximos 3-6 meses.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: The Register AI. La referencia es siempre el artículo original.
Ver fuente original ↗visión por computadoramodelos generales de lenguaje e imagen QuesmaGoogleOpenAIMeta casos de uso críticosfiabilidad de IAidentificación de imágenesseguridad
Tu opinión
0 comentarios
Relacionadas
Matemático acusa a OpenAI de falta de transparencia sobre resolución de un Problema del Milenio
El matemático Tristan Buckmaster denunció presiones y falta de transparencia por parte de OpenAI, después de que la compañía anunciara que sus modelos habían…
Por qué importaEl caso plantea dudas sobre atribución de méritos científicos, uso de datos de investigadores y comunicación corporativa de resultados de IA en…
DeepMind lanza AlphaGenome Atlas con predicciones de 9.000 millones de variantes del genoma humano
Google DeepMind ha publicado el AlphaGenome Atlas, un conjunto de datos de un petabyte que predice el efecto molecular de cada una de las aproximadamente nueve…
Por qué importaEsta base de datos podría acelerar drásticamente el diagnóstico de enfermedades raras y la investigación genética al reducir el tiempo necesario para…
Debate sobre el papel de la IA de OpenAI en la solución del problema de Navier-Stokes
OpenAI afirmó que su IA ayudó a resolver aspectos del problema matemático de Navier-Stokes, uno de los enigmas abiertos de la matemática desde hace casi 200…
Por qué importaEl caso ilustra la disputa creciente sobre atribución y verificación de resultados científicos cuando intervienen sistemas de IA, algo relevante para…
OpenAI afirma resolver parte del problema del milenio Navier-Stokes con IA, pero surge disputa de prioridad
OpenAI anunció el 8 de septiembre que un modelo interno más capaz que GPT-6 Astra produjo una prueba formal en Lean que resuelve dos de los cuatro enunciados…
Por qué importaEs el avance más significativo hasta ahora de IA en matemáticas de investigación de frontera, con verificación formal objetiva vía Lean, pero también…