Hinton advierte de que los humanos no entenderán a la IA y podrían tener dificultades para verificar sus afirmaciones
Hecho Qué ha ocurrido
Geoffrey Hinton afirmó durante la apertura de Starmus, en Tenerife, que los humanos podrían convivir con sistemas que comprendan asuntos fuera de su alcance y cuyas afirmaciones no podrían evaluar. Restó importancia a las alucinaciones, que según él no prueban por sí solas que las máquinas carezcan de comprensión. Steven Pinker coincidió en que se subestimaron las capacidades de los grandes modelos de lenguaje, pero subrayó que su utilidad depende de respuestas correctas y de mecanismos de comprobación.
Resumen generado mediante IA a partir de Infobae Tecno. Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
Es una advertencia de un pionero sobre la dificultad de verificar las respuestas de sistemas avanzados, algo que afecta directamente a quien usa IA para decidir. La tesis de que las alucinaciones no demuestran falta de comprensión es debatible.
- Quién se ve afectado
- Equipos que usan asistentes de IA para análisis, decisiones o generación de contenido.
- Qué puede cambiar
- Si se confirma la dificultad de verificar las respuestas, las empresas tendrían que reforzar los controles humanos y las pruebas sobre los resultados de la IA.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Qué mecanismos de verificación y trazabilidad adoptan los proveedores de grandes modelos de lenguaje y cómo responde la comunidad científica a esta tesis.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Infobae Tecno. La referencia es siempre el artículo original.
Ver fuente original ↗LLM alucinaciones Geoffrey Hinton Starmus Steven Pinker verdad
Relacionadas
Steven Pinker rechaza debate público sobre riesgo existencial de la IA y pide ingeniería de seguridad práctica
El psicólogo de Harvard Steven Pinker publicó una carta abierta en Quillette dirigida a Scott Alexander, tras rechazar un debate público sobre riesgos…
Por qué importaEl debate refleja una división relevante dentro de la comunidad de seguridad en IA entre el enfoque de riesgo existencial y el de riesgos prácticos…
Investigadores de Stanford proponen método para reducir alucinaciones en modelos de lenguaje
Shuhui Qu, investigadora en la Universidad de Stanford, ha publicado un artículo sobre Planificación Categorial Bidireccional con Auto-Consulta, un método que…
Por qué importaLas alucinaciones siguen siendo un problema crítico en los LLMs en producción a pesar de años de promesas de mitigación. Este enfoque aborda la raíz…
Geoffrey Hinton advierte que la IA generará desempleo masivo y mayores ganancias para los ricos
En entrevista con Financial Times, Geoffrey Hinton afirmó que la IA provocará desempleo masivo mientras aumenta las ganancias de los más ricos, atribuyendo…
Por qué importaLas declaraciones de una figura con alta credibilidad técnica refuerzan el debate sobre el impacto laboral de la IA, lo que puede influir en…
Hinton advierte que la IA plantea un riesgo serio y que la sociedad tiene un par de años para adaptarse
En una entrevista con The Guardian, Geoffrey Hinton afirmó que la humanidad enfrenta un desafío sin precedentes y que la sociedad dispone de apenas un par de…
Por qué importaLas advertencias de figuras fundadoras del campo alimentan el debate regulatorio y pueden influir en la percepción de riesgo de clientes, inversores…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.