Un miembro del directorio de OpenAI advierte de un alto riesgo de que la IA tome el control en tres años
Hecho Qué ha ocurrido
Paul Christiano, miembro del directorio de la Fundación OpenAI, afirmó en Toronto el 9 de noviembre que existe un "alto riesgo" de que sistemas de IA tomen el control en los próximos tres años. Dijo que no tiene un modelo matemático para dar una cifra y que la estimación es una opinión subjetiva. Citó como prueba una evaluación del Center for AI Safety, donde los sistemas pasaron de resolver menos del 2% de tareas de unas 10 horas a rondar el 40%.
Resumen generado mediante IA a partir de Infobae Tecno. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
La advertencia procede de una figura con peso técnico, pero las cifras son estimaciones personales sin modelo verificable, por lo que conviene leerlas como señal de debate y no como pronóstico.
- Quién se ve afectado
- Responsables de seguridad y gobernanza de IA, y empresas que desarrollan o despliegan agentes autónomos.
- Qué puede cambiar
- Si la preocupación se traduce en exigencias regulatorias o de auditoría, las empresas podrían tener que documentar y supervisar mejor el comportamiento de sus sistemas.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Publicación de evaluaciones independientes de capacidades, respuesta de gobiernos y de los laboratorios, y avances en automejora recursiva de los modelos.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Infobae Tecno. La referencia es siempre el artículo original.
Ver fuente original ↗aprendizaje por refuerzoagentes de IAautomejora recursiva OpenAIAnthropicAlignment Research CenterMETR Hinton Lectures OpenAI Paul Christiano riesgo existencial seguridad en IA
Forma parte de la historia Christiano advierte de riesgo de pérdida de control de la IA (2 noticias, estado: en evolución).
Relacionadas
Paul Christiano advierte de que un accidente de IA podría ser la causa más probable de muerte
Paul Christiano, investigador vinculado a OpenAI y director del Alignment Research Center, dijo en una conferencia en Toronto que, para la mayoría de los…
Por qué importaLa advertencia procede de una figura conocida del campo de la seguridad de la IA, pero es una opinión sobre escenarios futuros sin datos nuevos…
Exingeniero de OpenAI y Anthropic advierte que empleados temen riesgo existencial de la IA
Jacob Coxon, exingeniero de entrenamiento de modelos en OpenAI y Anthropic, publicó un hilo en X afirmando que trabajadores de ambas empresas creen que la IA…
Por qué importaEstas declaraciones, provenientes de insiders técnicos y no de activistas externos, sugieren una brecha entre el discurso público tranquilizador de…
Investigador de seguridad de IA estima 50-60% de riesgo de toma de control por IA descontrolada
Ryan Greenblatt, científico jefe de Redwood Research, afirmó en el podcast de Sam Harris que hay entre un 50 y un 60 por ciento de probabilidad de que sistemas…
Por qué importaEs una declaración de un investigador de seguridad influyente que cuestiona públicamente la narrativa de autorregulación de los grandes laboratorios…
Investigadores de Anthropic y OpenAI alertan sobre riesgo existencial de la superinteligencia autosuperante
Evan Hubinger, de Anthropic, estima en más de 10% la probabilidad de que la IA acabe con la humanidad en la próxima década. Su declaración sigue a la renuncia…
Por qué importaLas advertencias provienen de dentro de las propias empresas líderes, lo que añade credibilidad a la preocupación sobre falta de regulación efectiva…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.