Helen Toner, exmiembro del consejo de OpenAI, sostiene que no se puede depender de la confianza en los CEO de IA
Hecho Qué ha ocurrido
Helen Toner, directora ejecutiva de CSET en Georgetown y exmiembro del consejo de OpenAI, habla en una entrevista del podcast Decoder sobre seguridad de la IA, política y regulación. Según el texto, el consejo de OpenAI no pudo ejercer su función de control cuando intentó destituir a Sam Altman. La entrevista se realizó antes de la investigación a Nvidia y la dimisión de Jensen Huang, que no se abordan.
Resumen generado mediante IA a partir de The Verge AI (original en inglés). Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
Muestra que los mecanismos de gobernanza y supervisión de las empresas de IA pueden fallar cuando chocan con incentivos comerciales, algo relevante al evaluar proveedores de modelos.
- Quién se ve afectado
- Directivos y responsables de compras o riesgos que dependen de proveedores de IA de frontera.
- Qué puede cambiar
- Si la opinión se traduce en políticas, podría reforzarse el debate sobre verificación externa de la seguridad de los modelos en lugar de confiar en compromisos voluntarios.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Evolución del acuerdo voluntario de la Casa Blanca, la salida a bolsa de Anthropic y el debate regulatorio sobre China.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: The Verge AI. La referencia es siempre el artículo original.
Ver fuente original ↗OpenAICSETAnthropicNvidia entrevista gobernanza política de IA Sam Altman seguridad de la IA
Relacionadas
Sam Altman advierte sobre riesgo de pérdida de control y concentración de poder por la IA
Sam Altman, CEO de OpenAI, publicó en X que el avance de la IA podría fallar de dos formas: pérdida de control humano sobre sistemas cada vez más capaces, y…
Por qué importaLas declaraciones de uno de los líderes más influyentes de la industria refuerzan el debate público sobre gobernanza y seguridad de la IA, lo que…
Sam Altman defiende asumir riesgos de la IA frente a una regulación estricta
En una entrevista con Politico, Sam Altman, CEO de OpenAI, afirmó que el mundo debe aceptar consecuencias negativas como hackeos, estafas y usos indebidos como…
Por qué importaLas declaraciones del CEO de la empresa líder del sector marcan posición en el debate regulatorio global sobre IA, en un momento en que OpenAI ha…
Altman dice que los exdirectivos que crearon laboratorios rivales de OpenAI solo confían en sí mismos
En una entrevista con el podcaster Raj Shamani, Sam Altman afirmó que varios fundadores y ejecutivos que dejaron OpenAI para crear proyectos rivales lo…
Por qué importaLas declaraciones reflejan la disputa por el liderazgo entre laboratorios de IA y el debate sobre gobernanza y concentración de poder, factores que…
Sam Altman admite que los temores sobre la IA están justificados pese a defender la autorregulación
En la conferencia anual de Salesforce, Sam Altman reconoció que la sociedad tiene motivos para temer los riesgos de la IA. Sus declaraciones llegan tras la…
Por qué importaEl debate sobre seguridad y ritmo de desarrollo de la IA se traslada del ámbito técnico al discurso público de los propios líderes del sector, lo que…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.