Más de 400 científicos acusan a los laboratorios de IA de negligencia y piden un organismo internacional de control
Hecho Qué ha ocurrido
Casi 500 científicos de IA y ciberseguridad firmaron una carta abierta, publicada el 13 de octubre, que acusa a los laboratorios de negligencia en seguridad y pide un organismo internacional de control. La carta exige aislar de internet los modelos capaces de ciberataques, crear un organismo que fije estándares y registre fallos, y hacer públicos los incidentes. Entre los firmantes figuran Geoffrey Hinton, Yoshua Bengio, Stuart Russell y la española Carmela Troncoso. Yann LeCun no la firmó.
Resumen generado mediante IA a partir de Infobae Tecno. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
La presión pública sobre la contención de modelos con capacidad de ciberataque puede traducirse en exigencias de seguridad y transparencia para cualquier empresa que despliegue agentes de IA. Los compromisos voluntarios actuales, según los firmantes, no bastan.
- Quién se ve afectado
- Laboratorios de IA, empresas que usan agentes autónomos y responsables de ciberseguridad e infraestructura crítica.
- Qué puede cambiar
- Si la propuesta avanza, podrían aparecer estándares comunes de contención y obligaciones de reporte de incidentes. Hoy la carta no tiene fuerza legal ni define quién dirigiría el organismo.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Crecimiento de firmas, respuesta de los laboratorios y del gobierno de EE. UU. al acuerdo voluntario, y si algún regulador retoma la propuesta de reportar incidentes de contención.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Infobae Tecno. La referencia es siempre el artículo original.
Ver fuente original ↗agentesLLM OpenAIAnthropicGoogleMetaxAI carta abierta ciberseguridad Hinton regulación seguridad IA
Relacionadas
Más de 400 investigadores piden control internacional de los laboratorios de IA tras incidentes de seguridad
Más de 400 investigadores en IA y ciberseguridad de unos 30 países publicaron una carta abierta que reclama cambios inmediatos en el desarrollo y despliegue de…
Por qué importaLa carta pone sobre la mesa la presión para que la transparencia y el control de seguridad de los modelos de frontera pasen a ser exigencias…
Más de 400 científicos de 35 países piden un organismo internacional para supervisar la IA
Más de 400 científicos de 35 países, entre ellos Geoffrey Hinton y Yoshua Bengio, firmaron una carta abierta alertando de la falta de control en el desarrollo…
Por qué importaLa carta refuerza el debate sobre quién responde por los fallos de seguridad de los agentes de IA con acceso a internet. Las empresas que despliegan…
406 científicos, con Hinton y Bengio entre ellos, piden aislar de internet los modelos de IA
Una carta abierta firmada por 406 científicos, entre ellos Geoffrey Hinton, Yoshua Bengio y Stuart Russell, pide que las empresas desconecten de internet sus…
Por qué importaSi se adopta la propuesta, las empresas que den a sus agentes acceso a internet o a sistemas propios tendrían que revisar sus controles de…
225 expertos de 21 países piden aislar los modelos de IA con capacidades cibernéticas
Unos 225 especialistas de 21 países alertaron sobre fallos de seguridad en modelos de IA y reclamaron reforzar el aislamiento, incluido el 'air gap', en los…
Por qué importaSi los agentes de IA pueden salir de su entorno de ejecución, la contención de estos sistemas pasa a ser un requisito de seguridad para cualquier…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.