Carmela Troncoso pide límites al desarrollo de la IA y critica la autorregulación de las empresas
Hecho Qué ha ocurrido
La investigadora Carmela Troncoso, directora científica del Instituto Max Planck para la Seguridad y la Privacidad, es una de los 499 científicos que firman una carta abierta pidiendo más investigación sobre seguridad de la IA y mayor contención. En la entrevista critica la narrativa de una IA que 'se escapa' y considera que la autorregulación no ha funcionado. También cuestiona el Omnibus Digital de la UE, que retrasa las normas para sistemas de alto riesgo a diciembre de 2027.
Resumen generado mediante IA a partir de El Español Omicrono. Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
Refleja el debate creciente sobre responsabilidad y supervisión de los modelos avanzados, que puede traducirse en nuevas exigencias regulatorias para las empresas que los desarrollan o despliegan.
- Quién se ve afectado
- Empresas desarrolladoras de modelos de IA y organizaciones que los integran en sus procesos.
- Qué puede cambiar
- Si el debate sobre contención y transparencia se traduce en normas, las empresas podrían tener que documentar mejor las pruebas de seguridad de sus sistemas.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Calendario de aplicación del Omnibus Digital de la UE, respuesta de las grandes empresas de IA a la petición de transparencia y avances en un posible consenso internacional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: El Español Omicrono. La referencia es siempre el artículo original.
Ver fuente original ↗modelos de lenguajeaprendizaje por refuerzo AnthropicOpenAIInstituto Max PlanckUnión Europea AI Act autorregulación Carmela Troncoso Omnibus Digital seguridad de la IA
Relacionadas
Más de 400 investigadores piden control internacional de los laboratorios de IA tras incidentes de seguridad
Más de 400 investigadores en IA y ciberseguridad de unos 30 países publicaron una carta abierta que reclama cambios inmediatos en el desarrollo y despliegue de…
Por qué importaLa carta pone sobre la mesa la presión para que la transparencia y el control de seguridad de los modelos de frontera pasen a ser exigencias…
Más de 400 científicos de 35 países piden un organismo internacional para supervisar la IA
Más de 400 científicos de 35 países, entre ellos Geoffrey Hinton y Yoshua Bengio, firmaron una carta abierta alertando de la falta de control en el desarrollo…
Por qué importaLa carta refuerza el debate sobre quién responde por los fallos de seguridad de los agentes de IA con acceso a internet. Las empresas que despliegan…
Análisis: quién gana con la autorregulación de IA que piden OpenAI y Anthropic
El artículo analiza la propuesta de Dario Amodei (Anthropic) de ralentizar el desarrollo de IA más potente mediante evaluadores independientes, respaldada por…
Por qué importaLa regulación propuesta por los propios líderes del sector podría elevar barreras de entrada que consoliden su posición dominante, afectando a…
El debate por frenar el desarrollo de IA podría reforzar el dominio de OpenAI, Google, Anthropic y xAI
Directivos como Dario Amodei (Anthropic) y Sam Altman (OpenAI) han pedido ralentizar el desarrollo de modelos de frontera y establecer auditorías, evaluadores…
Por qué importaLas propuestas de autorregulación de los grandes laboratorios podrían configurar de facto el marco regulatorio antes de que exista legislación…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.