Altman y Brockman rechazan ceder el control a la IA y reclaman más precaución

Hecho Qué ha ocurrido
Sam Altman y Greg Brockman, de OpenAI, rechazaron durante el foro DealBook Summit un traspaso progresivo de la toma de decisiones a sistemas automatizados. Brockman explicó que las técnicas tradicionales de supervisión no bastan cuando los modelos ganan capacidad ejecutiva. Según Brockman, OpenAI reasignó al 25 % de sus ingenieros de producción a protección de sistemas tras registrar vulnerabilidades en plataformas de código.
Resumen generado mediante IA a partir de ABC Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Las declaraciones de la empresa líder del sector sobre supervisión y ciberseguridad anticipan qué exigencias de control y auditoría pueden llegar a los proveedores de IA que usan las empresas. Los compromisos de seguridad también pueden afectar a plazos y costes de adopción.
- Quién se ve afectado
- Empresas que integran modelos de OpenAI en sus procesos y equipos de seguridad y cumplimiento.
- Qué puede cambiar
- Si se traducen en herramientas de auditoría concretas, la supervisión de agentes de IA podría convertirse en un requisito más exigente para los proveedores y sus clientes.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Qué mecanismos técnicos de auditoría publica OpenAI, si Anthropic u otros competidores adoptan medidas comparables y si los reguladores fijan requisitos de supervisión.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: ABC Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗agentesLLM OpenAIAnthropic ciberseguridad Greg Brockman OpenAI Sam Altman supervisión de IA
Relacionadas
Altman rechaza una transferencia gradual del control a la IA y defiende que las personas decidan el futuro
Sam Altman y Greg Brockman, cofundadores de OpenAI, intervinieron en el NYT Dealbook Summit para rechazar la idea de una cesión gradual de la toma de…
Por qué importaEl debate sobre quién mantiene el control de sistemas cada vez más capaces afecta a la gobernanza y a la seguridad que las empresas deberán exigir a…
Sam Altman pide auditorías y marco de seguridad para frenar riesgos de la IA sin detener su desarrollo
Sam Altman, CEO de OpenAI, publicó mensajes en X defendiendo un marco federal de seguridad, auditorías independientes y una ralentización controlada del…
Por qué importaLas declaraciones de un actor clave de la industria pueden influir en el debate regulatorio y en cómo otras empresas de IA gestionan sus propios…
Sam Altman advierte sobre dos formas en que el progreso de la IA podría salir mal
Sam Altman, CEO de OpenAI, declaró que existen dos formas en que el progreso de la IA podría ir muy mal: que los humanos pierdan el control de sistemas…
Por qué importaLas declaraciones del CEO de la empresa líder en IA generativa marcan el tono del debate regulatorio y de seguridad que puede influir en cómo se…
Sam Altman advierte sobre dos riesgos de la IA: pérdida de control o concentración de poder
Sam Altman publicó en X dos mensajes donde identifica dos formas en que el progreso de la IA podría salir mal: perder el control del futuro a manos de la IA, o…
Por qué importaMarca un cambio de postura pública de OpenAI hacia mayor autorregulación explícita en seguridad, en un momento de debate intenso sobre gobernanza de…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.


