Ir al contenido
IA para hoy
Regulación y ética Opinión 2/5 · Declaración interesada

Altman y Brockman rechazan ceder el control a la IA y reclaman más precaución

Fotografía de archivo que ilustra: Altman y Brockman rechazan ceder el control a la IA y reclaman más precaución
Foto: Pexels · Licencia Pixabay · Pixabay

Hecho Qué ha ocurrido

Sam Altman y Greg Brockman, de OpenAI, rechazaron durante el foro DealBook Summit un traspaso progresivo de la toma de decisiones a sistemas automatizados. Brockman explicó que las técnicas tradicionales de supervisión no bastan cuando los modelos ganan capacidad ejecutiva. Según Brockman, OpenAI reasignó al 25 % de sus ingenieros de producción a protección de sistemas tras registrar vulnerabilidades en plataformas de código.

Resumen generado mediante IA a partir de ABC Tecnología. Naturaleza de la información: declaración de parte interesada.

Análisis Por qué importa

Las declaraciones de la empresa líder del sector sobre supervisión y ciberseguridad anticipan qué exigencias de control y auditoría pueden llegar a los proveedores de IA que usan las empresas. Los compromisos de seguridad también pueden afectar a plazos y costes de adopción.

Quién se ve afectado
Empresas que integran modelos de OpenAI en sus procesos y equipos de seguridad y cumplimiento.
Qué puede cambiar
Si se traducen en herramientas de auditoría concretas, la supervisión de agentes de IA podría convertirse en un requisito más exigente para los proveedores y sus clientes.

Análisis generado a partir de la información disponible; no procede de la fuente.

Predicción Qué observar a continuación

Qué mecanismos técnicos de auditoría publica OpenAI, si Anthropic u otros competidores adoptan medidas comparables y si los reguladores fijan requisitos de supervisión.

Compartir WhatsApp LinkedIn X Bluesky Telegram
Enviar esta noticia por correo

Se envía esta noticia con su análisis. La dirección se usa solo para ese envío y no se guarda.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: hacer el envío que pides. Base: nuestro interés legítimo. Lo envía Resend; la comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.

Fuente original: ABC Tecnología. La referencia es siempre el artículo original.

Ver fuente original ↗

agentesLLM OpenAIAnthropic ciberseguridad Greg Brockman OpenAI Sam Altman supervisión de IA

Relacionadas

Altman rechaza una transferencia gradual del control a la IA y defiende que las personas decidan el futuro

Sam Altman y Greg Brockman, cofundadores de OpenAI, intervinieron en el NYT Dealbook Summit para rechazar la idea de una cesión gradual de la toma de…

Por qué importaEl debate sobre quién mantiene el control de sistemas cada vez más capaces afecta a la gobernanza y a la seguridad que las empresas deberán exigir a…

Impacto bajo Fiabilidad una fuente fiable TechCrunch AI
Regulación y ética

Sam Altman pide auditorías y marco de seguridad para frenar riesgos de la IA sin detener su desarrollo

Sam Altman, CEO de OpenAI, publicó mensajes en X defendiendo un marco federal de seguridad, auditorías independientes y una ralentización controlada del…

Por qué importaLas declaraciones de un actor clave de la industria pueden influir en el debate regulatorio y en cómo otras empresas de IA gestionan sus propios…

Impacto bajo Fiabilidad confirmado por varias fuentes 20minutos Tecnología
Regulación y ética

Sam Altman advierte sobre dos formas en que el progreso de la IA podría salir mal

Sam Altman, CEO de OpenAI, declaró que existen dos formas en que el progreso de la IA podría ir muy mal: que los humanos pierdan el control de sistemas…

Por qué importaLas declaraciones del CEO de la empresa líder en IA generativa marcan el tono del debate regulatorio y de seguridad que puede influir en cómo se…

Impacto bajo Fiabilidad confirmado por varias fuentes El Confidencial Tecnología
Regulación y ética

Sam Altman advierte sobre dos riesgos de la IA: pérdida de control o concentración de poder

Sam Altman publicó en X dos mensajes donde identifica dos formas en que el progreso de la IA podría salir mal: perder el control del futuro a manos de la IA, o…

Por qué importaMarca un cambio de postura pública de OpenAI hacia mayor autorregulación explícita en seguridad, en un momento de debate intenso sobre gobernanza de…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 7/10 Infobae Tecno

Tu opinión

0 comentarios

Escribe un comentario

Sin registro. La primera vez te pediremos confirmar el correo y el comentario pasará por moderación; después se publican al momento si cumplen las normas y firmas con el mismo nombre.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: publicar y moderar tu comentario y evitar abusos. Base: tu consentimiento y, contra los abusos, nuestro interés legítimo. Se publica tu nombre, no tu correo. El texto pasa por un filtro con IA de Anthropic, en Estados Unidos, sin tu nombre ni tu correo, y se guarda un resumen de tu IP 90 días. La comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.