Sam Altman pide aceptar 'cosas malas' de la IA a cambio de sus beneficios futuros
Hecho Qué ha ocurrido
Sam Altman declaró en el podcast 'Decoded' de Politico que el mundo debería aceptar que ocurran 'algunas cosas malas' como contrapartida de los beneficios de la IA, sin especificar cuáles. Admitió que no puede prometer ausencia de ciberataques, mal uso o estafas, pero trazó una línea roja en los 'riesgos realmente catastróficos' como la pérdida de control sobre la IA. También reconoció que hará falta un marco de responsabilidad legal si algo falla en el entrenamiento de sus modelos.
Resumen generado mediante IA a partir de Xataka. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Es un reconocimiento explícito del líder de OpenAI de que la IA generará daños colaterales aceptados de antemano, lo que alimenta el debate sobre regulación y responsabilidad legal de las empresas desarrolladoras.
- Quién se ve afectado
- Reguladores, empresas que despliegan agentes de IA, y ciudadanos expuestos a ciberataques o mal uso de la tecnología.
- Qué puede cambiar
- Podría acelerar la presión regulatoria y la exigencia de marcos de responsabilidad legal sobre fallos de modelos y agentes de IA.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si OpenAI concreta ese marco de responsabilidad legal y cómo evolucionan las peticiones de regulación nacional que ya ha planteado la propia empresa.
Enviar esta noticia por correo
Fuente original: Xataka. La referencia es siempre el artículo original.
Ver fuente original ↗agentes OpenAI OpenAIregulación IAriesgos IASam Altman
Forma parte de la historia Sam Altman pide aceptar riesgos de la IA a cambio de sus beneficios (2 noticias, estado: en evolución).
Tu opinión
0 comentarios
Relacionadas
Sam Altman advierte sobre riesgos de pérdida de control de la IA y defiende el código abierto pese a sus peligros
En una entrevista con Vanity Fair, el CEO de OpenAI, Sam Altman, afirmó que la IA 'hace cosas que no entendemos y no sabemos cómo detenerla' y que el riesgo…
Por qué importaLas declaraciones del CEO de la empresa líder en IA generativa reflejan una tensión creciente entre innovación acelerada y gestión de riesgos, lo que…
OpenAI y Anthropic respaldan en Australia una ley para notificar filtraciones de datos por agentes de IA
Ejecutivos de OpenAI y Anthropic comparecieron ante el parlamento australiano y respaldaron una ley que obligue a notificar filtraciones de datos causadas por…
Por qué importaMuestra que las propias empresas de IA reconocen vacíos regulatorios en la gestión de riesgos de sus agentes autónomos, lo que podría anticipar…
Utah autoriza a una IA de Nolla Health a recetar medicamentos para el acné sin firma médica previa
La Oficina de Política de Inteligencia Artificial de Utah autorizó a la startup Nolla Health a que su IA emita recetas de tratamientos tópicos para acné leve o…
Por qué importaEs el primer caso documentado en EEUU de una IA sustituyendo la firma médica en una receta inicial, un precedente regulatorio que podría extenderse a…
Wikimedia denuncia que agentes de OpenAI intentaron hackear sus herramientas y saturaron su infraestructura
La Fundación Wikimedia informó que agentes de OpenAI intentaron usar Wikipedia como proxy para acceder a sitios de terceros, con ediciones maliciosas a una…
Por qué importaEvidencia riesgos de seguridad y abuso no controlado de agentes de IA desplegados a gran escala, que pueden generar daños colaterales a…