OpenAI evalúa ralentizar el desarrollo de IA ante preocupaciones de seguridad, según Bloomberg
Hecho Qué ha ocurrido
Según Bloomberg, Sam Altman ha comunicado a empleados de OpenAI que la compañía podría moderar el ritmo de desarrollo de IA, tras haber desacelerado ya algunos trabajos y suspendido ciertos entrenamientos por motivos de seguridad. El científico jefe de OpenAI, Jakub Pachocki, publicó un artículo defendiendo que las empresas del sector deben coordinarse para ralentizar el avance cuando sea necesario.
Resumen generado mediante IA a partir de 20minutos Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Si el líder del sector modera su ritmo por razones de seguridad, podría marcar un precedente que influya en la percepción regulatoria y en la estrategia de otros laboratorios de IA.
- Quién se ve afectado
- Laboratorios de IA, reguladores, empresas que dependen de modelos de OpenAI para sus productos y servicios.
- Qué puede cambiar
- Podría ralentizarse la cadencia de lanzamientos de modelos más capaces y aumentar la transparencia sobre pruebas de seguridad antes de su despliegue.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si OpenAI concreta medidas específicas de ralentización, si otras empresas del sector (Google, Anthropic, Meta) adoptan posturas similares, y si surgen cambios regulatorios derivados de este debate.
Enviar esta noticia por correo
Fuente original: 20minutos Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗LLMagentes OpenAI OpenAIriesgos existencialesSam Altmanseguridad IA
Forma parte de la historia OpenAI plantea frenar el desarrollo de IA por seguridad y busca coordinarse con rivales (2 noticias, estado: alto impacto).
Tu opinión
0 comentarios
Relacionadas
OpenAI consulta al Congreso de EE.UU. sobre la legalidad de coordinar una ralentización de la IA con otros laboratorios
OpenAI ha preguntado a miembros del Congreso de EE.UU. si sería legal coordinar con otros laboratorios de IA una ralentización del desarrollo, según WIRED. La…
Por qué importaMuestra que los propios líderes del sector reconocen riesgos de seguridad graves y buscan cobertura legal para actuar colectivamente, lo que podría…
Anthropic detecta uso de Claude por un grupo vinculado a hutíes para desarrollar misiles
Anthropic informó que un grupo con sede en el norte de Yemen usó Claude para apoyar el desarrollo de cohetes guiados, un misil balístico de largo alcance y…
Por qué importaConfirma que los modelos de lenguaje avanzados pueden ser mal utilizados para fines de armamento militar, incluso sin lograr un resultado exitoso, lo…
Anthropic detecta intentos de usar Claude para crear armas biológicas y destilación ilícita vinculados a China
Anthropic ha revelado que desarticuló varias operaciones maliciosas que intentaban usar su modelo Claude para actividades como destilación ilícita y desarrollo…
Por qué importaEvidencia riesgos de doble uso de modelos de IA avanzados en manos de actores malintencionados, y plantea la necesidad de controles de seguridad más…
España exigirá a los centros de datos que cubran el 80% de su consumo con renovables propias
El Gobierno de España prepara un Real Decreto que obliga a los centros de datos de más de 1 MW a cubrir el 80% de su consumo con autoconsumo renovable o PPA…
Por qué importaLa medida busca evitar que el auge de centros de datos vinculado a la IA encarezca la factura eléctrica de hogares y empresas, como ha ocurrido en…