Ir al contenido
IA para hoy
Sociedad y trabajo Opinión 2/5 · Declaración interesada

Helen Toner advierte que OpenAI y Anthropic usan IA para acelerar el desarrollo de sus propios modelos

Fotografía de archivo que ilustra: Helen Toner advierte que OpenAI y Anthropic usan IA para acelerar el desarrollo de sus propios modelos
Foto: Alena Darmel · Licencia Pexels · Pexels

Hecho Qué ha ocurrido

Helen Toner, exmiembro del directorio de OpenAI, afirmó en el podcast Decoder de The Verge que OpenAI y Anthropic usan IA en cada vez más etapas de su desarrollo y que dicen que eso acelera su trabajo. Según el texto, mucha gente fuera de las compañías lo duda, aunque muchos dentro lo creen. Toner también dijo que no se está resolviendo la alineación de la IA.

Resumen generado mediante IA a partir de Infobae Tecno. Naturaleza de la información: análisis u opinión.

Análisis Por qué importa

Si la automejora asistida por IA avanza, el ritmo de lanzamiento de nuevos modelos podría acelerarse y reducir el margen de tiempo para adaptar controles y estrategias. Las afirmaciones provienen de las propias compañías y no están verificadas de forma independiente.

Quién se ve afectado
Directivos y equipos que dependen de modelos de frontera de OpenAI y Anthropic, y responsables de gobernanza de IA.
Qué puede cambiar
En la práctica, la fuente de la mejora de los modelos podría pasar cada vez más por sistemas de IA en la propia investigación, lo que exigiría revisar la gobernanza de proveedores.

Análisis generado a partir de la información disponible; no procede de la fuente.

Predicción Qué observar a continuación

Conviene vigilar publicaciones técnicas de OpenAI y Anthropic sobre el uso de IA en su I+D y la respuesta de reguladores y comunidad investigadora ante estas afirmaciones.

Compartir WhatsApp LinkedIn X Bluesky Telegram
Enviar esta noticia por correo

Se envía esta noticia con su análisis. La dirección se usa solo para ese envío y no se guarda.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: hacer el envío que pides. Base: nuestro interés legítimo. Lo envía Resend; la comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.

Fuente original: Infobae Tecno. La referencia es siempre el artículo original.

Ver fuente original ↗

automejora recursivaalineación OpenAIAnthropicGoogle DeepMind Anthropic Decoder Helen Toner OpenAI seguridad de la IA

Relacionadas

Modelos y avances

Un estudio de METR estima que Anthropic mejora sus modelos casi el doble de rápido por el uso de IA en su propio desarrollo

La organización METR publicó un análisis, con acceso a datos internos de Anthropic, que estima que la compañía mejora las capacidades de sus modelos en tareas…

Por qué importaSugiere que la automejora de los modelos puede acelerar el ritmo de progreso más de lo que se preveía, lo que afecta a cómo las empresas planifican…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Xataka

Anthropic advierte en su S-1 de que está cerca de la automejora recursiva de sus modelos de IA

En una versión revisada de su S-1A, Anthropic indica que ya ha usado IA para desarrollar modelos cuyos saltos de capacidad no reconoció en su momento, y que…

Por qué importaSi una empresa líder considera posible que la IA participe de forma sustancial en el diseño de sus sucesores, cambia el ritmo esperado de avance y la…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 TechCrunch AI
Regulación y ética

OpenAI y Anthropic debaten los riesgos de la automejora recursiva de la IA

Dario Amodei (Anthropic) pidió reducir el ritmo de desarrollo de sistemas avanzados tras renuncias internas por temor a una 'superinteligencia autosuperable'…

Por qué importaEl debate señala un punto de inflexión en cómo se desarrollan los modelos de IA, con implicaciones directas en seguridad, gobernanza y ritmo de…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 20minutos Tecnología
Regulación y ética

Musk y Altman respaldan la propuesta de Amodei de ralentizar el desarrollo de la IA

Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo ralentizar el desarrollo de modelos de IA por riesgos de auto-mejora recursiva y por un incidente de…

Por qué importaQue los líderes de las principales empresas de IA coincidan públicamente en la necesidad de frenar el ritmo señala una posible inflexión en la…

Impacto medio Fiabilidad confirmado por varias fuentes Infobae Tecno

Tu opinión

0 comentarios

Escribe un comentario

Sin registro. La primera vez te pediremos confirmar el correo y el comentario pasará por moderación; después se publican al momento si cumplen las normas y firmas con el mismo nombre.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: publicar y moderar tu comentario y evitar abusos. Base: tu consentimiento y, contra los abusos, nuestro interés legítimo. Se publica tu nombre, no tu correo. El texto pasa por un filtro con IA de Anthropic, en Estados Unidos, sin tu nombre ni tu correo, y se guarda un resumen de tu IP 90 días. La comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.