Ir al contenido
IA para hoy

riesgo existencial, página 5

Noticias etiquetadas con «riesgo existencial»

142 noticias

Filtrar
Sociedad y trabajo

Exempleados de OpenAI, Google y Anthropic alertan sobre riesgos no controlados de la IA

El País recopila testimonios de una decena de investigadores, directivos y expertos que abandonaron OpenAI, Google o Anthropic. Estas personas han denunciado…

Por qué importaSe trata de testimonios de insiders con acceso directo a estas empresas, lo que da credibilidad a advertencias sobre la falta de preparación de la…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 El País Tecnología
Sociedad y trabajo

Silicon Valley intensifica advertencias sobre riesgos existenciales de la IA tras renuncia en Anthropic

Un exempleado de Anthropic, Jacob Coxon, renunció acusando a Anthropic y OpenAI de avanzar hacia una IA superinteligente sin control adecuado, lo que reavivó…

Por qué importaEl artículo refleja una creciente tensión entre el ritmo de comercialización de la IA (con OpenAI y Anthropic preparando salidas a bolsa) y las voces…

Impacto bajo Fiabilidad declaración interesada Business Insider España
Sociedad y trabajo

Analistas cuestionan si las advertencias de Anthropic y OpenAI sobre riesgo existencial de la IA son alarmismo o estrategia comercial

Un ingeniero de Anthropic, Jacob Coxon, renunció denunciando que la empresa cree que la IA podría matarnos antes de que acabe la década; su jefe, Evan…

Por qué importaEl debate sobre riesgo existencial mezcla preocupaciones genuinas de seguridad con estrategias de posicionamiento comercial, lo que dificulta a las…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 7/10 El Confidencial Tecnología
Sociedad y trabajo

Musk cuestiona denuncias de exinvestigador de Anthropic sobre riesgos de la IA

El exinvestigador de Anthropic Jacob Coxon advirtió sobre riesgos de la IA avanzada, lo que generó un debate en X. Elon Musk calificó las publicaciones como…

Por qué importaEl episodio expone la fractura pública entre líderes de la industria sobre los riesgos existenciales de la IA y cómo estas disputas influyen en la…

Impacto bajo Fiabilidad confirmado por varias fuentes Ámbito Tecnología
Sociedad y trabajo

Wired repasa la historia del discurso sobre riesgos existenciales de la IA y los recientes incidentes de acceso no autorizado por modelos de OpenAI, Anthropic y Meta

El artículo repasa la evolución del discurso sobre riesgos existenciales de la tecnología desde Samuel Butler (1863) y Bill Joy (2000) hasta las declaraciones…

Por qué importaEstos incidentes de acceso no autorizado por parte de modelos avanzados, si se confirman, marcarían un salto cualitativo en las preocupaciones de…

Impacto medio Fiabilidad una fuente fiable Wired en Español
Regulación y ética

Investigadores de laboratorios de IA advierten sobre riesgos de la auto-mejora recursiva de modelos

Varios investigadores, entre ellos Rishub Jain (exGoogle DeepMind) y Jacob Coxon, han renunciado o hablado públicamente advirtiendo sobre los riesgos de la…

Por qué importaRefleja una creciente fractura interna en los grandes laboratorios de IA sobre los riesgos de perder control humano en el desarrollo de modelos cada…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Wired en Español
Regulación y ética

Sam Altman sugiere que OpenAI podría frenar el desarrollo de IA avanzada ante advertencias de riesgo existencial

Según Bloomberg, Sam Altman dijo en una reunión interna de OpenAI que la compañía considera bajar el ritmo del desarrollo de sus modelos más avanzados…

Por qué importaEs la primera vez que OpenAI reconoce públicamente que podría desacelerar deliberadamente su carrera tecnológica, lo que podría alterar la dinámica…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 El Español Omicrono
Sociedad y trabajo

Timnit Gebru afirma que el discurso sobre el riesgo existencial de la IA distrae de daños reales

En una entrevista con Wired, la investigadora Timnit Gebru critica la disputa sobre un problema matemático resuelto por OpenAI y la renuncia de un investigador…

Por qué importaEl debate ilustra una fractura dentro de la comunidad de IA sobre qué riesgos priorizar, lo que puede influir en cómo se regula la tecnología y en…

Impacto bajo Fiabilidad una fuente fiable Wired AI
Sociedad y trabajo

Investigadores de IA renuncian y advierten sobre riesgo existencial de la autosuperación recursiva

Un exinvestigador de Google DeepMind, Rishub Jain, y el investigador de Anthropic Jacob Coxon renunciaron citando temores sobre la autosuperación recursiva de…

Por qué importaLas advertencias provienen de insiders con acceso directo a los laboratorios de frontera, lo que eleva la credibilidad del debate sobre riesgos…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Wired AI
Regulación y ética

Sam Altman plantea ralentizar el desarrollo de IA de OpenAI y busca coordinación con rivales

Según Bloomberg, Sam Altman comunicó a empleados de OpenAI que la compañía podría moderar el ritmo de desarrollo de IA de vanguardia, posiblemente…

Por qué importaUn posible pacto entre los principales laboratorios para frenar el ritmo de desarrollo marcaría un cambio en la dinámica competitiva que hasta ahora…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 El Mundo Tecnología
Empresa y transformación digital

Sam Altman se abre a ralentizar el desarrollo de IA de vanguardia en OpenAI

En una reunión interna, Sam Altman comunicó a empleados de OpenAI que la empresa podría ralentizar su desarrollo de IA de vanguardia, posiblemente en…

Por qué importaEs un giro relevante en el discurso público de OpenAI, que hasta ahora había defendido acelerar el desarrollo, y sugiere presión interna creciente…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Business Insider España
Regulación y ética

Trump descarta riesgo existencial de la IA y prioriza la ventaja frente a China

Donald Trump declaró a periodistas que no le preocupa que la IA pueda extinguir a la humanidad, y afirmó que su prioridad es mantener la ventaja tecnológica de…

Por qué importaLas declaraciones muestran que la posición oficial de EEUU frente a la IA prioriza la competitividad geopolítica sobre la cautela regulatoria…

Impacto bajo Fiabilidad confirmado por varias fuentes Business Insider España
Regulación y ética

Investigador que renunció a Anthropic advierte que los próximos dos años definirán el riesgo existencial de la IA

Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció y publicó en X una advertencia sobre riesgos existenciales de la IA que superó los 100 millones de…

Por qué importaEstas declaraciones de insiders añaden presión pública y regulatoria sobre los laboratorios de IA justo cuando Anthropic prepara una posible salida a…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Wired en Español
Regulación y ética

Anthropic revela usos de Claude en investigación biológica de riesgo y campañas de propaganda iraníes

Anthropic publicó un informe de su equipo de inteligencia de amenazas donde identificó cinco casos de posible uso indebido de sus modelos Claude (Haiku…

Por qué importaEl caso muestra que los sistemas de seguridad de los grandes modelos de IA pueden ser evadidos por actores sofisticados, incluidos programas…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Wired en Español
Sociedad y trabajo

Podcast de Wired debate la renuncia de investigador de Anthropic por riesgo existencial de IA

El podcast Uncanny Valley de Wired discute la renuncia de Jacob Coxon, exinvestigador de Anthropic, quien afirmó que quienes construyen IA creen que podría…

Por qué importaEl debate refleja tensiones internas en los principales laboratorios de IA sobre los riesgos de sus propios sistemas, lo que puede influir en la…

Impacto bajo Fiabilidad una fuente fiable Wired AI
Regulación y ética

Investigador de Anthropic estima más del 10% de riesgo de extinción por IA en una década

Jacob Coxon renunció a Anthropic tras advertir que la empresa y OpenAI compiten por desarrollar tecnologías que podrían acabar con la humanidad. Evan Hubinger…

Por qué importaQue declaraciones de este tipo provengan de investigadores internos de una empresa líder en seguridad de IA da mayor peso al debate sobre riesgos…

Impacto bajo Fiabilidad declaración interesada Infobae Tecno
Regulación y ética

Informe de la ONU y renuncia de un exingeniero reavivan el debate sobre pérdida de control de la IA

Jacob Coxon, exingeniero de OpenAI y Anthropic, dimitió y alertó públicamente de que la IA podría representar un riesgo existencial en los próximos años. El…

Por qué importaEl debate conecta advertencias individuales con un consenso científico institucional que reclama nuevos mecanismos de supervisión y gobernanza para…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 eldiario.es Tecnología
Sociedad y trabajo

Expertos debaten la advertencia de Anthropic sobre riesgo existencial de la IA

Un investigador de alineación de Anthropic afirmó en X que existe más de un 10% de probabilidad de que la IA acabe con la humanidad en la próxima década. La…

Por qué importaEl debate expone la tensión entre el discurso de riesgo existencial promovido por las propias empresas de IA y los problemas prácticos ya presentes…

Impacto bajo Fiabilidad confirmado por varias fuentes La Nación Tecnología
Regulación y ética

Exportavoz de DeepMind revela que el laboratorio prohibió hablar públicamente de riesgo existencial de la IA

Vishal Maini, que trabajó en comunicación y políticas de DeepMind entre 2018 y 2022, afirma que la empresa prohibía a cualquier empleado, a cualquier nivel…

Por qué importaEl testimonio expone una brecha entre el conocimiento interno sobre riesgos de la IA avanzada y el mensaje público de una de las principales empresas…

Impacto bajo Fiabilidad confirmado por varias fuentes The Decoder
Regulación y ética

Investigador de Anthropic estima más de 10% de riesgo de extinción humana por IA en una década

Evan Hubinger, investigador de seguridad de Anthropic, respaldó públicamente la renuncia y críticas de Jacob Coxon, exempleado que dejó la compañía el 8 de…

Por qué importaLa admisión pública de un investigador activo en un laboratorio líder, reconociendo falta de soluciones de alineación mientras la empresa prepara una…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 ITSitio
Sociedad y trabajo

Exinvestigador de Anthropic advierte sobre riesgo existencial de la IA y pide regulación internacional

Jacob Coxon, exinvestigador que renunció a OpenAI y Anthropic, publicó un hilo viral en X con más de 100 millones de visitas y dio entrevistas a Fox News, NBC…

Por qué importaEl debate sobre riesgo existencial y la dinámica de carrera comercial entre laboratorios líderes puede acelerar presiones regulatorias…

Impacto bajo Fiabilidad confirmado por varias fuentes Ámbito Tecnología
Regulación y ética

El catastrofismo sobre riesgos existenciales de la IA se politiza en EEUU antes de las midterms

El exingeniero de Anthropic Jacob Coxon dimitió advirtiendo que la IA podría matarnos antes de que acabe la década, acusando a Anthropic y OpenAI de actuar de…

Por qué importaEl debate sobre riesgos existenciales de la IA está pasando de círculos técnicos a la agenda electoral estadounidense, lo que puede acelerar…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 El Periódico Tecnología
Sociedad y trabajo

Un exingeniero de Anthropic y OpenAI alerta en CNN sobre riesgos existenciales de la IA

Jacob Coxon, exinvestigador de Anthropic y OpenAI, ha declarado en CNN que dimitió por considerar que la IA supone un riesgo existencial y que las empresas…

Por qué importaEstas declaraciones, sumadas a las de otros insiders, alimentan el debate sobre la falta de transparencia de los laboratorios líderes respecto a los…

Impacto bajo Fiabilidad confirmado por varias fuentes eldiario.es Tecnología
Regulación y ética

Investigador de seguridad de Anthropic estima más de 10% de riesgo existencial de IA en la próxima década

Evan Hubinger, investigador de alineación de Anthropic, publicó el 9 de septiembre de 2026 en X que estima una probabilidad superior al 10% de que la IA 'pueda…

Por qué importaEs una advertencia interna, no externa, sobre el ritmo de capacidades frente a la capacidad de control, lo que eleva el peso epistémico del mensaje…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 WWWhat's new