Ir al contenido
IA para hoy

riesgo existencial, página 4

Noticias etiquetadas con «riesgo existencial»

142 noticias

Filtrar
Sociedad y trabajo

Trump llama a Jensen Huang en pleno directo y descarta riesgos existenciales de la IA

Durante una entrevista en la All-In Summit de Los Ángeles, el presidente Donald Trump interrumpió por teléfono al CEO de Nvidia, Jensen Huang, para calificar…

Por qué importaLa postura pública de los máximos responsables de Nvidia y la Casa Blanca influye en el tono regulatorio y en la percepción de riesgo que manejan…

Impacto bajo Fiabilidad declaración interesada Business Insider España
Sociedad y trabajo

El debate sobre riesgos existenciales de la IA se entrelaza con la rivalidad geopolítica EEUU-China

Investigadores y ejecutivos de IA, incluido Dario Amodei de Anthropic, pidieron frenar el desarrollo de la IA por riesgos existenciales, mientras Trump rechazó…

Por qué importaLa politización del riesgo existencial de la IA como arma geopolítica puede influir en la regulación, el acceso a chips y la cooperación…

Impacto alto Fiabilidad una fuente fiable Relevancia 8/10 Wired en Español
Sociedad y trabajo

Timnit Gebru cuestiona el discurso del riesgo existencial de la IA y señala daños reales como distracción

En una entrevista con WIRED, la investigadora Timnit Gebru critica el debate sobre riesgo existencial de la IA surgido tras la renuncia de un empleado de…

Por qué importaEl debate sobre si el riesgo existencial de la IA es genuino o una estrategia de posicionamiento y control regulatorio afecta directamente a cómo…

Impacto bajo Fiabilidad una fuente fiable Relevancia 7/10 Wired en Español
Sociedad y trabajo

Un investigador de modelos frontera cuestiona el riesgo de que la IA cree un virus capaz de extinguir a la humanidad

El artículo de Xataka analiza el debate sobre el riesgo existencial de la IA, partiendo de la estimación del 10% de Evan Hubinger (Anthropic) de que la IA…

Por qué importaEl debate sobre riesgo existencial de la IA influye en decisiones regulatorias y en la percepción pública que puede acelerar o frenar la adopción…

Impacto bajo Fiabilidad una fuente fiable Xataka
Regulación y ética

El alto comisionado de la ONU advierte que la IA pone en riesgo todos los derechos humanos

Volker Türk, alto comisionado de derechos humanos de la ONU, declaró que el desarrollo acelerado de la IA pone en riesgo derechos como la vida, la…

Por qué importaRefuerza la presión regulatoria internacional sobre las empresas de IA en un momento de fricción entre gobiernos que priorizan la carrera tecnológica…

Impacto bajo Fiabilidad confirmado por varias fuentes El Español Omicrono
Regulación y ética

La ONU alerta de riesgo existencial de la IA para todos los derechos humanos

El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió que la carrera por IA cada vez más potente supone un salto hacia mayores riesgos…

Por qué importaEs una señal de que el debate sobre riesgo existencial de la IA ha llegado a instancias internacionales de derechos humanos, lo que puede presionar…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 7/10 eldiario.es Tecnología
Regulación y ética

Exingeniero de Anthropic y OpenAI advierte sobre miedo interno a riesgo existencial de la IA

Jacob Coxon, exinvestigador de OpenAI y Anthropic, declaró a la BBC que existe 'miedo genuino' entre empleados del sector sobre los riesgos del avance…

Por qué importaLas advertencias de insiders del sector refuerzan la presión pública y regulatoria sobre las principales empresas de IA para adoptar supervisión…

Impacto bajo Fiabilidad confirmado por varias fuentes Infobae Tecno
Regulación y ética

Renuncias en Anthropic y OpenAI reavivan el debate sobre riesgo existencial de la IA

El exingeniero Jacob Coxon dejó Anthropic advirtiendo que la IA podría acabar con la humanidad antes de 2030, y otro empleado, Evan Hubinger, estimó en un 10%…

Por qué importaEl debate sobre riesgo existencial vuelve a escena pública desde dentro de los propios laboratorios líderes, lo que puede influir en la presión…

Impacto bajo Fiabilidad confirmado por varias fuentes Computerworld España
Regulación y ética

Sam Altman advierte que la IA podría hacer perder el control del futuro

Sam Altman, director de OpenAI, lanzó una advertencia sobre los riesgos de la inteligencia artificial, señalando que su desarrollo podría llevar a perder el…

Por qué importaLas declaraciones de una figura central de la industria refuerzan el debate público sobre riesgos existenciales y presionan a reguladores y empresas…

Impacto bajo Fiabilidad confirmado por varias fuentes El Tiempo Tecnósfera
Regulación y ética

Sam Altman advierte sobre riesgo de pérdida de control y concentración de poder por la IA

Sam Altman, CEO de OpenAI, publicó en X que el avance de la IA podría fallar de dos formas: pérdida de control humano sobre sistemas cada vez más capaces, y…

Por qué importaLas declaraciones de uno de los líderes más influyentes de la industria refuerzan el debate público sobre gobernanza y seguridad de la IA, lo que…

Impacto bajo Fiabilidad confirmado por varias fuentes La Nación Tecnología
Regulación y ética

OpenAI, Anthropic y Google impulsan la autorregulación de la IA ante riesgos catastróficos

Según El País, OpenAI, Anthropic y Google lideran un debate sobre los riesgos de la IA que se orienta hacia mecanismos de autorregulación por parte de las…

Por qué importaLa autorregulación de las grandes empresas de IA podría definir estándares de facto antes de que exista regulación gubernamental vinculante…

Impacto bajo Fiabilidad confirmado por varias fuentes El País Tecnología
Sociedad y trabajo

Un artículo analiza el debate sobre riesgo existencial de la IA y sus críticas

Un investigador de Anthropic, Jacob Coxon, afirmó públicamente que la IA 'puede matarnos a todos al final de la década', y Evan Hubinger, de la misma empresa…

Por qué importaEl debate sobre riesgo existencial influye en la percepción pública, la regulación y las decisiones estratégicas de las grandes empresas de IA, con…

Impacto bajo Fiabilidad confirmado por varias fuentes El Periódico Tecnología
Inversión y mercado

Anthropic elige Nasdaq para su salida a bolsa en octubre, mientras OpenAI descarta cotizar por seguridad

Anthropic ha elegido Nasdaq para su salida a bolsa prevista en octubre, con una valoración estimada cercana a los 2 billones de dólares, según fuentes citadas…

Por qué importaLa decisión marca un contraste estratégico entre los dos principales laboratorios de IA frontier y pone a prueba si el mercado puede conciliar el…

Impacto alto Fiabilidad declaración interesada Relevancia 8/10 WWWhat's new
Regulación y ética

Trump rechaza ralentizar la IA pese a advertencias sobre riesgos existenciales del sector

Donald Trump se opuso a los llamamientos para ralentizar el desarrollo de la IA, calificando esas advertencias de 'fuerzas negativas' que hablan de cosas que…

Por qué importaLa postura del presidente estadounidense indica que no habrá regulación federal restrictiva a corto plazo, lo que da margen a las empresas de IA para…

Impacto bajo Fiabilidad confirmado por varias fuentes ABC Tecnología
Sociedad y trabajo

Hinton, Yampolskiy y Kokotajlo coinciden en advertir sobre riesgo existencial de la IA avanzada

Geoffrey Hinton, Roman Yampolskiy y Daniel Kokotajlo (exinvestigador de OpenAI) coinciden en advertir sobre riesgos graves de la carrera hacia la AGI…

Por qué importaSon voces con credibilidad técnica e interna en la industria (uno pionero, otro exempleado de OpenAI) que alertan sobre falta de gobernanza en la…

Impacto bajo Fiabilidad declaración interesada Business Insider España
Sociedad y trabajo

Exingeniero de Anthropic reitera advertencias sobre riesgo existencial de la IA

Un exingeniero de Anthropic volvió a declarar públicamente que existe 'miedo genuino' entre trabajadores de IA respecto a riesgos existenciales, y advirtió que…

Por qué importaEstas declaraciones, provenientes de alguien con experiencia interna en una empresa líder de IA, alimentan el debate público sobre la seguridad de…

Impacto bajo Fiabilidad confirmado por varias fuentes El Tiempo Tecnósfera
Sociedad y trabajo

Renuncia en Anthropic y declaraciones de su jefe de alineación reavivan el debate sobre riesgo existencial de la IA

El investigador Jacob Coxon dejó Anthropic alegando que las principales empresas de IA están 'jugando con nuestras vidas'. El responsable de alineación de…

Por qué importaEstas declaraciones públicas de seguridad extrema podrían influir tanto en la percepción regulatoria como en la valoración de mercado de las empresas…

Impacto bajo Fiabilidad una fuente fiable TechCrunch AI
Sociedad y trabajo

Un análisis recopila cinco escenarios de riesgo existencial de la IA planteados por directivos de Anthropic

El artículo repasa el ensayo 'The Adolescence of Technology' de Dario Amodei (enero 2026) que describe cinco vías por las que la IA podría suponer un riesgo…

Por qué importaEl debate sobre riesgo existencial ya no es marginal: viene de dentro de las principales empresas de IA y empieza a incluir cifras concretas de…

Impacto bajo Fiabilidad confirmado por varias fuentes WWWhat's new
Regulación y ética

La ONU pide garantías de seguridad globales ante el riesgo existencial de la IA avanzada

El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, reclamó en la 63ª sesión del Consejo de Derechos Humanos un esfuerzo internacional…

Por qué importaEs una señal de que la presión regulatoria internacional sobre la IA avanzada se intensifica desde instituciones globales, más allá de gobiernos…

Impacto bajo Fiabilidad confirmado por varias fuentes 20minutos Tecnología
Sociedad y trabajo

El País documenta el auge global de un movimiento de resistencia civil contra la inteligencia artificial

El artículo describe un creciente movimiento global de oposición y sabotaje contra el desarrollo de la IA, motivado por preocupaciones sobre riesgo…

Por qué importaEl clima social de desconfianza hacia la IA puede traducirse en presión regulatoria, boicots de consumidores o resistencia interna de empleados…

Impacto bajo Fiabilidad una fuente fiable El País Tecnología
Sociedad y trabajo

Musk tacha de 'operación psicológica' las advertencias de empleados de Anthropic sobre riesgos de la IA

Elon Musk calificó de 'trampa' y 'operación psicológica' las advertencias sobre riesgos existenciales de la IA difundidas por investigadores y empleados de…

Por qué importaEl episodio expone una fractura pública entre figuras del sector sobre el riesgo real de la IA avanzada, lo que puede influir en el debate…

Impacto bajo Fiabilidad confirmado por varias fuentes Infobae Tecno
Regulación y ética

El CEO de Anthropic pide frenar el desarrollo de la IA por riesgo de 'automejora recursiva' descontrolada

Dario Amodei, CEO de Anthropic, publicó un ensayo en el que advierte que la IA avanza hacia una 'automejora recursiva' que podría escapar al control humano en…

Por qué importaEs una advertencia pública del líder de uno de los laboratorios de IA más avanzados sobre riesgos de seguridad a escala global, lo que puede influir…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 eldiario.es Tecnología
Regulación y ética

El CEO de Anthropic pide frenar el desarrollo de la IA ante riesgos de pérdida de control

Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo 'bajar el ritmo' del desarrollo de capacidades de IA, citando la automejora recursiva de los modelos…

Por qué importaEs una declaración pública inusual de un líder de la industria pidiendo frenar la propia carrera comercial en la que compite, lo que añade peso al…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 El Confidencial Tecnología
Sociedad y trabajo

El CEO de Anthropic pide reducir el ritmo de mejora de capacidades de los modelos de IA

Dario Amodei, CEO y cofundador de Anthropic, publicó una entrada de blog el sábado pidiendo a las empresas de IA que avancen más lento y con más cautela…

Por qué importaEs una declaración pública de uno de los líderes de la industria que contrasta con la carrera competitiva actual entre labs, lo que puede influir en…

Impacto bajo Fiabilidad confirmado por varias fuentes El Mundo Tecnología