Ir al contenido
IA para hoy

riesgo existencial, página 6

Noticias etiquetadas con «riesgo existencial»

142 noticias

Filtrar
Sociedad y trabajo

Exingeniero de OpenAI y Anthropic advierte de riesgo existencial y un experto lo tacha de 'doom trolling'

Jacob Coxon, ingeniero que trabajó en entrenamiento de modelos en OpenAI y Anthropic, ha dimitido de esta última y ha publicado en X que la IA podría acabar…

Por qué importaEl debate ilustra la tensión entre el discurso de riesgo existencial de la IA y su uso como estrategia de marketing, algo relevante para directivos…

Impacto bajo Fiabilidad declaración interesada Computerworld España
Sociedad y trabajo

Investigador que renunció a Anthropic detalla en TV el riesgo de una IA que se automejora

Jacob Coxon, exinvestigador de Anthropic, dio entrevistas en NBC, CNN y Fox News tras renunciar con un hilo viral en X, afirmando que los modelos actuales no…

Por qué importaEl debate sobre riesgo existencial de la IA, promovido por investigadores internos de laboratorios líderes, gana visibilidad en medios masivos y…

Impacto bajo Fiabilidad confirmado por varias fuentes Infobae Tecno
Sociedad y trabajo

Advertencias de un investigador de Anthropic sobre riesgo existencial de la IA llegan a CNN y Fox News

Jacob Coxon, investigador saliente de Anthropic, advirtió en CNN que una IA autosuperable representa una amenaza existencial para la humanidad. Otros…

Por qué importaEl debate sobre riesgo existencial de la IA ha pasado del ámbito técnico a la conversación mediática y política mainstream, lo que puede influir en…

Impacto bajo Fiabilidad confirmado por varias fuentes The Decoder
Sociedad y trabajo

Investigadores de Anthropic debaten riesgo existencial de la IA tras renuncia de un empleado

Evan Hubinger, investigador de alineamiento en Anthropic, ha declarado que estima en más del 10% la probabilidad de que la IA acabe con la humanidad en la…

Por qué importaEl debate sobre riesgo existencial, aunque especulativo y sin base empírica medible, refleja tensiones internas en los laboratorios líderes sobre la…

Impacto bajo Fiabilidad una fuente fiable Xataka
Regulación y ética

Investigador de Anthropic renuncia y advierte que la IA amenaza a la humanidad 'en pocos años'

Jacob Coxon, investigador que trabajó en pretraining en Anthropic y OpenAI, anunció su renuncia y publicó en X que 'los próximos uno o dos años son crunch time…

Por qué importaLas advertencias provienen de investigadores internos de los laboratorios líderes, no de críticos externos, lo que da peso a la idea de que el…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Wired AI
Regulación y ética

Investigadores de Anthropic y OpenAI alertan sobre riesgo existencial de la superinteligencia autosuperante

Evan Hubinger, de Anthropic, estima en más de 10% la probabilidad de que la IA acabe con la humanidad en la próxima década. Su declaración sigue a la renuncia…

Por qué importaLas advertencias provienen de dentro de las propias empresas líderes, lo que añade credibilidad a la preocupación sobre falta de regulación efectiva…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Wired en Español
Sociedad y trabajo

Investigadores de Anthropic, OpenAI y Google DeepMind alertan sobre riesgos de la carrera por la superinteligencia

El investigador Jacob Coxon anunció su salida de Anthropic cuestionando la competencia por sistemas de IA general sin garantías de control. Evan Hubinger…

Por qué importaLas advertencias provienen de investigadores internos de los laboratorios líderes, lo que da peso a un debate que hasta ahora era más especulativo o…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 Infobae Tecno
Regulación y ética

Investigador de Anthropic renuncia advirtiendo que la IA autosuperante podría 'matarnos a todos'

El investigador Jacob Coxon dejó Anthropic y publicó un mensaje público advirtiendo que empresas líderes de IA creen que sistemas de superinteligencia…

Por qué importaEsta declaración proviene de dentro de una de las principales empresas de IA, no de un crítico externo, lo que da peso institucional a preocupaciones…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 7/10 Ars Technica AI
Sociedad y trabajo

Investigador de Anthropic renuncia y advierte sobre riesgo existencial de la IA antes de 2030

Jacob Coxon, exingeniero de preentrenamiento en OpenAI y Anthropic, renunció y anunció que se aparta de la industria de IA, alegando que la carrera entre…

Por qué importaEs una señal más de que voces internas de laboratorios líderes expresan dudas serias sobre el ritmo de la carrera de IA, lo que alimenta el debate…

Impacto bajo Fiabilidad confirmado por varias fuentes Enter.co
Sociedad y trabajo

Ingeniero de Anthropic dimite alegando riesgo existencial de la IA

Jacob Coxon, exempleado de Anthropic y OpenAI, ha renunciado a su puesto afirmando que quienes desarrollan IA creen que podría suponer un riesgo existencial…

Por qué importaEstas dimisiones reflejan tensiones internas en las principales empresas de IA sobre la gestión del riesgo frente a la presión competitiva, algo…

Impacto bajo Fiabilidad confirmado por varias fuentes El Periódico Tecnología
Sociedad y trabajo

Investigador de alineación de Anthropic apoya en X advertencia viral sobre riesgo existencial de la IA

Evan Hubinger, líder de ciencia de alineación de Anthropic, respondió en redes sociales a un mensaje viral de Jacob Coxon (más de 60 millones de visitas) que…

Por qué importaLa declaración proviene de un empleado clave de una de las empresas líderes en seguridad de IA, lo que da peso a las preocupaciones sobre riesgo…

Impacto bajo Fiabilidad confirmado por varias fuentes El Tiempo Tecnósfera
Sociedad y trabajo

Exinvestigador de Anthropic advierte sobre riesgo existencial de la IA tras renunciar

Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció dos meses después de sumarse a Anthropic y publicó una carta advirtiendo sobre riesgos…

Por qué importaLas renuncias de investigadores clave por diferencias con la estrategia de seguridad reflejan tensiones internas en los laboratorios líderes que…

Impacto bajo Fiabilidad confirmado por varias fuentes Ámbito Tecnología
Sociedad y trabajo

Investigador de Anthropic estima más de 10% de probabilidad de extinción humana por IA en la década

Jacob Coxon, ex investigador de pretraining en OpenAI y Anthropic, renunció y acusó a ambas empresas de asumir riesgos de extinción humana de forma consciente…

Por qué importaEstas declaraciones de insiders de los laboratorios líderes elevan el debate sobre riesgo existencial de la retórica externa a testimonios internos…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 7/10 The Decoder
Regulación y ética

Los cuatro escenarios de riesgo catastrófico que Anthropic, OpenAI y Google DeepMind miden en sus modelos

Tras la renuncia de un investigador de Anthropic con un mensaje viral, el jefe de seguridad Evan Hubinger estimó más de 10% de probabilidad de que la IA cause…

Por qué importaEstas evaluaciones internas muestran que los propios creadores de los modelos consideran plausibles riesgos severos, lo que debería influir en cómo…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Infobae Tecno
Sociedad y trabajo

Exempleado de Anthropic acusa a OpenAI y Anthropic de irresponsabilidad en carrera por IA superinteligente

Jacob Coxon, investigador que trabajó tres años en preentrenamiento de modelos en Anthropic y OpenAI, dimitió y publicó en X críticas contra ambas compañías…

Por qué importaEs otro testimonio interno que alimenta el debate sobre gobernanza y ritmo de desarrollo de IA avanzada, con implicaciones para la percepción…

Impacto bajo Fiabilidad declaración interesada 20minutos Tecnología
Regulación y ética

Exingeniero de OpenAI y Anthropic advierte que empleados temen riesgo existencial de la IA

Jacob Coxon, exingeniero de entrenamiento de modelos en OpenAI y Anthropic, publicó un hilo en X afirmando que trabajadores de ambas empresas creen que la IA…

Por qué importaEstas declaraciones, provenientes de insiders técnicos y no de activistas externos, sugieren una brecha entre el discurso público tranquilizador de…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 El Español Omicrono
Regulación y ética

Renuncia en Anthropic reabre debate sobre riesgo existencial de la superinteligencia

El investigador Jacob Coxon renunció a Anthropic el 8 de septiembre acusando a OpenAI y Anthropic de avanzar sin control hacia una superinteligencia. Evan…

Por qué importaEs una advertencia pública desde dentro de un laboratorio líder, en un momento en que Anthropic busca una valuación de 2 billones de dólares apelando…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Infobae Tecno
Regulación y ética

Investigador de Anthropic dimite alegando riesgo existencial de la IA antes de 2030

Jacob Coxon, investigador de Anthropic, dimitió afirmando que la IA podría acabar con la humanidad antes de 2030. Según el extracto, su jefe le apoyó y estimó…

Por qué importaQue voces internas de una de las principales empresas de IA expresen públicamente temores existenciales alimenta el debate sobre seguridad y…

Impacto bajo Fiabilidad confirmado por varias fuentes El País Tecnología
Regulación y ética

Investigador de seguridad de Anthropic estima más de 10% de riesgo existencial por IA en una década

Evan Hubinger, responsable de alineación en Anthropic, afirmó en X que existe más de un 10% de probabilidad de que la IA acabe con la humanidad en la próxima…

Por qué importaQue responsables de seguridad de un laboratorio líder admitan públicamente falta de un plan de alineamiento robusto añade presión sobre la gobernanza…

Impacto bajo Fiabilidad confirmado por varias fuentes Expansión Economía Digital
Regulación y ética

Investigador de seguridad de Anthropic estima más de 10% de probabilidad de que la IA extinga a la humanidad

Un investigador senior de seguridad de Anthropic afirmó que existe más de un 10% de probabilidad de que la IA 'pueda matar a todos los humanos' antes de que…

Por qué importaEl debate interno en un laboratorio líder en seguridad de IA como Anthropic añade credibilidad a las preocupaciones sobre riesgos existenciales, más…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 7/10 The Verge AI
Sociedad y trabajo

Investigador deja Anthropic y OpenAI advirtiendo de riesgo existencial de la IA

El investigador Jacob Coxon, que trabajó en OpenAI (2023-2026) y luego en Anthropic, ha dimitido y publicado en X que quienes construyen IA creen que podría…

Por qué importaRefleja una tensión creciente entre el discurso público moderado de los laboratorios de IA y los temores privados de sus propios investigadores sobre…

Impacto bajo Fiabilidad declaración interesada Business Insider España
Regulación y ética

El jefe de derechos humanos de la ONU advierte de riesgo existencial de la IA

Volker Türk, jefe de derechos humanos de la ONU, advirtió ante el Consejo de Derechos Humanos en Ginebra que la IA podría representar un riesgo existencial…

Por qué importaRefleja la presión institucional creciente hacia una gobernanza global de la IA que podría derivar en marcos regulatorios más estrictos para las…

Impacto bajo Fiabilidad declaración interesada Computerworld España