Ir al contenido
IA para hoy

riesgo existencial

Noticias etiquetadas con «riesgo existencial»

142 noticias

Filtrar
Sociedad y trabajo

Un mes después de la renuncia de Jacob Coxon, el debate sobre riesgos de la IA sigue dividiendo a la industria

Hace un mes el investigador Jacob Coxon renunció a Anthropic alertando que los creadores de IA creen que podría acabar con la humanidad antes de 2030. Tras su…

Por qué importaEl episodio muestra la tensión entre el discurso de cautela de los líderes del sector y la aceleración real de la inversión y el despliegue de…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 Business Insider España
Regulación y ética

Sam Altman advierte sobre riesgos de pérdida de control de la IA y defiende el código abierto pese a sus peligros

En una entrevista con Vanity Fair, el CEO de OpenAI, Sam Altman, afirmó que la IA 'hace cosas que no entendemos y no sabemos cómo detenerla' y que el riesgo…

Por qué importaLas declaraciones del CEO de la empresa líder en IA generativa reflejan una tensión creciente entre innovación acelerada y gestión de riesgos, lo que…

Impacto bajo Fiabilidad varias fuentes Infobae Tecno
Inversión y mercado

Prospecto de IPO revela pérdidas de 42.000 millones y compromisos de compute de 518.000 millones en Anthropic

El prospecto confidencial de Anthropic ante la SEC, revisado por Reuters, muestra pérdidas contables de 42.000 millones de dólares en 2025 (34.000M por ajuste…

Por qué importaEl caso ilustra la tensión entre crecimiento explosivo de ingresos y compromisos de infraestructura casi irrevocables que podrían convertirse en…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 9/10 WWWhat's new
Sociedad y trabajo

Un coworking de Berkeley se consolida como epicentro del movimiento de seguridad existencial en IA

El Wall Street Journal describe Constellation, un coworking en Berkeley que agrupa a investigadores y activistas del altruismo eficaz preocupados por riesgos…

Por qué importaMuestra cómo una subcultura ideológica concreta ha moldeado el discurso público y las políticas internas de seguridad de una de las empresas líderes…

Impacto bajo Fiabilidad una fuente fiable Xataka
Sociedad y trabajo

Timnit Gebru cuestiona la narrativa del 'riesgo existencial' de la IA y acusa de intereses financieros a sus promotores

En una entrevista con Wired, la investigadora Timnit Gebru argumenta que la narrativa del riesgo existencial de la IA, promovida por figuras como Elon Musk…

Por qué importaEl debate sobre si la IA representa una amenaza existencial influye en cómo se diseñan las regulaciones y en qué riesgos (concentración de poder…

Impacto bajo Fiabilidad una fuente fiable Wired en Español
Regulación y ética

Investigadores de OpenAI, Google y Anthropic advierten sobre riesgo de extinción humana por IA

Palisade Research publicó una docena de entrevistas en el sitio frominside.ai con investigadores actuales y ex empleados de OpenAI, Google DeepMind y…

Por qué importaEstas declaraciones provienen de personas con experiencia directa en el desarrollo de sistemas de frontera, lo que añade peso al debate sobre la…

Impacto bajo Fiabilidad varias fuentes The Verge AI
Inversión y mercado

Anthropic advierte de riesgo existencial de la IA en su folleto de salida a bolsa

Anthropic ha circulado un prospecto S-1 para su salida a bolsa, valorada en cerca de un billón de dólares, dedicando casi un tercio del documento a factores de…

Por qué importaEs la primera vez que una gran empresa de IA reconoce formalmente ante inversores riesgos existenciales asociados a su propia tecnología, lo que…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Ars Technica AI
Inversión y mercado

Anthropic reconoce en su prospecto de salida a bolsa riesgo existencial de sus propios modelos de IA

Anthropic incluyó en el prospecto de su salida a bolsa una advertencia sobre riesgo existencial de sus propios modelos, junto con pérdidas operativas de más de…

Por qué importaEs inusual que una empresa reconozca en un documento legal obligatorio riesgos existenciales de su propio producto, lo que refuerza el debate sobre…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 Infobae Tecno
Regulación y ética

Anthropic advierte de riesgos existenciales de la IA a inversores mientras Amodei se reúne con Trump

Anthropic incluyó en un documento para inversores advertencias sobre riesgos existenciales de la IA para la humanidad. En paralelo, su CEO Dario Amodei se…

Por qué importaMuestra la brecha entre los discursos de seguridad de los grandes laboratorios y la presión política y comercial por acelerar el desarrollo, lo que…

Impacto bajo Fiabilidad confirmado por varias fuentes Ámbito Tecnología
Inversión y mercado

Anthropic advierte sobre riesgos existenciales de la IA en su prospecto de salida a bolsa

Anthropic presentó su prospecto de IPO, valorada en US$2 billones, dedicando 80 de 261 páginas a advertir sobre riesgos catastróficos o existenciales de sus…

Por qué importaEs inusual que una empresa advierta explícitamente de riesgos existenciales de su propio producto en un documento regulatorio, lo que revela…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 La Nación Tecnología
Inversión y mercado

Anthropic advierte de riesgos 'catastróficos' de su IA en su propio folleto de salida a bolsa

Según Reuters, que habría revisado el prospecto de IPO de Anthropic, la empresa detalla pérdidas crecientes, propuestas de liderazgo para retener el control y…

Por qué importaEs inusual que una empresa reconozca riesgos existenciales de su propio producto en un documento legal de cara a inversores, lo que añade presión…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 The Verge AI
Sociedad y trabajo

Timnit Gebru cuestiona la narrativa del 'riesgo existencial' de la IA y acusa a la industria de interés económico

En una entrevista con Wired, la investigadora Timnit Gebru afirma que no cree que exista una 'amenaza existencial' de la IA y sostiene que ese discurso es una…

Por qué importaEl debate sobre si el riesgo existencial es real o una estrategia narrativa condiciona qué regulaciones y prioridades se discuten públicamente…

Impacto bajo Fiabilidad una fuente fiable Wired AI
Inversión y mercado

Anthropic revela en su folleto de salida a bolsa ingresos de 4.600 millones y pérdidas de 8.060 millones

Anthropic presentó su S-1 para salir a bolsa, mostrando que sus ingresos se multiplicaron por doce en 2025 hasta 4.600 millones de dólares, mientras la pérdida…

Por qué importaLa IPO de Anthropic marcará el listón de valoración para toda la industria de IA, incluida la eventual salida a bolsa de OpenAI, y expone…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 9/10 The Decoder
Regulación y ética

Bill Gates pide regulación obligatoria de la IA y advierte que un botón de apagado no basta

En una entrevista con NBC News, Bill Gates advirtió que la IA es lo suficientemente poderosa como para provocar eventos con hasta 1.000 millones de muertes…

Por qué importaLas declaraciones de una figura influyente como Gates añaden peso público al debate sobre regulación obligatoria de la IA, en un momento de creciente…

Impacto bajo Fiabilidad confirmado por varias fuentes Xataka
Regulación y ética

OpenAI retrasa GPT-6.1 Astra por riesgos de engaño y Anthropic advierte de peligros existenciales en su salida a bolsa

OpenAI ha pospuesto el lanzamiento de su modelo GPT-6.1 Astra tras detectar mayores niveles de engaño durante las pruebas internas, según The Wall Street…

Por qué importaDos de las principales empresas de IA reconocen públicamente riesgos graves de sus propios productos, lo que intensifica el debate sobre seguridad y…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 El País Tecnología
Inversión y mercado

Anthropic revela en su folleto de salida a bolsa pérdidas de 8.000 millones y advierte de riesgo existencial de su IA

Anthropic presentó su prospecto de salida a bolsa dedicando cerca de un tercio a factores de riesgo, incluyendo advertencias sobre comportamientos de sus…

Por qué importaEs la primera vez que una empresa incluye explícitamente 'riesgos existenciales para la humanidad' en un documento regulatorio de la SEC, lo que…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 9/10 TechCrunch AI
Sociedad y trabajo

Investigadores españoles critican la distorsión del debate mediático sobre riesgos existenciales de la IA

En una sesión organizada por el SMC España el 18 de septiembre, investigadores como Nuria Oliver (ELLIS Alicante), Ramón López de Mántaras (IIIA-CSIC) y Senén…

Por qué importaEl debate sobre cómo se comunica el riesgo de la IA influye en la regulación, la percepción pública y la asignación de responsabilidades legales a…

Impacto bajo Fiabilidad una fuente fiable Relevancia 7/10 Wired en Español
Sociedad y trabajo

Steven Pinker rechaza debate público sobre riesgo existencial de la IA y pide ingeniería de seguridad práctica

El psicólogo de Harvard Steven Pinker publicó una carta abierta en Quillette dirigida a Scott Alexander, tras rechazar un debate público sobre riesgos…

Por qué importaEl debate refleja una división relevante dentro de la comunidad de seguridad en IA entre el enfoque de riesgo existencial y el de riesgos prácticos…

Impacto muy bajo Fiabilidad declaración interesada The Decoder
Regulación y ética

Bill Gates pide regulación obligatoria de la IA ante riesgos catastróficos

Bill Gates, cofundador de Microsoft, declaró en una entrevista con NBC que la IA es lo suficientemente poderosa como para crear eventos que causen miles de…

Por qué importaLa advertencia de una figura influyente del sector tecnológico añade presión pública para acelerar marcos regulatorios sobre IA, lo que puede afectar…

Impacto bajo Fiabilidad confirmado por varias fuentes El Español Omicrono
Regulación y ética

Investigador de seguridad de IA estima 50-60% de riesgo de toma de control por IA descontrolada

Ryan Greenblatt, científico jefe de Redwood Research, afirmó en el podcast de Sam Harris que hay entre un 50 y un 60 por ciento de probabilidad de que sistemas…

Por qué importaEs una declaración de un investigador de seguridad influyente que cuestiona públicamente la narrativa de autorregulación de los grandes laboratorios…

Impacto bajo Fiabilidad declaración interesada The Decoder
Sociedad y trabajo

Bill Gates prevé dos décadas de ajuste antes de una 'era de abundancia' impulsada por la IA

Bill Gates declaró en 'Meet the Press' de NBC que la IA se desarrollará en dos fases: un periodo de unos 20 años de adaptación con riesgos para el empleo y la…

Por qué importaLas opiniones de figuras influyentes como Gates moldean el debate público y regulatorio sobre los plazos y riesgos de la IA, algo relevante para…

Impacto bajo Fiabilidad confirmado por varias fuentes Business Insider España
Sociedad y trabajo

Bill Gates advierte que una IA descontrolada podría causar mil millones de muertes y pide controles obligatorios

Bill Gates lanzó una advertencia pública sobre el riesgo de que una inteligencia artificial sin control caiga en manos malintencionadas, afirmando que podría…

Por qué importaLa declaración de una figura influyente en tecnología añade peso al debate sobre regulación de IA avanzada, aunque no aporta datos técnicos nuevos ni…

Impacto bajo Fiabilidad confirmado por varias fuentes El Tiempo Tecnósfera
Regulación y ética

Bill Gates advierte que un uso malicioso de la IA podría causar miles de millones de muertes

Bill Gates declaró a NBC News que la IA es lo suficientemente poderosa como para provocar eventos con miles de millones de muertes si cae en manos de actores…

Por qué importaLas declaraciones de una figura influyente como Gates refuerzan la presión pública y política hacia una regulación obligatoria de la IA, lo que…

Impacto bajo Fiabilidad confirmado por varias fuentes Ámbito Tecnología
Regulación y ética

Bill Gates pide regulación gubernamental obligatoria ante riesgos catastróficos de la IA

Bill Gates declaró en Meet the Press (NBC News) que la IA sin control podría causar 'miles de millones de muertes' si es usada con fines maliciosos. Pidió…

Por qué importaLas advertencias de una figura influyente como Gates añaden presión al debate regulatorio global sobre IA, justo cuando ejecutivos de laboratorios…

Impacto bajo Fiabilidad confirmado por varias fuentes La Nación Tecnología