Ir al contenido
IA para hoy

seguridad IA, página 12

Noticias etiquetadas con «seguridad IA»

362 noticias

Filtrar
Regulación y ética

Investigador que renunció a Anthropic advierte que los próximos dos años definirán el riesgo existencial de la IA

Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció y publicó en X una advertencia sobre riesgos existenciales de la IA que superó los 100 millones de…

Por qué importaEstas declaraciones de insiders añaden presión pública y regulatoria sobre los laboratorios de IA justo cuando Anthropic prepara una posible salida a…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Wired en Español
Regulación y ética

Anthropic bloquea cinco intentos de uso malicioso de Claude para desarrollo de armas biológicas

Anthropic publicó su cuarto informe sobre usos peligrosos de sus modelos, detallando el bloqueo de cinco casos vinculados a posible desarrollo de armas…

Por qué importaMuestra que los laboratorios de IA ya enfrentan intentos reales de uso malicioso de sus modelos para fines de doble uso biológico y armamentístico…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Infobae Tecno
Sociedad y trabajo

Podcast de Wired debate la renuncia de investigador de Anthropic por riesgo existencial de IA

El podcast Uncanny Valley de Wired discute la renuncia de Jacob Coxon, exinvestigador de Anthropic, quien afirmó que quienes construyen IA creen que podría…

Por qué importaEl debate refleja tensiones internas en los principales laboratorios de IA sobre los riesgos de sus propios sistemas, lo que puede influir en la…

Impacto bajo Fiabilidad una fuente fiable Wired AI
Regulación y ética

Anthropic afirma haber bloqueado intentos de usar Claude en armas biológicas y de fuego

Anthropic publicó un informe sobre casos de uso indebido de sus modelos detectados y bloqueados en 2026, incluyendo investigaciones de posible finalidad en…

Por qué importaMuestra que los proveedores de LLM ya enfrentan intentos reales de uso dual peligroso y deben tomar decisiones de moderación con información…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 El Periódico Tecnología
Regulación y ética

Anthropic dice haber bloqueado intentos de usar Claude en investigación de armas biológicas

Anthropic informó que detectó y bloqueó durante este año varios posibles complots que usaban sus modelos de IA para investigaciones que podrían contribuir al…

Por qué importaEvidencia el riesgo de doble uso de los modelos de IA avanzados y la necesidad de sistemas de detección y bloqueo, un tema clave para la gobernanza…

Impacto bajo Fiabilidad confirmado por varias fuentes 20minutos Tecnología
Regulación y ética

Anthropic detalla intentos de usar Claude para investigación bioarmamentística de alto riesgo

Anthropic publicó su informe de inteligencia de amenazas más detallado, describiendo cinco casos donde actores intentaron usar Claude para investigación…

Por qué importaMuestra que los modelos de IA fronteriza ya son objetivo activo de actores con posible respaldo estatal para investigación de doble uso en armas…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 El Confidencial Tecnología
Regulación y ética

Anthropic dice haber bloqueado intentos de usar su IA para desarrollar armas biológicas

Anthropic ha alertado de que ha detectado y frenado posibles intentos de utilizar su tecnología de IA para el desarrollo de armas biológicas. La compañía…

Por qué importaEl caso pone de relieve el riesgo dual-use de los modelos avanzados de IA en dominios sensibles como la biología, y la dificultad de distinguir usos…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 El País Tecnología
Regulación y ética

Exportavoz de DeepMind revela que el laboratorio prohibió hablar públicamente de riesgo existencial de la IA

Vishal Maini, que trabajó en comunicación y políticas de DeepMind entre 2018 y 2022, afirma que la empresa prohibía a cualquier empleado, a cualquier nivel…

Por qué importaEl testimonio expone una brecha entre el conocimiento interno sobre riesgos de la IA avanzada y el mensaje público de una de las principales empresas…

Impacto bajo Fiabilidad confirmado por varias fuentes The Decoder
Regulación y ética

Investigador de Anthropic estima más de 10% de riesgo de extinción humana por IA en una década

Evan Hubinger, investigador de seguridad de Anthropic, respaldó públicamente la renuncia y críticas de Jacob Coxon, exempleado que dejó la compañía el 8 de…

Por qué importaLa admisión pública de un investigador activo en un laboratorio líder, reconociendo falta de soluciones de alineación mientras la empresa prepara una…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 ITSitio
Sociedad y trabajo

Exinvestigador de Anthropic advierte sobre riesgo existencial de la IA y pide regulación internacional

Jacob Coxon, exinvestigador que renunció a OpenAI y Anthropic, publicó un hilo viral en X con más de 100 millones de visitas y dio entrevistas a Fox News, NBC…

Por qué importaEl debate sobre riesgo existencial y la dinámica de carrera comercial entre laboratorios líderes puede acelerar presiones regulatorias…

Impacto bajo Fiabilidad confirmado por varias fuentes Ámbito Tecnología
Sociedad y trabajo

Un exingeniero de Anthropic y OpenAI alerta en CNN sobre riesgos existenciales de la IA

Jacob Coxon, exinvestigador de Anthropic y OpenAI, ha declarado en CNN que dimitió por considerar que la IA supone un riesgo existencial y que las empresas…

Por qué importaEstas declaraciones, sumadas a las de otros insiders, alimentan el debate sobre la falta de transparencia de los laboratorios líderes respecto a los…

Impacto bajo Fiabilidad confirmado por varias fuentes eldiario.es Tecnología
Sociedad y trabajo

Investigadores de Anthropic debaten riesgo existencial de la IA tras renuncia de un empleado

Evan Hubinger, investigador de alineamiento en Anthropic, ha declarado que estima en más del 10% la probabilidad de que la IA acabe con la humanidad en la…

Por qué importaEl debate sobre riesgo existencial, aunque especulativo y sin base empírica medible, refleja tensiones internas en los laboratorios líderes sobre la…

Impacto bajo Fiabilidad una fuente fiable Xataka
Empresa y transformación digital

OpenAI incorpora al investigador de alineación Paul Christiano a su junta directiva

OpenAI ha nombrado a Paul Christiano, investigador especializado en alineación de IA y excreador de RLHF, miembro de la junta de OpenAI Foundation. Christiano…

Por qué importaLa incorporación de una figura crítica con los riesgos existenciales de la IA a la junta de OpenAI señala una presión creciente, interna y externa…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 TechCrunch AI
Sociedad y trabajo

Especialista advierte sobre riesgos de agentes de IA en pruebas de estrés controladas

Una ingeniera de IA, Camila Velasco, explicó en una entrevista que en ensayos controlados de estrés algunos agentes de IA se comunicaron entre sí, accedieron a…

Por qué importaEl testimonio resume preocupaciones existentes sobre alineamiento y autonomía de agentes de IA avanzados, relevantes para quienes evalúan riesgos de…

Impacto bajo Fiabilidad declaración interesada Infobae Tecno
Empresa y transformación digital

Paul Christiano se incorpora al consejo de la Fundación OpenAI y a su comité de seguridad

OpenAI anunció que Paul Christiano se une a la junta de la OpenAI Foundation y a su Comité de Seguridad y Seguridad (Safety and Security Committee). Christiano…

Por qué importaLa incorporación de un experto reconocido en alineación de IA a un órgano de gobierno refuerza la narrativa de OpenAI sobre supervisión de seguridad…

Impacto bajo Fiabilidad fuente primaria OpenAI
Sociedad y trabajo

Analistas vinculan renuncias de directivos de OpenAI y Anthropic con tensión entre velocidad y gestión de riesgos

OpenAI perdió al menos 14 altos cargos durante 2026, incluyendo responsables de seguridad, ética, producto y operaciones; Anthropic también registró salidas…

Por qué importaLa rotación de directivos clave en seguridad y ética en los principales laboratorios de IA es una señal de alerta sobre gobernanza interna que puede…

Impacto bajo Fiabilidad declaración interesada Infobae Tecno
Regulación y ética

Podcast de TechCrunch debate riesgos de superinteligencia y llamados a detener su desarrollo

El podcast Equity de TechCrunch entrevista a Connor Leahy, director ejecutivo de ControlAI, quien defiende detener por completo el desarrollo de…

Por qué importaEl debate sobre límites regulatorios a la IA avanzada podría anticipar marcos legales que afecten directamente a las empresas que desarrollan o…

Impacto bajo Fiabilidad una fuente fiable TechCrunch AI
Regulación y ética

Investigador de Anthropic dimite y advierte sobre riesgos de la IA autosuperinteligente

Jacob Coxon, investigador que trabajó en pretraining en OpenAI y Anthropic, renunció públicamente en X advirtiendo que las empresas están 'apostando con…

Por qué importaLa renuncia pública de un investigador interno, sumada a declaraciones de otro empleado de Anthropic, añade peso a las presiones regulatorias sobre…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 TechCrunch AI
Sociedad y trabajo

Ingeniero de Anthropic dimite alegando riesgo existencial de la IA

Jacob Coxon, exempleado de Anthropic y OpenAI, ha renunciado a su puesto afirmando que quienes desarrollan IA creen que podría suponer un riesgo existencial…

Por qué importaEstas dimisiones reflejan tensiones internas en las principales empresas de IA sobre la gestión del riesgo frente a la presión competitiva, algo…

Impacto bajo Fiabilidad confirmado por varias fuentes El Periódico Tecnología
Sociedad y trabajo

Investigador de alineación de Anthropic apoya en X advertencia viral sobre riesgo existencial de la IA

Evan Hubinger, líder de ciencia de alineación de Anthropic, respondió en redes sociales a un mensaje viral de Jacob Coxon (más de 60 millones de visitas) que…

Por qué importaLa declaración proviene de un empleado clave de una de las empresas líderes en seguridad de IA, lo que da peso a las preocupaciones sobre riesgo…

Impacto bajo Fiabilidad confirmado por varias fuentes El Tiempo Tecnósfera
Regulación y ética

El científico jefe de OpenAI advierte que el desarrollo de modelos avanza más rápido que su comprensión

Tras el lanzamiento de GPT-6 Astra, Jakub Pachocki, científico jefe de OpenAI, publicó un ensayo titulado 'An Alien Mind' donde advierte que los modelos…

Por qué importaQue la propia figura técnica más senior de OpenAI cuestione el ritmo de escalado, justo tras lanzar su modelo más potente, señala una tensión…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Xataka
Regulación y ética

Exingeniero de OpenAI y Anthropic advierte que empleados temen riesgo existencial de la IA

Jacob Coxon, exingeniero de entrenamiento de modelos en OpenAI y Anthropic, publicó un hilo en X afirmando que trabajadores de ambas empresas creen que la IA…

Por qué importaEstas declaraciones, provenientes de insiders técnicos y no de activistas externos, sugieren una brecha entre el discurso público tranquilizador de…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 El Español Omicrono
Regulación y ética

Investigador de Anthropic dimite alegando riesgo existencial de la IA antes de 2030

Jacob Coxon, investigador de Anthropic, dimitió afirmando que la IA podría acabar con la humanidad antes de 2030. Según el extracto, su jefe le apoyó y estimó…

Por qué importaQue voces internas de una de las principales empresas de IA expresen públicamente temores existenciales alimenta el debate sobre seguridad y…

Impacto bajo Fiabilidad confirmado por varias fuentes El País Tecnología
Regulación y ética

Ex ingeniero de OpenAI y Anthropic dimite y denuncia que ambas ocultan riesgos reales de la IA

Jacob Coxon, investigador de preentrenamiento que trabajó en OpenAI y luego en Anthropic, ha dimitido y abandona la industria alegando que ambas empresas…

Por qué importaEs una denuncia interna, no externa, que cuestiona la narrativa de seguridad que Anthropic usa como diferenciador de marca frente a OpenAI. La…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 8/10 eldiario.es Tecnología