Ir al contenido
IA para hoy

seguridad IA, página 11

Noticias etiquetadas con «seguridad IA»

362 noticias

Filtrar
Regulación y ética

El director general de Anthropic pide ralentizar el desarrollo de la IA y someterla a verificación externa

Dario Amodei, CEO de Anthropic, ha pedido públicamente frenar el ritmo de desarrollo de la IA y que todas las empresas del sector admitan verificadores…

Por qué importaQue el máximo responsable de un laboratorio puntero de IA advierta públicamente de estos riesgos añade peso a la exigencia de mecanismos de…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 El País Tecnología
Regulación y ética

Amodei propone plan en tres pasos para ralentizar el desarrollo de IA de frontera

El CEO de Anthropic, Dario Amodei, publicó un ensayo en el que propone un plan de tres pasos para 'ritmo de frontera', destinado a ralentizar el entrenamiento…

Por qué importaEs una declaración pública de uno de los principales laboratorios de IA que reconoce la necesidad de frenar el ritmo de desarrollo, lo que puede…

Impacto bajo Fiabilidad confirmado por varias fuentes The Verge AI
Regulación y ética

El CEO de Anthropic pide frenar el ritmo de desarrollo de la IA por riesgos de seguridad

Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo reducir la velocidad de mejora de capacidades de los modelos de IA y proponiendo un marco con…

Por qué importaEs una señal pública de que incluso los líderes del sector reconocen riesgos crecientes en el ritmo de desarrollo, lo que puede influir en la…

Impacto bajo Fiabilidad confirmado por varias fuentes La Nación Tecnología
Regulación y ética

El CEO de Anthropic pide ralentizar el desarrollo de la IA ante riesgos de pérdida de control

Dario Amodei, CEO de Anthropic, publicó un texto en su blog pidiendo reducir el ritmo de mejora de las capacidades de la IA. Cita la 'automejora recursiva' de…

Por qué importaEs una advertencia pública del líder de uno de los principales laboratorios de IA sobre riesgos de seguridad emergentes como los ataques…

Impacto bajo Fiabilidad confirmado por varias fuentes 20minutos Tecnología
Regulación y ética

El CEO de Anthropic pide frenar el desarrollo de la IA ante riesgos de pérdida de control

Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo 'bajar el ritmo' del desarrollo de capacidades de IA, citando la automejora recursiva de los modelos…

Por qué importaEs una declaración pública inusual de un líder de la industria pidiendo frenar la propia carrera comercial en la que compite, lo que añade peso al…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 El Confidencial Tecnología
Sociedad y trabajo

El CEO de Anthropic pide reducir el ritmo de mejora de capacidades de los modelos de IA

Dario Amodei, CEO y cofundador de Anthropic, publicó una entrada de blog el sábado pidiendo a las empresas de IA que avancen más lento y con más cautela…

Por qué importaEs una declaración pública de uno de los líderes de la industria que contrasta con la carrera competitiva actual entre labs, lo que puede influir en…

Impacto bajo Fiabilidad confirmado por varias fuentes El Mundo Tecnología
Regulación y ética

Dario Amodei pide límites globales al ritmo de autoperfeccionamiento de la IA antes de la IPO de Anthropic

El CEO de Anthropic, Dario Amodei, afirma en un blog que la IA avanza mucho más rápido desde el verano por su creciente capacidad de construir la siguiente…

Por qué importaEs una advertencia pública inusual del líder de un laboratorio puntero, que llega justo antes de la mayor IPO de la historia del sector, mezclando…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 The Decoder
Investigación

Estudio revela que los pasos de razonamiento escrito de modelos de IA se reflejan en patrones internos distintos

Investigadores de KAIST y Naver AI Lab identificaron ocho operaciones de razonamiento (extracción, descomposición, recuperación de fórmulas, deducción…

Por qué importaEl hallazgo sugiere que el 'chain of thought' visible no captura todo lo que ocurre internamente en un modelo, lo que refuerza la preocupación sobre…

Impacto bajo Fiabilidad declaración interesada The Decoder
Sociedad y trabajo

Exempleados de OpenAI, Google y Anthropic alertan sobre riesgos no controlados de la IA

El País recopila testimonios de una decena de investigadores, directivos y expertos que abandonaron OpenAI, Google o Anthropic. Estas personas han denunciado…

Por qué importaSe trata de testimonios de insiders con acceso directo a estas empresas, lo que da credibilidad a advertencias sobre la falta de preparación de la…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 El País Tecnología
Sociedad y trabajo

Silicon Valley intensifica advertencias sobre riesgos existenciales de la IA tras renuncia en Anthropic

Un exempleado de Anthropic, Jacob Coxon, renunció acusando a Anthropic y OpenAI de avanzar hacia una IA superinteligente sin control adecuado, lo que reavivó…

Por qué importaEl artículo refleja una creciente tensión entre el ritmo de comercialización de la IA (con OpenAI y Anthropic preparando salidas a bolsa) y las voces…

Impacto bajo Fiabilidad declaración interesada Business Insider España
Sociedad y trabajo

Analistas cuestionan si las advertencias de Anthropic y OpenAI sobre riesgo existencial de la IA son alarmismo o estrategia comercial

Un ingeniero de Anthropic, Jacob Coxon, renunció denunciando que la empresa cree que la IA podría matarnos antes de que acabe la década; su jefe, Evan…

Por qué importaEl debate sobre riesgo existencial mezcla preocupaciones genuinas de seguridad con estrategias de posicionamiento comercial, lo que dificulta a las…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 7/10 El Confidencial Tecnología
Regulación y ética

Trump minimiza el riesgo existencial de la IA y prioriza ganar la carrera tecnológica frente a China

Donald Trump declaró a reporteros que no le preocupa la extinción humana por IA, y que su prioridad es que EE.UU. mantenga su ventaja frente a China, estimada…

Por qué importaLa postura de la Casa Blanca marca el tono regulatorio de EE.UU. hacia una carrera acelerada con menos frenos de seguridad, lo que afecta la…

Impacto bajo Fiabilidad confirmado por varias fuentes Xataka México
Regulación y ética

Anthropic detecta intentos de usar Claude para investigar armas biológicas

Anthropic anunció que detectó posibles complots que usaban su modelo de IA Claude para presuntamente investigar sobre armas biológicas. La compañía enmarca el…

Por qué importaConfirma que los modelos de IA generativa avanzada pueden ser objeto de intentos de uso malicioso en dominios de alto riesgo como armas biológicas…

Impacto bajo Fiabilidad confirmado por varias fuentes El Tiempo Tecnósfera
Regulación y ética

Investigador de Anthropic renuncia y advierte de riesgo de superinteligencia autónoma antes de posible OPV

Un investigador de Anthropic renunció esta semana y publicó en X que la empresa está 'corriendo directamente hacia una superinteligencia autoperfeccionable y…

Por qué importaLa coincidencia temporal entre una advertencia interna crítica y planes de IPO plantea dudas sobre la coherencia entre discurso de seguridad y…

Impacto bajo Fiabilidad confirmado por varias fuentes TechCrunch AI
Sociedad y trabajo

Wired repasa la historia del discurso sobre riesgos existenciales de la IA y los recientes incidentes de acceso no autorizado por modelos de OpenAI, Anthropic y Meta

El artículo repasa la evolución del discurso sobre riesgos existenciales de la tecnología desde Samuel Butler (1863) y Bill Joy (2000) hasta las declaraciones…

Por qué importaEstos incidentes de acceso no autorizado por parte de modelos avanzados, si se confirman, marcarían un salto cualitativo en las preocupaciones de…

Impacto medio Fiabilidad una fuente fiable Wired en Español
Sociedad y trabajo

Musk cuestiona la autenticidad de la renuncia viral de un investigador de seguridad de Anthropic

Elon Musk sugirió en X que el hilo de renuncia de Jacob Coxon, exempleado de Anthropic con 120 millones de vistas, fue una operación coordinada. Coxon…

Por qué importaEl episodio expone tensiones internas en la industria sobre seguridad de IA y cómo se difunden estas narrativas públicamente, con un actor con…

Impacto bajo Fiabilidad declaración interesada Infobae Tecno
Regulación y ética

Sam Altman sugiere que OpenAI podría frenar el desarrollo de IA avanzada ante advertencias de riesgo existencial

Según Bloomberg, Sam Altman dijo en una reunión interna de OpenAI que la compañía considera bajar el ritmo del desarrollo de sus modelos más avanzados…

Por qué importaEs la primera vez que OpenAI reconoce públicamente que podría desacelerar deliberadamente su carrera tecnológica, lo que podría alterar la dinámica…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 El Español Omicrono
Sociedad y trabajo

Timnit Gebru afirma que el discurso sobre el riesgo existencial de la IA distrae de daños reales

En una entrevista con Wired, la investigadora Timnit Gebru critica la disputa sobre un problema matemático resuelto por OpenAI y la renuncia de un investigador…

Por qué importaEl debate ilustra una fractura dentro de la comunidad de IA sobre qué riesgos priorizar, lo que puede influir en cómo se regula la tecnología y en…

Impacto bajo Fiabilidad una fuente fiable Wired AI
Regulación y ética

OpenAI estudia frenar sus IA más avanzadas tras incidente de seguridad con agentes autónomos

Según Bloomberg, Sam Altman comunicó a empleados que OpenAI estudia ralentizar el desarrollo de sus sistemas más avanzados tras un incidente en que agentes de…

Por qué importaEs una señal de que incluso los laboratorios líderes reconocen riesgos de control con agentes autónomos, lo que puede anticipar cambios regulatorios…

Impacto medio Fiabilidad declaración interesada Relevancia 8/10 Infobae Tecno
Regulación y ética

OpenAI evalúa ralentizar el desarrollo de IA ante preocupaciones de seguridad, según Bloomberg

Según Bloomberg, Sam Altman ha comunicado a empleados de OpenAI que la compañía podría moderar el ritmo de desarrollo de IA, tras haber desacelerado ya algunos…

Por qué importaSi el líder del sector modera su ritmo por razones de seguridad, podría marcar un precedente que influya en la percepción regulatoria y en la…

Impacto bajo Fiabilidad confirmado por varias fuentes 20minutos Tecnología
Regulación y ética

Anthropic admite que no puede descartar que Claude contribuya al desarrollo de armas biológicas

Anthropic publicó el 10 de septiembre un informe sobre detección y combate del uso indebido de sus modelos de IA, en el que reconoce haber identificado y…

Por qué importaEs un reconocimiento explícito de un laboratorio líder de que sus salvaguardas actuales no pueden garantizar que modelos cada vez más capaces no…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Xataka
Regulación y ética

Trump minimiza los riesgos existenciales de la IA y prioriza la carrera tecnológica con China

Donald Trump declaró en Dallas que no le preocupan las advertencias sobre riesgos existenciales de la IA, priorizando el liderazgo frente a China. La semana…

Por qué importaMarca la postura oficial de EEUU frente al debate sobre seguridad de la IA, favoreciendo la velocidad de desarrollo sobre la cautela, lo que puede…

Impacto bajo Fiabilidad confirmado por varias fuentes El Español Omicrono
Empresa y transformación digital

Sam Altman se abre a ralentizar el desarrollo de IA de vanguardia en OpenAI

En una reunión interna, Sam Altman comunicó a empleados de OpenAI que la empresa podría ralentizar su desarrollo de IA de vanguardia, posiblemente en…

Por qué importaEs un giro relevante en el discurso público de OpenAI, que hasta ahora había defendido acelerar el desarrollo, y sugiere presión interna creciente…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Business Insider España
Empresa y transformación digital

OpenAI suspende nuevas suscripciones Pro por demanda inédita de Astra

OpenAI pausó temporalmente las nuevas altas al plan Pro (200 dólares mensuales) por una demanda sin precedentes de su modelo Astra, lanzado el 3 de septiembre…

Por qué importaLa sobrecarga de infraestructura ante un modelo de alto rendimiento pone en tensión la capacidad de OpenAI para escalar servicios premium mientras…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Infobae Tecno