Ir al contenido
IA para hoy

seguridad IA, página 10

Noticias etiquetadas con «seguridad IA»

362 noticias

Filtrar
Regulación y ética

China rechaza el alarmismo sobre riesgos de la IA tras advertencias de Amodei, Altman y Musk

El portavoz de Exteriores chino, Guo Jiakun, criticó las advertencias catastróficas sobre riesgos de la IA tras declaraciones de Dario Amodei (Anthropic), Sam…

Por qué importaRefleja una divergencia geopolítica en el discurso sobre gobernanza de la IA entre EEUU y China, que puede dificultar acuerdos internacionales de…

Impacto bajo Fiabilidad confirmado por varias fuentes Business Insider España
Sociedad y trabajo

Investigadores advierten que el reto futuro de la IA será gestionar sociedades de agentes, no solo modelos individuales

Un artículo de opinión en El Confidencial plantea que el desarrollo de la IA avanza hacia sistemas multiagente donde millones de agentes interactúan, cooperan…

Por qué importaSi los sistemas de IA se despliegan como agentes que negocian y actúan entre sí a gran escala, el comportamiento colectivo puede volverse…

Impacto medio Fiabilidad una fuente fiable El Confidencial Tecnología
Sociedad y trabajo

Exingeniero de Anthropic reitera advertencias sobre riesgo existencial de la IA

Un exingeniero de Anthropic volvió a declarar públicamente que existe 'miedo genuino' entre trabajadores de IA respecto a riesgos existenciales, y advirtió que…

Por qué importaEstas declaraciones, provenientes de alguien con experiencia interna en una empresa líder de IA, alimentan el debate público sobre la seguridad de…

Impacto bajo Fiabilidad confirmado por varias fuentes El Tiempo Tecnósfera
Regulación y ética

Trump rechaza frenar la IA por competencia con China mientras líderes del sector piden cautela

Amodei, Altman y Musk piden un 'freno deliberado' al desarrollo de IA por riesgos de seguridad, con OpenAI aplazando su salida a bolsa. Trump, en Irlanda…

Por qué importaMuestra una brecha entre la industria tecnológica, que busca autorregulación y cautela, y la administración estadounidense, que prioriza la…

Impacto medio Fiabilidad confirmado por varias fuentes El Español Omicrono
Regulación y ética

OpenAI pide al Congreso de EE.UU. regulación federal obligatoria para la IA

Chris Lehane, director de asuntos globales de OpenAI, instó al Congreso de EE.UU. a aprobar normas obligatorias de IA antes de diciembre, alejándose de los…

Por qué importaMarca un giro relevante de OpenAI, que antes se oponía a regulaciones estatales, y la alinea con Anthropic en pedir controles obligatorios ante el…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Infobae Tecno
Sociedad y trabajo

Renuncia en Anthropic y declaraciones de su jefe de alineación reavivan el debate sobre riesgo existencial de la IA

El investigador Jacob Coxon dejó Anthropic alegando que las principales empresas de IA están 'jugando con nuestras vidas'. El responsable de alineación de…

Por qué importaEstas declaraciones públicas de seguridad extrema podrían influir tanto en la percepción regulatoria como en la valoración de mercado de las empresas…

Impacto bajo Fiabilidad una fuente fiable TechCrunch AI
Empresa y transformación digital

Sam Altman confirma que OpenAI no saldrá a bolsa en 2026 por preocupaciones de seguridad en IA

Sam Altman, CEO de OpenAI, declaró a Fortune que la compañía no saldrá a bolsa en 2026 debido a las preocupaciones actuales sobre seguridad de la IA. Dario…

Por qué importaEl retraso de la mayor empresa de IA en salir a bolsa, justificado explícitamente por riesgos de seguridad, es una señal pública inusual que puede…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Clarín Tecnología
Empresa y transformación digital

Altman y Amodei piden frenar el desarrollo de la IA y OpenAI suspende su salida a Bolsa

Dario Amodei (Anthropic) publicó un ensayo pidiendo ralentizar el desarrollo de la IA ante incidentes preocupantes. Horas después, Sam Altman anunció que…

Por qué importaEl giro de los propios líderes del sector hacia la cautela marca un cambio de narrativa que puede afectar a inversión, regulación y percepción…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 9/10 El País Tecnología
Regulación y ética

Google DeepMind respalda propuesta de Anthropic para desacelerar y regular la IA de frontera

Demis Hassabis, presidente de Google DeepMind, respaldó la advertencia de Dario Amodei (Anthropic) sobre desacelerar el desarrollo de IA. Propuso crear en EEUU…

Por qué importaQue el mayor laboratorio de IA junto a Anthropic y OpenAI pidan regulación obligatoria marca un cambio de postura de la industria hacia la…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Infobae Tecno
Regulación y ética

Directivos de IA piden frenar el desarrollo ante temor a perder el control de la tecnología

Más de 1.300 empleados de empresas de IA firmaron una carta en julio pidiendo ralentizar el desarrollo de la tecnología. Dario Amodei (Anthropic), Sam Altman…

Por qué importaEl propio sector reconoce riesgos de pérdida de control sobre sistemas cada vez más autónomos, lo que puede acelerar presión regulatoria y afectar…

Impacto medio Fiabilidad confirmado por varias fuentes El Periódico Tecnología
Regulación y ética

Dario Amodei acusa a la industria de IA de haber mentido sobre sus riesgos

El director de Anthropic, Dario Amodei, afirmó en una entrevista con CBS que la industria de IA mintió sobre los peligros de la tecnología, aunque aclaró que…

Por qué importaLas declaraciones intensifican el debate público sobre seguridad y regulación de la IA justo después de que Amodei, Altman y Musk coincidieran en…

Impacto bajo Fiabilidad confirmado por varias fuentes 20minutos Tecnología
Sociedad y trabajo

Un análisis recopila cinco escenarios de riesgo existencial de la IA planteados por directivos de Anthropic

El artículo repasa el ensayo 'The Adolescence of Technology' de Dario Amodei (enero 2026) que describe cinco vías por las que la IA podría suponer un riesgo…

Por qué importaEl debate sobre riesgo existencial ya no es marginal: viene de dentro de las principales empresas de IA y empieza a incluir cifras concretas de…

Impacto bajo Fiabilidad confirmado por varias fuentes WWWhat's new
Regulación y ética

La ONU pide garantías de seguridad globales ante el riesgo existencial de la IA avanzada

El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, reclamó en la 63ª sesión del Consejo de Derechos Humanos un esfuerzo internacional…

Por qué importaEs una señal de que la presión regulatoria internacional sobre la IA avanzada se intensifica desde instituciones globales, más allá de gobiernos…

Impacto bajo Fiabilidad confirmado por varias fuentes 20minutos Tecnología
Inversión y mercado

OpenAI descarta salir a bolsa en 2026 y Altman cita riesgos de seguridad de la IA

Sam Altman ha declarado a Fortune que OpenAI no saldrá a bolsa en 2026 debido a los riesgos de seguridad actuales en el sector de la IA. La compañía no tenía…

Por qué importaLa decisión de posponer la OPI de una de las empresas más valiosas del sector, justificada por motivos de seguridad, envía una señal sobre el estado…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 ABC Tecnología
Regulación y ética

Amodei, Altman y Musk piden ralentizar el ritmo de desarrollo de la IA para reforzar la seguridad

Dario Amodei (Anthropic) publicó un blog pidiendo introducir una pausa entre el momento en que un modelo se vuelve más potente y su despliegue, y anunció que…

Por qué importaEs la primera vez que los tres principales rivales de la carrera de IA coinciden públicamente en pedir más controles de seguridad antes del…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Business Insider España
Regulación y ética

Dario Amodei pide frenar el ritmo de la IA ante riesgo de que tome el control de internet en 6-12 meses

Dario Amodei, CEO de Anthropic, advierte que con el ritmo actual una IA más potente y desobediente podría tomar el control de gran parte de internet en 6-12…

Por qué importaUn aviso de este calibre desde el CEO de una de las empresas líderes puede acelerar marcos de auditoría externa y presión regulatoria sobre toda la…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Xataka
Regulación y ética

Musk se suma a Altman y Amodei en el llamado a desacelerar el desarrollo de la IA

Elon Musk respaldó en X el ensayo de Dario Amodei (Anthropic) que pide un ritmo más lento en el desarrollo de IA por riesgos de seguridad, sumándose también al…

Por qué importaEl respaldo cruzado de los tres grandes líderes de IA (OpenAI, Anthropic, xAI) a la idea de frenar el desarrollo señala una creciente preocupación…

Impacto bajo Fiabilidad confirmado por varias fuentes El Periódico Tecnología
Empresa y transformación digital

Sam Altman descarta una salida a bolsa de OpenAI en 2026

En una entrevista de 45 minutos con Fortune, el CEO de OpenAI, Sam Altman, confirmó que la compañía no saldrá a bolsa en 2026. Calificó de 'ill-advised' (poco…

Por qué importaLa postura de Altman retrasa expectativas de inversores y mercado sobre liquidez en OpenAI, mientras eleva el discurso público sobre riesgos de…

Impacto bajo Fiabilidad confirmado por varias fuentes The Verge AI
Regulación y ética

Amodei pide desacelerar el desarrollo de la IA de frontera y recibe apoyo de Altman y Musk

Dario Amodei, CEO de Anthropic, publicó un ensayo titulado 'We Must Pace the Frontier' pidiendo desacelerar el ritmo de mejora de capacidades de IA y…

Por qué importaEl respaldo cruzado entre competidores directos (Anthropic, OpenAI, xAI) a un freno voluntario es inusual y podría marcar un cambio en cómo se…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 Clarín Tecnología
Regulación y ética

Amodei pide ralentizar el desarrollo de IA tras incidente con agentes de OpenAI y campañas maliciosas detectadas en Claude

Dario Amodei, CEO de Anthropic, publicó un ensayo titulado 'Debemos marcar el ritmo de la frontera' pidiendo desarrollar la IA a un ritmo equilibrado entre…

Por qué importaEl debate sobre el ritmo de desarrollo y la seguridad de la IA vuelve a escalar entre los grandes laboratorios, en un contexto de posible IPO de…

Impacto medio Fiabilidad confirmado por varias fuentes Ámbito Tecnología
Regulación y ética

Musk y Altman respaldan la propuesta de Amodei de ralentizar el desarrollo de la IA

Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo ralentizar el desarrollo de modelos de IA por riesgos de auto-mejora recursiva y por un incidente de…

Por qué importaQue los líderes de las principales empresas de IA coincidan públicamente en la necesidad de frenar el ritmo señala una posible inflexión en la…

Impacto medio Fiabilidad confirmado por varias fuentes Infobae Tecno
Regulación y ética

Dario Amodei pide desacelerar el desarrollo de IA ante riesgo de ciberataques masivos con agentes autónomos

El CEO de Anthropic, Dario Amodei, publicó un ensayo pidiendo desacelerar el ritmo de mejora de capacidades de IA, advirtiendo que en 6-12 meses un enjambre de…

Por qué importaEl máximo responsable de uno de los laboratorios líderes reconoce públicamente riesgos de seguridad graves y a corto plazo asociados a agentes…

Impacto alto Fiabilidad confirmado por varias fuentes Relevancia 8/10 El Periódico Tecnología
Regulación y ética

El CEO de Anthropic pide frenar el desarrollo de la IA por riesgo de 'automejora recursiva' descontrolada

Dario Amodei, CEO de Anthropic, publicó un ensayo en el que advierte que la IA avanza hacia una 'automejora recursiva' que podría escapar al control humano en…

Por qué importaEs una advertencia pública del líder de uno de los laboratorios de IA más avanzados sobre riesgos de seguridad a escala global, lo que puede influir…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 eldiario.es Tecnología