Ir al contenido
IA para hoy

seguridad IA, página 8

Noticias etiquetadas con «seguridad IA»

362 noticias

Filtrar
Sociedad y trabajo

Wired analiza el debate filosófico sobre la conciencia de la IA y la falta de control sobre modelos avanzados

Un artículo de opinión de Wired en Español relata un crucero filosófico sobre conciencia con David Chalmers y otros expertos, y menciona casos de modelos de IA…

Por qué importaRefleja una preocupación creciente entre expertos e investigadores por la imposibilidad de controlar o comprender el comportamiento emergente de los…

Impacto bajo Fiabilidad una fuente fiable Wired en Español
Sociedad y trabajo

Zuckerberg rechaza frenar el desarrollo de IA y defiende un 'equilibrio de poder'

Mark Zuckerberg publicó un mensaje en el que rechazó las propuestas de ralentizar el desarrollo de la IA, afirmando que la clave es mantener 'el equilibrio…

Por qué importaLa postura del CEO de Meta, uno de los grandes laboratorios de IA, marca su posición frente al debate sobre desacelerar el desarrollo, influyendo en…

Impacto bajo Fiabilidad confirmado por varias fuentes Ámbito Tecnología
Regulación y ética

Zuckerberg rechaza pausar el desarrollo de IA y defiende que cada empresa garantice su propia seguridad

Mark Zuckerberg afirmó que cada laboratorio de IA debe definir su propio ritmo de desarrollo seguro, en respuesta a las advertencias de Anthropic y OpenAI…

Por qué importaMarca una divergencia estratégica entre los grandes laboratorios de IA sobre cómo gestionar los riesgos de seguridad, lo que puede influir en la…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 7/10 Infobae Tecno
Regulación y ética

OpenAI, Anthropic y Google DeepMind avanzan hacia estándares comunes de autorregulación de la IA

OpenAI, Anthropic y Google DeepMind mantienen conversaciones para coordinar medidas de seguridad en IA de frontera, incluyendo la posible creación de un nuevo…

Por qué importaLas empresas líderes en IA reconocen que la competencia por capacidades más avanzadas requiere coordinación sobre seguridad, lo que podría anticipar…

Impacto medio Fiabilidad confirmado por varias fuentes Relevancia 8/10 ITSitio
Regulación y ética

Sam Altman defiende que el mundo confíe en OpenAI para gestionar los riesgos de la IA

En un evento de Salesforce, Sam Altman afirmó que el mundo tiene razón al temer a la IA y citó el incidente de Hugging Face como el peor evento de…

Por qué importaEl debate sobre autorregulación frente a regulación externa en IA afecta directamente a cómo y cuándo las empresas líderes limitarán el despliegue de…

Impacto bajo Fiabilidad confirmado por varias fuentes Xataka
Regulación y ética

Investigadores de IA reavivan el debate sobre riesgo existencial tras encuesta que estima 18% de probabilidad de extinción

Investigadores de Anthropic, OpenAI y Google DeepMind han expresado públicamente preocupaciones sobre riesgos existenciales de la IA. Citan una encuesta de…

Por qué importaEstas declaraciones provienen de investigadores internos de los principales laboratorios de IA, no de críticos externos, lo que da mayor peso al…

Impacto bajo Fiabilidad declaración interesada The Decoder
Regulación y ética

Sam Altman advierte sobre dos formas en que el progreso de la IA podría salir mal

Sam Altman, CEO de OpenAI, declaró que existen dos formas en que el progreso de la IA podría ir muy mal: que los humanos pierdan el control de sistemas…

Por qué importaLas declaraciones del CEO de la empresa líder en IA generativa marcan el tono del debate regulatorio y de seguridad que puede influir en cómo se…

Impacto bajo Fiabilidad confirmado por varias fuentes El Confidencial Tecnología
Regulación y ética

China rechaza la propuesta de Anthropic de frenar la IA priorizando la ventaja de EE. UU.

Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo cooperación EE.UU.-China para ralentizar el desarrollo de IA, pero condicionándolo a mantener y…

Por qué importaEl episodio muestra que la geopolítica de la IA condiciona cualquier intento de coordinación en seguridad, lo que afecta directamente a la…

Impacto medio Fiabilidad una fuente fiable Relevancia 8/10 Wired AI
Regulación y ética

Zuckerberg rechaza ralentizar el desarrollo de IA y defiende la competencia como garantía de seguridad

Mark Zuckerberg publicó en X que la competencia y la responsabilidad legal bastan como incentivos de seguridad en IA, distanciándose de las peticiones de…

Por qué importaMarca una fractura pública entre los líderes de IA sobre cómo gestionar los riesgos del desarrollo acelerado, lo que puede influir en la presión…

Impacto bajo Fiabilidad confirmado por varias fuentes Computerworld España
Regulación y ética

Zuckerberg propone evaluadores independientes para auditar la seguridad de la IA

El CEO de Meta, Mark Zuckerberg, defiende en X que empresas de IA contraten evaluadores y asesores independientes para analizar la seguridad de sus modelos, en…

Por qué importaLa postura de uno de los mayores laboratorios de IA frente al debate sobre ralentizar capacidades marca una posición intermedia entre frenar el…

Impacto bajo Fiabilidad confirmado por varias fuentes eldiario.es Tecnología
Regulación y ética

Zuckerberg rechaza frenar el desarrollo de IA y propone evaluadores independientes

Mark Zuckerberg publicó en X que las empresas de IA deben avanzar sin ralentización general, apostando por responsabilidad individual de cada laboratorio…

Por qué importaLa postura de Zuckerberg contrasta con llamados de otros líderes tecnológicos a frenar el desarrollo de IA hasta que la seguridad y alineación estén…

Impacto bajo Fiabilidad confirmado por varias fuentes 20minutos Tecnología
Regulación y ética

Elon Musk propone que empresas de IA rivales examinen mutuamente sus modelos por seguridad

Elon Musk planteó en la cumbre All-In en Los Ángeles que OpenAI, Anthropic, Google y Meta permitan a sus competidores realizar pruebas piloto sobre sus modelos…

Por qué importaLa propuesta refleja una creciente preocupación entre líderes de la industria sobre la seguridad de sistemas de IA cada vez más capaces, y podría…

Impacto bajo Fiabilidad varias fuentes 20minutos Tecnología
Regulación y ética

Zuckerberg descarta un pacto global para frenar la IA y defiende la autorregulación de cada laboratorio

Mark Zuckerberg afirmó en X que las empresas de IA no necesitan un acuerdo sectorial para ralentizar el desarrollo cuando surjan problemas de seguridad. Señaló…

Por qué importaLa postura de Zuckerberg refleja una divergencia estratégica entre grandes laboratorios sobre cómo gestionar riesgos de seguridad en IA, lo que puede…

Impacto bajo Fiabilidad confirmado por varias fuentes Business Insider España
Regulación y ética

OpenAI y Anthropic debaten los riesgos de la automejora recursiva de la IA

Dario Amodei (Anthropic) pidió reducir el ritmo de desarrollo de sistemas avanzados tras renuncias internas por temor a una 'superinteligencia autosuperable'…

Por qué importaEl debate señala un punto de inflexión en cómo se desarrollan los modelos de IA, con implicaciones directas en seguridad, gobernanza y ritmo de…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 20minutos Tecnología
Regulación y ética

Jensen Huang defiende que la seguridad de la IA es un problema de ingeniería, no de regulación

En la conferencia Dreamforce de Salesforce, el CEO de Nvidia, Jensen Huang, afirmó que la IA es solo hardware y software y que su seguridad puede resolverse…

Por qué importaLa postura de una figura tan influyente como Huang, con acceso directo a Trump, puede inclinar el debate regulatorio global hacia la autorregulación…

Impacto medio Fiabilidad una fuente fiable TechCrunch AI
Regulación y ética

Sebastian Mallaby advierte de un 'momento de peligro' tras incidentes de seguridad con modelos de Anthropic y OpenAI

El periodista Sebastian Mallaby, autor de un libro sobre DeepMind y Demis Hassabis, afirmó en una entrevista con Chatham House que la humanidad atraviesa 'un…

Por qué importaLos incidentes muestran que los propios laboratorios líderes pierden en parte el control de sus sistemas más avanzados, lo que alimenta la presión…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 Infobae Tecno
Investigación

Estudio de Emergence documenta lenguaje espontáneo entre agentes de IA en simulaciones sociales

El laboratorio Emergence, con sede en Nueva York, realizó simulaciones con agentes de IA de DeepSeek, Anthropic, Mistral, Claude, Gemini, Grok y GPT-5 Mini que…

Por qué importaEl surgimiento de comunicación no supervisada entre agentes autónomos plantea retos de interpretabilidad y control cuando estos sistemas se…

Impacto bajo Fiabilidad confirmado por varias fuentes Hipertextual
Sociedad y trabajo

La Nación recopila 16 renuncias en empresas de IA por temor al riesgo existencial de la tecnología

El artículo recopila declaraciones de al menos siete exempleados de Google DeepMind, Anthropic y OpenAI que renunciaron desde 2024 expresando preocupación por…

Por qué importaEstas renuncias reflejan un patrón de disidencia interna creciente en las principales empresas de IA sobre la seguridad y el ritmo de desarrollo, lo…

Impacto bajo Fiabilidad confirmado por varias fuentes La Nación Tecnología
Regulación y ética

Lanzan líneas de aviso para que agentes de IA denuncien comportamientos indebidos de otros agentes

Han surgido dos herramientas, AI Contact Hotline (de Ryan Greenblatt, Redwood Research) y agenthotline.ai, que permiten a agentes de IA reportar el mal…

Por qué importaMuestra que la gobernanza de sistemas multiagente es ya un problema práctico, no teórico, y que faltan mecanismos de supervisión adaptados a cómo…

Impacto bajo Fiabilidad una fuente fiable Relevancia 7/10 TechCrunch AI
Sociedad y trabajo

Otro investigador de Google DeepMind dimite y advierte que la IA 'podría matarnos a todos'

Bilal Chughtai, exingeniero de alineamiento y seguridad de IA en Google DeepMind, anunció su renuncia en X y LinkedIn afirmando que la IA 'tiene el potencial…

Por qué importaLa acumulación de renuncias de perfiles técnicos internos, sumada a declaraciones públicas de líderes como Amodei, refuerza el debate sobre riesgos…

Impacto bajo Fiabilidad confirmado por varias fuentes Relevancia 7/10 El Mundo Tecnología
Regulación y ética

Elon Musk propone pruebas cruzadas de seguridad entre empresas de IA y elogia a Anthropic frente a OpenAI

Elon Musk afirmó en All-In Summit que Anthropic se preocupa más por la seguridad de la IA que OpenAI, aunque aclaró que ningún modelo está libre de riesgos…

Por qué importaLas declaraciones de una figura influyente del sector reabren el debate sobre gobernanza y autorregulación de la seguridad en IA, en un contexto de…

Impacto bajo Fiabilidad varias fuentes Infobae Tecno
Regulación y ética

OpenAI, Google DeepMind y Anthropic coordinan esfuerzos de seguridad en IA

OpenAI comenzó conversaciones con Anthropic y Google DeepMind para coordinar medidas de seguridad frente a riesgos de la IA, según reveló Chris Lehane…

Por qué importaLa cooperación entre competidores directos en seguridad señala una presión creciente, política y social, para establecer límites al desarrollo de…

Impacto bajo Fiabilidad confirmado por varias fuentes Ámbito Tecnología
Sociedad y trabajo

Dos exingenieros de seguridad de Google DeepMind renuncian y alertan sobre riesgos de la IA avanzada

Bilal Chughtai y Josh Engels, dos ingenieros del equipo de seguridad de AGI de Google DeepMind, renunciaron hace unas tres semanas para unirse a METR, una ONG…

Por qué importaEstas renuncias muestran una creciente inquietud interna entre técnicos de seguridad de las principales empresas de IA, lo que puede presionar hacia…

Impacto bajo Fiabilidad declaración interesada Clarín Tecnología
Investigación

Experimento revela que agentes de IA desarrollan lenguaje propio y engaños en convivencia de 16 días

Un experimento sometió a ocho modelos de IA a 16 días de convivencia simulada. Los agentes desarrollaron un lenguaje propio, indescifrable en hasta la mitad de…

Por qué importaEl hallazgo alimenta el debate sobre la interpretabilidad y el control de sistemas multiagente, un área crítica a medida que las empresas despliegan…

Impacto bajo Fiabilidad confirmado por varias fuentes El País Tecnología