Noticias etiquetadas con «seguridad de la IA»
60 noticias
El artículo sostiene que el rechazo de peticiones se ha convertido en la principal barrera de seguridad de los modelos de lenguaje. Describe cómo las empresas…
Por qué importaPara una empresa que integra modelos de IA, la seguridad depende de un filtro que puede fallar y cuyos criterios no son públicos ni auditables…
En una entrevista con Vanity Fair, el CEO de OpenAI, Sam Altman, afirmó que la IA 'hace cosas que no entendemos y no sabemos cómo detenerla' y que el riesgo…
Por qué importaLas declaraciones del CEO de la empresa líder en IA generativa reflejan una tensión creciente entre innovación acelerada y gestión de riesgos, lo que…
David Robinson, quien lideró los informes de seguridad de los principales lanzamientos de OpenAI, anunció su renuncia tras tres años y medio en la empresa. En…
Por qué importaLa salida de un responsable interno de seguridad, no de un crítico externo, cuestiona si el ritmo de lanzamientos de los grandes laboratorios permite…
El Wall Street Journal describe Constellation, un coworking en Berkeley que agrupa a investigadores y activistas del altruismo eficaz preocupados por riesgos…
Por qué importaMuestra cómo una subcultura ideológica concreta ha moldeado el discurso público y las políticas internas de seguridad de una de las empresas líderes…
Donald Trump se reunió en la Casa Blanca con directivos de Nvidia, Anthropic, Palantir, OpenAI, Meta y Google para hablar de riesgos de la IA. La cita coincide…
Por qué importaLa convergencia de alertas internas de las propias empresas de IA con la presión política y social puede acelerar cambios regulatorios o de…
El Papa León XIV declaró tras su viaje a Francia que las preocupaciones de expertos sobre la IA descontrolada no son 'noticias falsas', contradiciendo a Trump…
Por qué importaEl posicionamiento de una figura de alcance global como el Papa añade presión moral y mediática al debate sobre regulación de la IA, en contraste…
Un nuevo paper firmado por más de 20 investigadores, entre ellos Geoffrey Hinton, Yoshua Bengio y el responsable de investigación de OpenAI Jakub Pachocki…
Por qué importaSi la automatización de la I+D en IA se acelera tan rápido como sugiere el paper, las empresas y gobiernos podrían perder capacidad de control y…
Según el Wall Street Journal, algunos de los empleados más veteranos de Anthropic están considerando comprar terrenos en zonas remotas de EEUU como refugio en…
Por qué importaRevela hasta qué punto ciertos empleados fundadores de laboratorios líderes en IA toman en serio, a nivel personal, los riesgos existenciales que sus…
El máximo responsable de Anthropic se dirigió a la ONU para alertar sobre los riesgos de la inteligencia artificial, calificándolos como 'el problema de…
Por qué importaUn mensaje de este tipo, proveniente de una de las principales empresas de IA, refuerza la presión hacia marcos regulatorios internacionales y puede…
Sam Altman (OpenAI) y Dario Amodei (Anthropic) hablaron ante el Consejo de Seguridad de la ONU y pidieron salvaguardas internacionales para los sistemas de IA…
Por qué importaLas dos empresas líderes en modelos avanzados reclaman públicamente supervisión externa, lo que anticipa un debate regulatorio internacional que…
El CEO de Nvidia, Jensen Huang, dijo en una entrevista con CBS News que hay un 0% de probabilidades de que la IA acabe con el mundo para 2030, contradiciendo…
Por qué importaEl debate entre acelerar o frenar el desarrollo de IA frontera enfrenta a los principales actores de la industria y tiene implicaciones directas en…
El artículo, de The Economist, analiza la propuesta de frenar la carrera armamentista de IA entre EEUU y China, citando el caso de Ucrania como ejemplo de cómo…
Por qué importaLa falta de mecanismos de verificación técnica hace que cualquier acuerdo de contención de IA entre potencias sea frágil, lo que mantiene la…
El artículo repasa la trayectoria de Dario Amodei, CEO de Anthropic, desde su trabajo en Baidu, Google Brain y OpenAI hasta la fundación de Anthropic en 2021…
Por qué importaAmodei se ha convertido en una figura central del debate sobre seguridad y ritmo del desarrollo de IA, con influencia sobre otros líderes del sector…
Dario Amodei (Anthropic) pidió ralentizar el desarrollo de la IA con un plan de tres puntos: supervisión independiente, regulación sectorial y global. Sam…
Por qué importaEl debate revela una tensión entre seguridad y competitividad geopolítica que puede definir cómo se regula la IA en los próximos años, afectando la…
El rey Carlos III convocó un foro en Dumfries House, Escocia, con Jensen Huang (Nvidia), Sarah Friar (OpenAI), Demis Hassabis (DeepMind), representantes de…
Por qué importaRefleja la creciente presión política e institucional sobre las grandes empresas de IA para que asuman compromisos públicos de seguridad, en un…
En la conferencia anual de Salesforce, Sam Altman reconoció que la sociedad tiene motivos para temer los riesgos de la IA. Sus declaraciones llegan tras la…
Por qué importaEl debate sobre seguridad y ritmo de desarrollo de la IA se traslada del ámbito técnico al discurso público de los propios líderes del sector, lo que…
Microsoft ha presentado un 'Código de conducta para una IA humanista' que establece que sus modelos, incluidos los MAI, deben permanecer bajo control humano y…
Por qué importaRefleja una tendencia de las grandes tecnológicas a autorregularse formalmente ante la falta de marcos legales claros, lo que puede convertirse en…
Yoshua Bengio afirmó que la preocupación por la seguridad de la IA alcanzó un nivel que podría llevar a los gobiernos a actuar con la rapidez que mostraron al…
Por qué importaEl testimonio de una figura influyente en IA sugiere que la presión regulatoria podría acelerarse ante incidentes de seguridad documentados, lo que…
En una conferencia del sector, Sam Altman afirmó que "el mundo hace bien en tener miedo" de la IA pero debe confiar en las empresas que la desarrollan. Mark…
Por qué importaLas declaraciones públicas de los máximos responsables de las principales empresas de IA sobre sus propios riesgos alimentan el debate regulatorio y…
Un artículo de opinión en El País argumenta que las peticiones de líderes de IA como Dario Amodei y Sam Altman para un 'alto el fuego' o reglas comunes sobre…
Por qué importaPlantea que la responsabilidad regulatoria no debe delegarse en la autorregulación voluntaria de las empresas de IA, sino aplicarse mediante el marco…
El artículo repasa incidentes recientes (hackeo de agentes de OpenAI a Hugging Face, advertencias de exempleados de Anthropic y OpenAI, declaraciones de Dario…
Por qué importaLa ausencia de mecanismos técnicos de control y supervisión eficaces plantea riesgos operativos y reputacionales para empresas que integran agentes…
Dario Amodei, CEO de Anthropic, publicó un ensayo titulado 'We Must Pace the Frontier' proponiendo pausar el desarrollo acelerado de IA mediante evaluadores…
Por qué importaEl debate refleja una fractura creciente entre la industria sobre si autorregular el ritmo de desarrollo de IA o dejar que la competencia y el…
El lunes, acciones vinculadas a IA cayeron en varios mercados asiáticos: Samsung retrocedió 4,05%, SK hynix 6,35% y el Kospi surcoreano bajó 3,34%. En…
Por qué importaMuestra una divergencia entre la cautela inversora en Asia ante riesgos regulatorios y de seguridad de la IA, y la confianza en las Big Tech…
Microsoft ha publicado un documento de 37 páginas denominado 'código de conducta de IA humanista', en medio de crecientes preocupaciones sobre el avance de los…
Por qué importaEs una toma de posición pública de uno de los mayores actores de IA sobre los límites éticos de sus sistemas, en un momento de intenso debate sobre…
