Noticias etiquetadas con «Anthropic»
1071 noticias
Dario Amodei, CEO de Anthropic, propuso a METR (Model Evaluation and Threat Research) como organismo de supervisión independiente para auditar riesgos de…
Por qué importaEl debate sobre quién audita a la IA y con qué independencia real es clave para la futura gobernanza regulatoria del sector, especialmente si…
Bilal Chughtai, exingeniero de alineamiento y seguridad de IA en Google DeepMind, anunció su renuncia en X y LinkedIn afirmando que la IA 'tiene el potencial…
Por qué importaLa acumulación de renuncias de perfiles técnicos internos, sumada a declaraciones públicas de líderes como Amodei, refuerza el debate sobre riesgos…
Elon Musk afirmó en All-In Summit que Anthropic se preocupa más por la seguridad de la IA que OpenAI, aunque aclaró que ningún modelo está libre de riesgos…
Por qué importaLas declaraciones de una figura influyente del sector reabren el debate sobre gobernanza y autorregulación de la seguridad en IA, en un contexto de…
OpenAI comenzó conversaciones con Anthropic y Google DeepMind para coordinar medidas de seguridad frente a riesgos de la IA, según reveló Chris Lehane…
Por qué importaLa cooperación entre competidores directos en seguridad señala una presión creciente, política y social, para establecer límites al desarrollo de…
Chris Lehane, jefe de política de OpenAI, confirmó que su empresa lleva semanas en conversaciones con Anthropic y Google DeepMind sobre seguridad en IA, según…
Por qué importaLa coordinación entre competidores directos en materia de seguridad plantea tensiones legales (antitrust) y políticas, en un contexto donde la…
Sam Altman confirmó a Fortune que OpenAI no saldrá a bolsa en 2026, alegando que el contexto de seguridad de la IA hace desaconsejable ese paso. OpenAI…
Por qué importaSalir a bolsa obligaría a OpenAI a publicar trimestralmente pérdidas, deudas y riesgos, incluyendo la contradicción de pedir frenar el desarrollo de…
El Nasdaq 100 cayó un 1,2% hasta cerrar con un 0,4% de pérdida tras advertencias de directivos de OpenAI, Anthropic y otros sobre riesgos existenciales de la…
Por qué importaLa reacción bursátil revela que los mercados no descuentan el riesgo existencial sino el riesgo de recorte del gasto en infraestructura de IA, que se…
Salesforce presentó en Dreamforce 2026 la arquitectura AI Force, que integra Claude Force (con Anthropic vía MCP), Slack Force y Agent Force Co-worker. Junto a…
Por qué importaMarca un giro de Salesforce de vender plataformas de construcción a ofrecer agentes autónomos listos para usar, reduciendo la dependencia de equipos…
Salesforce presentó en Dreamforce 2026 la arquitectura AI Force, que integra Claude Force (con Anthropic), Slack Force y Agent Force Co-worker, orientada a…
Por qué importaMarca un giro de Salesforce hacia agentes preconfigurados listos para usar en lugar de plataformas de construcción, reduciendo la dependencia de…
Usuarios de Claude reportaron consumo inexplicable de tokens sin usar el servicio. Anthropic confirmó que sesiones fueron comprometidas mediante malware…
Por qué importaLos tokens de IA con límites de uso se han convertido en un objetivo de valor para atacantes, un vector de ataque nuevo distinto al robo de datos…
Dario Amodei (Anthropic) pidió públicamente ajustar el ritmo de desarrollo de los modelos frontera, y Sam Altman, Elon Musk y Demis Hassabis se sumaron con…
Por qué importaEl debate sobre seguridad de la IA está entrelazado con intereses comerciales y regulatorios de las propias empresas que lideran el sector, lo que…
Los senadores Thune, Cruz y Klobuchar negocian un borrador de ley que impondría un deber de cuidado a los desarrolladores de IA avanzada y daría al Ejecutivo…
Por qué importaEs la primera propuesta legislativa concreta en EE.UU. que otorgaría al gobierno poder de veto previo al lanzamiento de un modelo de IA, similar al…
Dario Amodei propuso a METR (Model Evaluation and Threat Research) como organismo externo para auditar riesgos catastróficos de la IA. METR nació de ARC Evals…
Por qué importaLa elección del auditor de seguridad de IA condiciona qué riesgos se priorizan y puede influir en la regulación futura, afectando la competencia…
Tras el llamado de Dario Amodei a coordinar una ralentización del desarrollo de IA de frontera con exenciones antimonopolio, varias voces han respondido…
Por qué importaEl debate revela una fractura entre los grandes laboratorios de IA (que buscan fijar estándares y protegerse de la competencia) y actores más…
OpenAI y Anthropic utilizan contratistas externos para revisar conversaciones de usuarios con sus chatbots, como parte del proceso de ajuste de las respuestas…
Por qué importaGenera preocupación sobre privacidad y confidencialidad de los datos que los usuarios comparten con estos asistentes, especialmente en contextos…
Tras el desplome de acciones de IA (Nvidia, AMD, Intel, Micron, SK Hynix) por temores existenciales expresados por líderes del sector, valores de…
Por qué importaMuestra cómo el mercado está repricing el riesgo de la IA, trasladando capital desde infraestructura hacia empresas que protegen frente a amenazas…
Un artículo de opinión recoge posturas de figuras como Nikesh Arora (Palo Alto Networks), Ben Thompson, Lina Khan y David Sacks que cuestionan las advertencias…
Por qué importaEl debate sobre si la IA requiere nueva regulación o basta con la responsabilidad legal existente afecta directamente a cómo las empresas de IA…
El alto comisionado de la ONU, Volker Türk, advirtió que el desarrollo acelerado de la IA pone en riesgo derechos humanos y puede afectar servicios como agua…
Por qué importaLa advertencia de un organismo internacional añade presión regulatoria global sobre empresas que despliegan sistemas de IA agéntica en…
OpenAI ha decidido posponer su salida a bolsa, que podría haberla valorado por encima de un billón de dólares, alegando motivos de seguridad en IA. La compañía…
Por qué importaEl aplazamiento sugiere que OpenAI podría no querer exponer su situación financiera real ante inversores institucionales, lo que alimenta dudas sobre…
Directivos como Dario Amodei (Anthropic) y Sam Altman (OpenAI) han pedido ralentizar el desarrollo de modelos de frontera y establecer auditorías, evaluadores…
Por qué importaLas propuestas de autorregulación de los grandes laboratorios podrían configurar de facto el marco regulatorio antes de que exista legislación…
El artículo repasa incidentes recientes (hackeo de agentes de OpenAI a Hugging Face, advertencias de exempleados de Anthropic y OpenAI, declaraciones de Dario…
Por qué importaLa ausencia de mecanismos técnicos de control y supervisión eficaces plantea riesgos operativos y reputacionales para empresas que integran agentes…
Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo desacelerar el desarrollo de la IA y propuso que las empresas de vanguardia se autorregulen mediante…
Por qué importaEl debate revela una tensión entre discurso público de seguridad y posibles intereses comerciales de las grandes tecnológicas, lo que puede…
Dario Amodei, CEO de Anthropic, propuso un plan de tres pasos para ralentizar el desarrollo de IA avanzada, incluyendo evaluadores externos con 'acceso de…
Por qué importaEl debate refleja una tensión creciente entre seguridad y competitividad que puede derivar en marcos de autorregulación o, por el contrario, en…
El director de Anthropic, Dario Amodei, ha planteado un plan de tres etapas para desacelerar el desarrollo de la inteligencia artificial, que incluye…
Por qué importaLa postura de un líder de la industria que reconoce riesgos y pide freno regulatorio alimenta el debate sobre gobernanza global de la IA, aunque su…
