Ir al contenido
IA para hoy

evaluación de riesgos

Noticias etiquetadas con «evaluación de riesgos»

5 noticias

Filtrar
Regulación y ética

Anthropic concede a la organización independiente METR acceso de tipo empleado para evaluar riesgos

Anthropic ha concedido a METR, una organización sin ánimo de lucro, acceso de tipo empleado para evaluar los riesgos de sus modelos. METR tiene ahora un equipo…

Por qué importaUna evaluación externa con acceso interno reduce la dependencia de lo que los propios laboratorios afirman sobre seguridad. Es una de las medidas…

Impacto medio Fiabilidad una fuente fiable Relevancia 7/10 Ars Technica AI
Regulación y ética

Anthropic actualiza su política de seguridad RSP 2.2 con umbrales graduales y revisión externa

Anthropic publicó la versión 2.2 de su Responsible Scaling Policy, anunciada el 13 de octubre de 2026. Introduce una escala de cinco niveles para capacidades…

Por qué importaUna política de seguridad con supervisión externa facilita a las empresas clientes responder a sus departamentos legales y de cumplimiento sobre los…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 WWWhat's new
Regulación y ética

OpenAI detiene el desarrollo de Astra por capacidades críticas en ciberataques autónomos

OpenAI ha pausado los trabajos sobre Astra, su nuevo modelo de IA, tras evaluar que posee capacidades «críticas» para ejecutar ciberataques de forma autónoma…

Por qué importaEsta pausa de seguridad señala que los modelos más avanzados están alcanzando capacidades que podrían representar riesgos reales de ciberseguridad…

Impacto alto Fiabilidad varias fuentes Relevancia 8/10 Hipertextual
Regulación y ética

Empresas casi duplican evaluaciones de seguridad en herramientas de IA en 2026

Según la encuesta Global Cybersecurity Outlook 2026 del World Economic Forum, el 64% de líderes empresariales ahora evalúa riesgos de seguridad en herramientas…

Por qué importaLa duplicación de evaluaciones de seguridad refleja una maduración crítica en la adopción empresarial de IA; sin embargo, solo el 64% de…

Impacto alto Fiabilidad declaración interesada Relevancia 7/10 The Register AI
Regulación y ética

DeepMind propone marco de tres capas para evaluar riesgos éticos de la IA generativa

Google DeepMind ha publicado un nuevo paper que introduce un marco de evaluación de tres capas para los riesgos sociales y éticos de sistemas de IA generativa…

Por qué importaLas empresas que desarrollan o desploegan sistemas de IA necesitan marcos prácticos y consensuados para evaluar riesgos reales, no solo capacidades…

Impacto medio Fiabilidad fuente primaria Relevancia 7/10 Google DeepMind