Noticias etiquetadas con «auditoría»
8 noticias
Anthropic ha dado a seis personas de la organización sin ánimo de lucro METR acceso a equipos, oficinas y herramientas internas para revisar sus modelos y…
Por qué importaEl acceso concedido a METR supera al ofrecido a otros revisores externos como SecureBio, Accenture o Faculty, lo que eleva el listón para las…
Según una investigación de Reuters, OpenAI y Anthropic quieren ejercer un «control significativo» sobre lo que publican los evaluadores externos, por temor a…
Por qué importaLa independencia de las evaluaciones de seguridad determina qué riesgos de los modelos llegan a conocerse. Las empresas que usan estos modelos…
OpenAI ha publicado un documento con prioridades y principios para realizar evaluaciones rigurosas, seguras e independientes por parte de terceros sobre…
Por qué importaEstablece un marco de referencia sobre cómo OpenAI espera que se auditen sus modelos, lo que puede influir en estándares del sector y en la confianza…
Tras propuestas de Anthropic y otros laboratorios de crear auditores externos de seguridad de IA, expertos en ciberseguridad como Kate Moussouris (Luta…
Por qué importaMuestra que los grandes laboratorios de IA carecen de prácticas de seguridad informática básicas pese a construir sistemas autónomos cada vez más…
The Oversight Board, organismo independiente que revisa Meta, publicó un estudio que evaluó diez aplicaciones comerciales de IA generativa incluyendo ChatGPT…
Por qué importaEl hallazgo expone cómo los modelos de IA más utilizados pueden amplificar involuntariamente los regímenes de censura de gobiernos represivos…
OpenAI y Paradigm han presentado EVMbench, un benchmark diseñado para evaluar la capacidad de los agentes de IA en detectar, corregir y explotar…
Por qué importaLos contratos inteligentes manejan miles de millones en activos digitales, y cualquier vulnerabilidad puede resultar en pérdidas significativas. Un…
Google DeepMind publica un nuevo marco de investigación para evaluar riesgos extremos en modelos de propósito general, desarrollado en colaboración con…
Por qué importaLas empresas y reguladores necesitan herramientas concretas para evaluar y mitigar riesgos de modelos cada vez más potentes antes de su despliegue…
La Oficina del Comisionado de Información (ICO) concluyó en julio de 2017 una investigación sobre el uso de la app Streams de DeepMind en el NHS Royal Free…
Por qué importaEl caso Streams fue un punto de inflexión en la regulación de IA sanitaria: demostró que el uso de datos de pacientes requiere gobernanza clara y…
