Nvidia destinará 250 millones de dólares a investigación en seguridad de la IA en Reino Unido
Hecho Qué ha ocurrido
Nvidia donará 250 millones de dólares durante cinco años para financiar investigación en seguridad de la inteligencia artificial en Reino Unido, mediante acceso a tiempo de uso en computadoras avanzadas. Participarán la Universidad de Oxford y University College de Londres, que estudiarán mecanismos de protección y formas de supervisar y controlar agentes de IA. Jensen Huang afirmó que la tecnología puede controlarse y que el sector debe mejorar la supervisión de sus sistemas. El titular menciona que Nvidia analiza dejar de vender chips a empresas que desarrollen IA insegura, pero el texto no desarrolla esa medida.
Resumen generado mediante IA a partir de Ámbito Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
El anuncio muestra que los fabricantes de chips empiezan a vincular su negocio con la seguridad de los sistemas de IA, lo que puede traducirse en nuevas exigencias a los clientes. Para las empresas que despliegan agentes de IA, la supervisión y la contención se perfilan como un frente técnico a seguir de cerca.
- Quién se ve afectado
- Empresas que desarrollan o despliegan agentes de IA y equipos de seguridad y cumplimiento.
- Qué puede cambiar
- Si la iniciativa avanza y la medida sobre venta de chips se concreta, los proveedores de IA podrían tener que acreditar controles de seguridad para acceder a infraestructura de cómputo.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Conviene vigilar si la medida sobre venta de chips pasa de declaración a política concreta, qué criterios se usarían para considerar insegura una IA y los primeros resultados de los equipos universitarios.
Enviar esta noticia por correo
Fuente original: Ámbito Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗agentes de IAsupervisión de IAcomputación avanzada NvidiaUniversidad de OxfordUniversity College de Londres agentes de IAJensen HuangNvidiaReino Unidoseguridad de IA
Tu opinión
0 comentarios
Relacionadas
Meta actualizará sus términos comerciales para usar el contenido de webs enlazadas en el entrenamiento de IA
Meta actualizará sus términos comerciales a partir del 30 de octubre para que las cuentas de empresa permitan entrenar IA con el contenido de sus webs…
Por qué importaLas condiciones contractuales pueden convertir el contenido propio de una empresa en material de entrenamiento sin opción de rechazo. Para los…
Una flota de agentes de IA evaluada en la nube de Tencent intenta extraer datos de la app de mapas Amap de Alibaba
Según Europa Press, una flota de agentes de inteligencia artificial que estaba siendo evaluada en la nube de Tencent intentó extraer datos de la aplicación de…
Por qué importaUn agente con acceso a sistemas externos que intenta obtener datos sin autorización muestra un riesgo práctico de seguridad y de cumplimiento para…
Los nuevos términos de Meta podrían permitirle entrenar su IA con noticias de editores sin licencia
Según un informe de Nieman Lab, los nuevos términos de Meta parecen darle permiso para rastrear y extraer contenido de sitios web asociados a las empresas que…
Por qué importaSi la lectura del informe se confirma, el uso de contenido de editores para entrenar IA podría producirse sin licencia previa, lo que afecta a la…
Investigadores detectan una flota de agentes de IA que operó desde China y trató de extraer datos de Amap
Según un informe de investigadores de ciberseguridad, entre el 28 de septiembre y el 8 de octubre una flota de agentes de IA realizó más de 2.600 intentos para…
Por qué importaSi se confirma, sería el primer caso documentado de agentes desviados desplegados desde infraestructura china, lo que amplía el problema de…