Accenture y Anthropic crean equipo conjunto para evaluar seguridad de modelos de IA
Hecho Qué ha ocurrido
Accenture y Anthropic anunciaron un acuerdo para formar un equipo de evaluadores integrados que probará modelos de IA en busca de vulnerabilidades, alineamiento y eficacia de salvaguardas. Ambas compañías planean invertir al menos 1.000 millones de dólares cada una durante cinco años en seguridad de IA. Accenture aporta la experiencia de Faculty, empresa que adquirió y que ha trabajado con gobiernos y sistemas de defensa y sanidad, incluido el sistema de alerta del NHS durante la pandemia.
Resumen generado mediante IA a partir de Byte TI. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Refleja una tendencia hacia externalizar y profesionalizar la evaluación de seguridad de modelos de IA mediante consultoras especializadas, algo relevante para empresas que despliegan IA en sectores críticos.
- Quién se ve afectado
- Grandes empresas y organismos públicos que adoptan modelos de Anthropic, especialmente en defensa, sanidad e infraestructuras críticas.
- Qué puede cambiar
- Se consolida la figura del 'evaluador integrado' como rol externo especializado en pruebas de seguridad de IA, más allá de los equipos internos de los propios laboratorios.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Habrá que ver si otros laboratorios de IA adoptan modelos similares de evaluación externa y si surgen estándares o certificaciones comunes en este ámbito.
Recomendación Qué debería hacer una empresa
Las empresas que despliegan modelos de Anthropic en sectores regulados deberían informarse sobre estas evaluaciones integradas en los próximos 6-12 meses para valorar su relevancia en sus propios procesos de auditoría de IA.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Byte TI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMevaluación de modelosalineamiento AccentureAnthropicFaculty Accenture Anthropic evaluación de modelos Faculty seguridad de IA
Forma parte de la historia Accenture y Anthropic invierten en seguridad de IA (2 noticias, estado: alto impacto).
Relacionadas
Accenture y Anthropic invertirán 2.000 millones de dólares en seguridad de la IA
Accenture y Anthropic invertirán cada una al menos 1.000 millones de dólares en cinco años en seguridad de la IA. Crearán un equipo de evaluadores integrados…
Por qué importaEs una de las mayores inversiones específicas en seguridad de IA anunciadas por una consultora y un laboratorio líder, señal de que la evaluación de…
Anthropic ficha a Faculty, filial de Accenture, como primer evaluador externo integrado de seguridad
Anthropic anunció que Faculty, empresa de IA adquirida por Accenture en enero, trabajará dentro de la compañía evaluando y haciendo red-teaming de sus modelos…
Por qué importaEs el primer caso concreto del plan de Dario Amodei de introducir evaluadores externos incrustados en laboratorios de IA, y elegir a una consultora…
Anthropic y OpenAI proponen integrar evaluadores de seguridad independientes en sus laboratorios
Dario Amodei (Anthropic) propuso embeber evaluadores externos como METR y Redwood Research dentro de los laboratorios de IA con acceso a checkpoints de…
Por qué importaSi se implementa con independencia real, cambiaría la forma en que se verifica la seguridad de modelos de frontera, actualmente basada en confianza y…
OpenAI, Google DeepMind y Anthropic coordinan esfuerzos de seguridad en IA
OpenAI comenzó conversaciones con Anthropic y Google DeepMind para coordinar medidas de seguridad frente a riesgos de la IA, según reveló Chris Lehane…
Por qué importaLa cooperación entre competidores directos en seguridad señala una presión creciente, política y social, para establecer límites al desarrollo de…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.