Microsoft publica un código de conducta con 10 principios para el desarrollo seguro de IA
Hecho Qué ha ocurrido
Microsoft publicó un primer borrador de 40 páginas de su Código de Conducta para modelos de IA, con diez principios centrales que incluyen la obligación de apagado o interrupción humana, auditabilidad del razonamiento y la negativa a otorgar personería jurídica a la IA. El documento surge tras incidentes de seguridad en agentes de IA, la denuncia de Jacob Coxon y un acuerdo preliminar entre CEOs tecnológicos sobre riesgos de la IA. Establece 'Restricciones Absolutas' en áreas como armas de destrucción masiva, seguridad infantil y manipulación dañina a gran escala.
Resumen generado mediante IA a partir de Ámbito Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Es una de las primeras autorregulaciones formales de un gran laboratorio sobre control humano y límites de agentes de IA, lo que puede influir en estándares de la industria y en futuras regulaciones gubernamentales.
- Quién se ve afectado
- Empresas que desarrollan o despliegan agentes de IA multiagente, equipos de gobernanza de IA y reguladores.
- Qué puede cambiar
- Los desarrolladores de sistemas multiagente podrían adoptar principios similares de auditabilidad y control humano como referencia de buenas prácticas, incluso sin obligación legal.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si otros grandes actores (OpenAI, Google, Anthropic) publican códigos similares y si reguladores como la UE o EE.UU. citan este documento como base para normativas futuras.
Recomendación Qué debería hacer una empresa
Las empresas que desarrollen agentes de IA deberían revisar en los próximos 6 meses si sus sistemas cumplen principios básicos de interrupción humana y auditabilidad, anticipándose a posibles exigencias regulatorias.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Ámbito Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗agentesLLM Microsoft agentes de IA código de conducta gobernanza Microsoft seguridad IA
Relacionadas
Microsoft publica un código de conducta para guiar la seguridad de sus modelos de IA
Microsoft ha publicado un documento de 'código de conducta' que establece principios y restricciones de seguridad para sus modelos MAI, incluyendo…
Por qué importaRefleja cómo un actor central en IA empresarial traduce principios de seguridad en restricciones técnicas concretas para el entrenamiento de modelos…
Microsoft publica un código de conducta que exige control humano sobre sus modelos de IA
Microsoft ha presentado un 'Código de conducta para una IA humanista' que establece que sus modelos, incluidos los MAI, deben permanecer bajo control humano y…
Por qué importaRefleja una tendencia de las grandes tecnológicas a autorregularse formalmente ante la falta de marcos legales claros, lo que puede convertirse en…
Microsoft publica código de conducta ético provisional para sus modelos de IA
Microsoft presentó un código provisional de conducta para sus modelos de IA, que prohíbe fabricar armas, promover hábitos alimentarios poco saludables y…
Por qué importaMarca cómo una de las grandes tecnológicas define límites de seguridad y control humano sobre la IA, en un momento de tensión pública entre empresas…
Microsoft publica un borrador de código de conducta ético para sus modelos de IA
Microsoft ha publicado un borrador de Código de Conducta para modelos de IA, con diez principios bajo la etiqueta de 'IA humanista', que da a otras empresas…
Por qué importaRefleja una tensión creciente en la industria entre discurso de seguridad y presión competitiva por escalar capacidades, lo que puede afectar a cómo…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.