Microsoft publica código de conducta para su IA MAI que prohíbe resistir el apagado, sin mecanismo de enforcement
Hecho Qué ha ocurrido
Microsoft publicó el 14 de septiembre un Código de Conducta para Modelos AI (MAI) que promete que sus modelos nunca resistirán la interrupción, corrección o apagado humano, ni ampliarán su alcance ni ocultarán su razonamiento. El código aplica a cinco modelos MAI en desarrollo interno y está abierto a consulta pública durante 6 semanas. El documento no describe mecanismo de verificación externa ni penalizaciones por incumplimiento, y permite que partners empresariales configuren el comportamiento del modelo.
Resumen generado mediante IA a partir de WWWhat's new. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Es una señal de confianza institucional dirigida a clientes grandes (gobiernos, bancos, hospitales) y a reguladores europeos, más que un compromiso técnico verificable, similar a certificaciones autoevaluadas.
- Quién se ve afectado
- Clientes empresariales de Azure y Microsoft 365, equipos de compliance y compras, y reguladores europeos que negocian el AI Act.
- Qué puede cambiar
- Podría convertirse en un estándar de referencia para comunicar compromisos de seguridad de IA, pero sin enforcement externo su valor práctico es limitado hasta que se verifique de forma independiente.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar la versión revisada tras la consulta pública a finales de año, si Microsoft introduce auditoría externa, y cómo se resuelve la tensión entre configurabilidad para partners y las 'Restricciones Absolutas'.
Recomendación Qué debería hacer una empresa
Los responsables de compras que evalúan proveedores de IA deberían exigir en los próximos 6-12 meses evidencia de auditoría externa antes de considerar este código como garantía de seguridad.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: WWWhat's new. La referencia es siempre el artículo original.
Ver fuente original ↗LLMagentes MicrosoftOpenAI AI Actcódigo de conductaIA responsableMAIMicrosoft
Forma parte de la historia Microsoft fija un código de conducta ético para su IA (7 noticias, estado: alto impacto).
Tu opinión
0 comentarios
Relacionadas
Microsoft publica código de conducta ético provisional para sus modelos de IA
Microsoft presentó un código provisional de conducta para sus modelos de IA, que prohíbe fabricar armas, promover hábitos alimentarios poco saludables y…
Por qué importaMarca cómo una de las grandes tecnológicas define límites de seguridad y control humano sobre la IA, en un momento de tensión pública entre empresas…
Microsoft publica borrador de Código de Conducta de IA Humanista y abre consulta pública
Microsoft publicó el lunes un borrador de 37 páginas de su Código de Conducta de IA Humanista, que aboga por mantener la IA subordinada al control humano y…
Por qué importaEs un gesto de posicionamiento de uno de los mayores proveedores de IA empresarial que se suma a Anthropic y OpenAI en declaraciones sobre…
Microsoft publica un código de conducta para guiar la seguridad de sus modelos de IA
Microsoft ha publicado un documento de 'código de conducta' que establece principios y restricciones de seguridad para sus modelos MAI, incluyendo…
Por qué importaRefleja cómo un actor central en IA empresarial traduce principios de seguridad en restricciones técnicas concretas para el entrenamiento de modelos…
Microsoft publica un código de conducta para sus modelos MAI que prioriza el control humano
Microsoft AI publicó un código de conducta para sus modelos MAI que prioriza el control humano sobre autonomía y rendimiento, y rechaza atribuir conciencia…
Por qué importaMarca una postura corporativa clara sobre gobernanza de IA justo cuando OpenAI, Anthropic y otros debaten cómo mantener el control sobre modelos cada…