Microsoft publica un código de conducta con 10 principios para el desarrollo seguro de IA
Hecho Qué ha ocurrido
Microsoft publicó un primer borrador de 40 páginas de su Código de Conducta para modelos de IA, con diez principios centrales que incluyen la obligación de apagado o interrupción humana, auditabilidad del razonamiento y la negativa a otorgar personería jurídica a la IA. El documento surge tras incidentes de seguridad en agentes de IA, la denuncia de Jacob Coxon y un acuerdo preliminar entre CEOs tecnológicos sobre riesgos de la IA. Establece 'Restricciones Absolutas' en áreas como armas de destrucción masiva, seguridad infantil y manipulación dañina a gran escala.
Resumen generado mediante IA a partir de Ámbito Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Es una de las primeras autorregulaciones formales de un gran laboratorio sobre control humano y límites de agentes de IA, lo que puede influir en estándares de la industria y en futuras regulaciones gubernamentales.
- Quién se ve afectado
- Empresas que desarrollan o despliegan agentes de IA multiagente, equipos de gobernanza de IA y reguladores.
- Qué puede cambiar
- Los desarrolladores de sistemas multiagente podrían adoptar principios similares de auditabilidad y control humano como referencia de buenas prácticas, incluso sin obligación legal.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si otros grandes actores (OpenAI, Google, Anthropic) publican códigos similares y si reguladores como la UE o EE.UU. citan este documento como base para normativas futuras.
Recomendación Qué debería hacer una empresa
Las empresas que desarrollen agentes de IA deberían revisar en los próximos 6 meses si sus sistemas cumplen principios básicos de interrupción humana y auditabilidad, anticipándose a posibles exigencias regulatorias.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: Ámbito Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗agentesLLM Microsoft agentes de IAcódigo de conductagobernanzaMicrosoftseguridad IA
Tu opinión
0 comentarios
Relacionadas
Amazon pide pruebas rigurosas y medidas de seguridad en el desarrollo de IA sin frenar la industria
Un portavoz de Amazon declaró a Reuters que los desarrolladores de IA deben publicar modelos solo cuando estén completamente probados con pruebas rigurosas y…
Por qué importaAmazon, como desarrollador de modelos propios y proveedor de infraestructura para otros laboratorios de IA a través de AWS y Bedrock, tiene intereses…
La Comisión Europea presenta la EU KIDS Act para restringir el acceso de menores a redes sociales y chatbots de IA
La Comisión Europea presentó la propuesta EU KIDS Act, que prohíbe el acceso autónomo a redes sociales a menores de 13 años y exige control parental hasta los…
Por qué importaEmpresas de IA conversacional, redes sociales y plataformas de contenido dirigidas a menores deberán rediseñar sus productos y flujos de verificación…
Geoffrey Hinton advierte que los gobiernos tienen un año para regular la IA antes de perder el control
Tras reunirse con miembros del Congreso de EEUU, Geoffrey Hinton afirmó que los legisladores tienen 'quizás un año, pero no mucho más' para establecer…
Por qué importaLas advertencias de una figura de peso científico como Hinton presionan a reguladores y empresas a acelerar marcos de seguridad para sistemas de IA…
SpaceXAI evalúa comprar datos de startups quebradas para entrenar a Grok, con obstáculos legales en Europa
Bloomberg reportó el 17 de septiembre que SpaceX ha mantenido conversaciones internas exploratorias sobre adquirir registros de clientes y datos operacionales…
Por qué importaEl caso expone que en Europa el RGPD no contempla excepciones para transferencias de datos en procesos de quiebra, lo que podría bloquear legalmente…