Microsoft publica un código de conducta que exige control humano sobre sus modelos de IA
Hecho Qué ha ocurrido
Microsoft ha presentado un 'Código de conducta para una IA humanista' que establece que sus modelos, incluidos los MAI, deben permanecer bajo control humano y evitar desarrollar metas u objetivos propios. El documento prohíbe que los modelos faciliten adquisición de sustancias peligrosas, armas, contenidos violentos o sexuales, y estará abierto a comentarios seis semanas antes de una versión final prevista para 2027. La medida sigue a iniciativas similares de OpenAI y Anthropic, en un contexto de declaraciones de líderes como Altman, Hassabis, Amodei y Musk sobre riesgos de la IA avanzada.
Resumen generado mediante IA a partir de 20minutos Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Refleja una tendencia de las grandes tecnológicas a autorregularse formalmente ante la falta de marcos legales claros, lo que puede convertirse en estándar de facto para la industria.
- Quién se ve afectado
- Equipos de cumplimiento, seguridad y desarrollo de IA en grandes empresas tecnológicas y sus clientes corporativos.
- Qué puede cambiar
- Los modelos MAI de Microsoft quedarán sujetos a restricciones explícitas de diseño que priorizan la supervisión humana sobre las instrucciones directas del usuario.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Habrá que ver si otras grandes tecnológicas adoptan códigos similares y si estos compromisos voluntarios influyen en la futura regulación federal en EE.UU.
Recomendación Qué debería hacer una empresa
Empresas que usen modelos MAI de Microsoft deberían revisar el código de conducta en los próximos 6 meses para anticipar posibles limitaciones funcionales en sus casos de uso.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: 20minutos Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗LLMagentes MicrosoftOpenAIAnthropic código de conductacontrol humanoMicrosoftseguridad de la IA
Forma parte de la historia Debate entre líderes de IA sobre riesgos, ritmo y regulación del desarrollo (17 noticias, estado: alto impacto).
Tu opinión
0 comentarios
Relacionadas
Sam Altman admite en Dreamforce que los riesgos de la IA son fundados
En la conferencia Dreamforce de Salesforce en San Francisco, Sam Altman afirmó que los temores globales sobre la IA tienen fundamento y que 'el mundo hace bien…
Por qué importaLas declaraciones públicas de los líderes de los principales laboratorios de IA reflejan divisiones estratégicas sobre seguridad y regulación que…
Yoshua Bengio compara el punto de inflexión de la IA con la reacción gubernamental ante la pandemia
Yoshua Bengio afirmó que la preocupación por la seguridad de la IA alcanzó un nivel que podría llevar a los gobiernos a actuar con la rapidez que mostraron al…
Por qué importaEl testimonio de una figura influyente en IA sugiere que la presión regulatoria podría acelerarse ante incidentes de seguridad documentados, lo que…
Exempleado de DeepMind advierte sobre riesgo existencial de la IA y falta de tiempo para evitarlo
Bilal Chughtai, exinvestigador de seguridad de IA en Google DeepMind que renunció en julio, publicó en X que la IA podría representar un riesgo existencial y…
Por qué importaLas advertencias de exempleados e incluso ejecutivos de empresas rivales sobre riesgos de seguridad y autonomía de agentes de IA sugieren que la…
Sam Altman afirma que algunos accidentes con IA son inevitables y pide un modelo de notificación similar al de aviación
En la conferencia Dreamforce de Salesforce, Sam Altman, CEO de OpenAI, afirmó que cierto grado de accidentes con IA es inevitable y propuso adoptar una cultura…
Por qué importaLas declaraciones de un líder clave de la industria reconociendo riesgos inevitables refuerzan el debate público sobre gobernanza y transparencia en…