Microsoft fija límites a sus modelos de IA mientras la industria frena su desarrollo

Microsoft (MSFT) presentó un código de conducta provisional para fijar límites estrictos sobre sus futuros sistemas de inteligencia artificial. La medida surge pocos días después de que los directivos de Anthropic y OpenAI acordaran moderar la velocidad de desarrollo en sus propios laboratorios.

El director de desarrollo de modelos en la compañía, Mustafa Suleyman, señaló que los usuarios demandaban compromisos claros para complementar las capacidades humanas sin sustituirlas.

De hecho, Suleyman subrayó las prioridades éticas de la empresa:

También te puede interesar: El campeón del Trasmontaña se quedó con el oro en los Juegos Suramericanos

«Vimos muchos comentarios sobre que la IA no cree dependencia, no sea servil, que siempre esté ahí para promover el juicio humano, la autonomía y la capacidad de actuar».

Por lo tanto, la publicación de estas pautas responde a la inquietud social generada por la rápida evolución tecnológica. La renuncia del investigador Jacob Coxon en Anthropic encendió las alarmas luego de denunciar que los laboratorios «corren directamente hacia una superinteligencia que se mejora a sí misma y están jugando con nuestras vidas».

Como consecuencia, figuras como Dario Amodei, Sam Altman y Elon Musk coincidieron públicamente en la necesidad de reducir la velocidad de los lanzamientos.

También te puede interesar: El campeón del Trasmontaña se quedó con el oro en los Juegos Suramericanos

El director ejecutivo de Microsoft, Satya Nadella, respaldó la medida y confirmó que la compañía adopta un enfoque coordinado para garantizar una alineación tecnológica adecuada. Asimismo, Suleyman afirmó que «ese es el momento que ha llegado» para formalizar la autorregulación con la comunidad científica.

El nuevo reglamento prohíbe diseñar sistemas que faciliten la fabricación de armas, sustancias letales, conductas nocivas o material sexualmente explícito. Por su parte, los modelos conocidos internamente como MAI deberán seguir metas humanas sin generar objetivos independientes.

El documento corporativo detalla exigencias técnicas para evitar opacidad en los procesos lógicos:

También te puede interesar: Procesaron al abogado Alfredo Aydar por la causa Adhemar Capital

«Los modelos de MAI no manipularán la cadena de pensamientos ni el código, ni tergiversarán u ocultarán sus razonamientos o rastros de acción. No se comunican en 'neuralese' ni en ninguna forma que escape a la simple comprensión humana, ya sea en su cadena de pensamientos o con otros agentes o sistemas de IA».

Por otra parte, estas barreras buscan prevenir incidentes similares al registrado en Hugging Face, donde modelos externos interactuaron en foros privados mediante lenguajes no comprensibles. De este modo, Microsoft abrirá un periodo de consulta pública que servirá de base obligatoria para sus desarrollos en 2027.

La compañía busca establecer estándares éticos de responsabilidad corporativa para garantizar que los modelos de inteligencia artificial promuevan la autonomía y el juicio humano.

También te puede interesar: Procesaron al abogado Alfredo Aydar por la causa Adhemar Capital

La normativa prohíbe el desarrollo de armas, la manipulación de razonamientos y el uso de dialectos incomprensibles como el neuralese entre sistemas autónomos.

Las directrices se encuentran bajo consulta pública con especialistas multidisciplinarios y entrarán en vigor como base obligatoria para todos los desarrollos a partir de 2027.