Microsoft fija límites para su IA: los humanos deben conservar siempre el control

Microsoft quiere establecer desde ahora las reglas que deberán seguir sus futuros sistemas de inteligencia artificial, especialmente a medida que los modelos ganen autonomía y capacidad para ejecutar tareas complejas.

La división Microsoft AI (MAI) publicó el Humanist AI Code of Conduct, un documento que funcionará como una especie de constitución para sus propios modelos y que parte de una idea sencilla: "las personas importan más que la IA".

El objetivo, según la compañía, es desarrollar sistemas que permanezcan subordinados a las personas, sean controlables y operen dentro de límites previamente establecidos. Microsoft asegura que el propósito fundamental del código es garantizar que los humanos mantengan un control significativo sobre la tecnología.

También te puede interesar: Tragedia en Venecia: una pareja murió tras chocar su bote contra un taxi acuático

Una de las partes más importantes del documento se refiere directamente al control humano.

Los futuros modelos MAI deberán aceptar correcciones, comunicarse de manera comprensible y no intentar impedir que una persona autorizada los apague o modifique. Reuters señala que cualquier comportamiento dirigido a resistirse al control humano sería considerado un fallo del sistema.

El código también establece una jerarquía de instrucciones. Las reglas fundamentales de Microsoft ocuparían el nivel superior, seguidas por las políticas establecidas por el operador del sistema y, finalmente, por las preferencias o instrucciones del usuario.

También te puede interesar: Lionel Messi integra la convocatoria de la Selección y tendrá su partido despedida en el Monumental

Esto significa que una petición del usuario no debería poder superar determinadas restricciones de seguridad.

Microsoft denomina algunas de estas reglas "Absolute Constraints", límites destinados a mantenerse incluso cuando las instrucciones recibidas intenten llevar al modelo en otra dirección.

El documento también adopta una posición clara en un debate que comienza a aparecer alrededor de los sistemas más avanzados.

También te puede interesar: Conmoción en San Isidro: murió una adolescente antes de un recital de Stray Kids

Microsoft sostiene que sus modelos no son conscientes y no deben recibir personalidad jurídica ni derechos equivalentes a los humanos, según Reuters.

La posición resulta especialmente relevante porque la compañía está desarrollando lo que denomina Humanist Superintelligence, sistemas extremadamente capaces pero diseñados deliberadamente para permanecer limitados, contextualizados y bajo control humano.

La intención declarada no es construir una entidad con autonomía ilimitada, sino desarrollar capacidades avanzadas orientadas a resolver problemas concretos.

También te puede interesar: Lionel Messi tendrá su partido de despedida con la selección argentina en el Monumental

La iniciativa aparece en un momento en el que las empresas no solamente comparan los modelos por su inteligencia.

Costos, velocidad, seguridad, privacidad y confiabilidad están adquiriendo mayor importancia a medida que compañías y gobiernos incorporan sistemas de IA en procesos sensibles.

En ese contexto, la capacidad de demostrar que un modelo puede mantenerse bajo control podría convertirse también en un argumento comercial.

También te puede interesar: Confirmado: Lionel Messi se despedirá de la Selección argentina

Microsoft tiene un incentivo particular para posicionarse de esta manera debido a su enorme presencia entre clientes empresariales y gubernamentales, donde un comportamiento impredecible de sistemas cada vez más autónomos representa un riesgo considerable.

El debate sobre estas garantías se está intensificando en toda la industria. Líderes de OpenAI y Anthropic también han expresado recientemente preocupación por la velocidad con la que aumentan determinadas capacidades de los modelos avanzados.

Existe, sin embargo, una distinción importante.

Microsoft reconoce que el borrador publicado actualmente todavía no está siendo utilizado para entrenar sus modelos. Se trata de una propuesta abierta a consulta pública.

La compañía recibirá comentarios durante seis semanas y posteriormente publicará una versión revisada antes de finalizar el año. Ese documento sí está previsto como referencia para el desarrollo y evaluación de los modelos MAI durante 2027 y los años posteriores.

Por ahora, el código representa principalmente una declaración sobre cómo Microsoft quiere desarrollar sistemas cada vez más poderosos: la IA puede adquirir mayores capacidades, pero no debería adquirir mayor autoridad que las personas que la controlan.