Investigadores de OpenAI y Anthropic piden frenar la IA ante el riesgo de extinción

Especialistas de OpenAI y Anthropic intensificaron sus advertencias sobre los riesgos de los sistemas avanzados de inteligencia artificial. Como consecuencia, los investigadores solicitaron una pausa en los lanzamientos tras la renuncia de Jacob Coxon en Anthropic.

Coxon acusó a ambas firmas de estar «jugando con nuestras vidas» y advirtió que la tecnología podría «matarnos a todos para finales de la década». Por su parte, el líder de alineación de Anthropic, Evan Hubinger, estimó una probabilidad superior al 10% de que ocurra un desenlace catastrófico.

Asimismo, la especialista de seguridad técnica en OpenAI, Julie Steele, respaldó la necesidad de moderar el desarrollo al afirmar: «A título personal, también creo que tenemos que desacelerar». El investigador Samuel Marks detalló las preocupaciones del personal técnico:

También te puede interesar: Fadel impulsó una aplicación para detectar estafas y advirtió que Catamarca está entre las provincias más afectadas

«Los desarrolladores de IA creen que su tecnología podría causar la extinción humana (o resultados igualmente malos). Esto podría suceder en los próximos años. En general, cuanto más experimentado es el empleado, más preocupado está».

No obstante, un portavoz de Anthropic defendió la gestión institucional al señalar:

«Siempre hemos sido transparentes en cuanto a que la IA traerá enormes beneficios y riesgos sin precedentes».

También te puede interesar: Jalil recorrió la ampliación de Algodonera del Valle, que suma tecnología de punta y empleos

La comunidad científica centra su debate en la mejora recursiva, proceso mediante el cual los algoritmos optimizan su propio código informático. De hecho, la investigadora de Anthropic, Anna Wang, declaró:

«Todavía no existe un plan científico viable para resolver los riesgos de la IA que se mejora recursivamente a sí misma».

El científico en jefe de OpenAI, Jakub Pachocki, reconoció la aceleración operativa de estos sistemas:

«Si el desarrollo de la IA continúa por su camino actual, los sistemas que veremos en los próximos años probablemente representarán mayores saltos de capacidad de magnitud igual o mayor, y dirigirán de forma creciente su propio desarrollo».

Por otra parte, cerca de 1.400 científicos de firmas como Meta Platforms (META) y la división DeepMind de Alphabet (GOOGL) solicitaron al gobierno regular la velocidad del sector tecnológico.

De este modo, la congresista Lori Trahan exigió la intervención del poder legislativo antes del debut bursátil de ambas corporaciones:

«Los investigadores de seguridad están renunciando, modelos de IA potentes se están escapando de sus laboratorios y las empresas siguen acelerando de todos modos. Ya es hora de que el Congreso deje de estar al margen y haga su trabajo».

Los especialistas advierten sobre riesgos catastróficos inminentes para la humanidad, estimando probabilidades superiores al 10% de una pérdida de control irreversible.

La técnica permite que los sistemas perfeccionen su propio código automáticamente sin contar aún con un plan científico viable para garantizar su seguridad operativa.

Varios legisladores impulsan iniciativas para suspender temporalmente el avance de la superinteligencia no regulada mientras las empresas aceleran sus planes de salida a bolsa.