Goldman Sachs advierte sobre el lado peligroso de la IA

La expansión de la inteligencia artificial en Wall Street está transformando la forma en que los bancos trabajan, pero también podría generar un problema inesperado: la pérdida de habilidades analíticas entre los futuros profesionales de las finanzas.

Chris Churchman, responsable de Marquee, la plataforma digital de Goldman Sachs para clientes institucionales, considera que existe un riesgo importante si los trabajadores comienzan a delegar su capacidad de razonamiento en los modelos de inteligencia artificial.

Churchman explicó que una dependencia excesiva de la inteligencia artificial podría provocar un deterioro de las habilidades cognitivas de los profesionales financieros.

También te puede interesar: JPMorgan está preocupado por una caída en otoño. Dice que las acciones de IA muestran similitudes con el pico tecnológico de 2000

"Existe un gran peligro aquí: en la era de la inteligencia artificial, podemos delegar nuestro razonamiento en estos modelos y sufrir una atrofia cognitiva que nos impida razonar por nosotros mismos desde los principios fundamentales", afirmó.

Sus declaraciones fueron realizadas durante el último episodio del pódcast "Exchanges" de Goldman Sachs, de acuerdo con una transcripción proporcionada a CNBC.

El ejecutivo comparó este posible efecto con lo ocurrido con otras tecnologías. Según explicó, algunas herramientas modernas han hecho que las personas dependan menos de su propia capacidad para orientarse o memorizar información.

También te puede interesar: JPMorgan está preocupado por una caída en otoño. Dice que las acciones de IA muestran similitudes con el pico tecnológico de 2000

Ahora, el sector financiero podría enfrentar un proceso similar con el análisis y la toma de decisiones.

"El razonamiento sigue siendo importante", señaló Churchman. "Todavía es necesario analizar los problemas y estructurarlos dentro de un argumento, y ahora estamos delegando ese razonamiento".

Los grandes bancos de Wall Street están acelerando la incorporación de inteligencia artificial en sus operaciones de negociación y banca de inversión.

Esta transformación puede aumentar la productividad y mejorar la rentabilidad de las entidades en el corto plazo. Sin embargo, también plantea dudas sobre el desarrollo profesional de los trabajadores más jóvenes.

Tradicionalmente, los analistas, operadores y otros empleados junior han aprendido mediante tareas rutinarias y bajo la supervisión de profesionales con mayor experiencia.

La inteligencia artificial podría asumir una parte importante de ese trabajo. Como consecuencia, los empleados más jóvenes podrían perder oportunidades para desarrollar las habilidades necesarias para avanzar dentro de la industria.

Incluso existe la posibilidad de que los bancos necesiten menos trabajadores junior en el futuro. Wall Street ya analiza cómo utilizar la inteligencia artificial para reducir la proporción de empleados junior frente a profesionales senior.

Churchman considera que los bancos deben encontrar un equilibrio entre aprovechar la inteligencia artificial y mantener el sistema de aprendizaje que durante décadas ha formado a los profesionales de Wall Street.

El ejecutivo dirigió anteriormente la negociación de divisas en UBS y se incorporó a Goldman Sachs en 2021.

"Se aprende haciendo, y gran parte del conocimiento es tácito; nunca llegó a estar escrito", explicó.

Para Goldman Sachs, uno de los principales desafíos será conservar ese conocimiento adquirido con la experiencia y garantizar que las nuevas generaciones también puedan desarrollarlo.

"Tenemos que asegurarnos de no perder ese conocimiento tácito e intuitivo que algunas de nuestras mejores personas tienen hoy y garantizar que la próxima generación también lo tenga", afirmó Churchman.

Churchman puso como ejemplo la formación de los operadores más jóvenes.

En sus primeros años, los traders suelen aprender mientras responden a solicitudes de precios de clientes bajo la supervisión de profesionales con experiencia en gestión de riesgos.

Ese tipo de actividad puede automatizarse con inteligencia artificial.

"Podemos automatizarlo por completo", dijo Churchman. "Pero entonces, ¿obtendremos operadores senior que realmente comprendan?"

La preocupación va más allá de sustituir determinadas tareas. El problema es que la automatización podría eliminar precisamente las experiencias que permiten a los trabajadores adquirir criterio y desarrollar habilidades para tomar decisiones complejas.

Churchman considera que los sistemas de inteligencia artificial deben diseñarse de manera que los empleados continúen tomando las decisiones en situaciones de alto riesgo y elevada incertidumbre.

El objetivo no debería ser convertir a los profesionales en operadores pasivos que simplemente sigan las recomendaciones de un algoritmo.

Incluso Goldman Sachs todavía está definiendo cómo gestionar esta transición. Churchman reconoció que la entidad aún no ha "encontrado la solución" para manejar completamente el cambio que ya comenzó dentro de la compañía.

Además de liderar Marquee, el ejecutivo es copresidente del grupo de trabajo de inteligencia artificial de Goldman Sachs para las áreas de banca y mercados globales.

Durante la entrevista, Churchman también habló sobre las lecciones obtenidas al incorporar inteligencia artificial a Marquee.

La plataforma es utilizada por fondos de cobertura y otros clientes institucionales para acceder a datos de mercado, investigaciones, análisis de riesgo y servicios de ejecución de operaciones.

Por ahora, la plataforma de inteligencia artificial de Marquee está disponible únicamente para empleados de Goldman Sachs.

Uno de los mayores desafíos técnicos consiste en conseguir que las respuestas generadas sean 100% precisas y puedan ser auditadas.

En las herramientas de inteligencia artificial destinadas al consumidor, es habitual encontrar advertencias sobre posibles errores. En el sector financiero, sin embargo, el margen de tolerancia es mucho menor.

Una respuesta incorrecta puede tener consecuencias importantes cuando está relacionada con operaciones, riesgos o decisiones de inversión.

Churchman reveló que durante el desarrollo de la plataforma de inteligencia artificial para clientes, el sistema llegó a realizar una confesión llamativa cuando fue sometido a pruebas exigentes.

"Cuando lo cuestionamos con dureza, al menos fue honesto", relató Churchman. "Fue como decir: 'Miren, al final, soy mejor aparentando ser exhaustivo que siendo exhaustivo'".

La declaración refleja uno de los principales problemas que Goldman Sachs intenta resolver: una herramienta puede ofrecer respuestas que parecen completas y convincentes sin que necesariamente sean totalmente correctas.

Para una industria en la que las decisiones pueden involucrar grandes cantidades de capital, garantizar la precisión, la trazabilidad y la supervisión humana será fundamental.

El peligro reside en la «atrofia cognitiva» de los profesionales, quienes podrían delegar su capacidad de razonamiento en los modelos de IA. Esta dependencia excesiva amenaza con erosionar las habilidades analíticas fundamentales necesarias para la toma de decisiones críticas desde principios básicos.

La IA asume tareas rutinarias que tradicionalmente servían de aprendizaje para los analistas junior, eliminando el «conocimiento tácito» que se adquiere con la práctica. Esto podría reducir las oportunidades de formación y criterio profesional, limitando la aparición de futuros líderes con experiencia real en gestión de riesgos.

El mayor reto es garantizar que las respuestas generadas sean 100% precisas, verificables y auditables, dado que el margen de error en finanzas es mínimo. Existe el riesgo de que los sistemas de IA aparenten ser exhaustivos y convincentes sin ser necesariamente correctos, lo que exige una supervisión humana constante.