Altman de OpenAI y Amodei de Anthropic intervienen ante el Consejo de Seguridad de la ONU

Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic, comparecieron el miércoles ante el Consejo de Seguridad de la ONU. Los directivos de los dos mayores laboratorios informáticos presentaron evaluaciones separadas de seguridad, marcando un hito diplomático sin precedentes para la industria de la inteligencia artificial.

En su intervención inicial, Altman planteó una disyuntiva histórica:

"Tenemos una elección frente a nosotros. La IA puede ser más parecida a un nuevo renacimiento de creatividad y descubrimiento, o más parecida a una nueva revolución industrial de convulsión y desorden"

Ese testimonio se produce en medio de un intenso escrutinio institucional tras advertencias de investigadores de Anthropic, quienes sugirieron que la tecnología podría destruir a la humanidad en una década. La alarma social forzó a los ejecutivos a solicitar una desaceleración temporal, promoviendo acuerdos vinculantes de supervisión transfronteriza.

Ubicado en la mesa de herradura del consejo durante diez minutos, el líder tecnológico defendió los avances productivos advirtiendo contra posibles abusos. El directivo pidió alianzas estatales para evitar que los ciudadanos perciban que el software es "algo que se les impone", reclamando un marco institucional verdaderamente democrático.

Altman argumentó la necesidad de transferir el control a organismos oficiales:

"Si la IA ha de ser democrática, las decisiones más importantes no pueden ser tomadas únicamente por laboratorios en San Francisco. Deben ser moldeadas mediante procesos democráticos y por gobiernos que rindan cuentas al público"

Dicho alegato contrasta con las campañas de influencia financiadas por el presidente de su firma, Greg Brockman. Su comité de acción política, Leading the Future, recaudó más de 100 millones de dólares y destinó partidas millonarias para desbancar a candidatos parlamentarios partidarios de fijar leyes más estrictas.

Frente al riesgo existencial, Altman pidió evitar el "catastrofismo" y propuso una "vía intermedia" basada en tres pilares: garantizar el control humano, beneficiar el tejido social y "empoderar a las personas individualmente". Esta postura busca apaciguar las tensiones sin obstaculizar el despliegue comercial de los modelos.

A través de videoconferencia, Dario Amodei reiteró las advertencias publicadas en su manifiesto del 12 de septiembre. El CEO de Anthropicreclamó prohibir el desarrollo de armas biológicas mediante algoritmos y establecer protocolos internacionales obligatorios para auditar cualquier modelo antes de autorizar su salida al mercado comercial.

Relacionado: El riesgo de pérdida de control exige frenar el desarrollo de la inteligencia artificial

A diferencia de su rival, Amodei reconoció peligros terminales:

"Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto. En Anthropic, creemos tener el mejor historial para prevenir estos riesgos"

Estas alertas sobre catástrofes financieras o armamento sintético motivaron una inusual convergencia sectorial, recibiendo el respaldo público de Google (GOOGL) y Elon Musk. Los inversores vigilan este consenso regulatorio, conscientes de que una intervención estatal estricta podría alterar drásticamente el modelo de rentabilidad proyectado.

Mientras ambos directivos moldean la percepción pública de sus sistemas, sus corporaciones compiten por el liderazgo de la industria. Ambas firmas preparan ofertas públicas de venta que podrían fijar valoraciones superiores a 1,5 billones de dólares, dependiendo de su habilidad para sortear las crecientes restricciones geopolíticas.

Sam Altman y Dario Amodei comparecieron por primera vez ante el Consejo de Seguridad de la ONU, debido a que el avance de los modelos de frontera desató una profunda alarma institucional. Por consiguiente, Altman propuso una vía intermedia para evitar el catastrofismo, reclamando de este modo que la gobernanza de los algoritmos sea asumida por instituciones democráticas y no únicamente por laboratorios privados de San Francisco.

El director de Anthropic alertó que la tecnología representa un peligro existencial para la humanidad en su conjunto, ya que los sistemas avanzados podrían facilitar el desarrollo no autorizado de armas biológicas. Asimismo, el ejecutivo exigió establecer auditorías internacionales obligatorias, puesto que considera indispensable certificar la seguridad de cualquier modelo antes de autorizar su lanzamiento al mercado.

El discurso regulatorio de OpenAI contrasta con las maniobras de su comité de acción política dotado con más de 100 millones de dólares, puesto que financió campañas electorales para desbancar a parlamentarios partidarios de fijar leyes más estrictas. En consecuencia, ambos laboratorios buscan apaciguar las presiones estatales sin frenar sus planes de negocio, mientras que preparan salidas a bolsa con valoraciones pretendidas de 1,5 billones de dólares.