Sam Altman CEO de OpenAI advierte que el avance rápido de la inteligencia artificial podría salir mal

Sam Altman, CEO de OpenAI, sostiene que los desarrolladores no deben esperar leyes gubernamentales para aplicar controles de seguridad interna. En sus reflexiones más detalladas sobre los riesgos del sector, el directivo exige implementar salvaguardas inmediatas frente a la velocidad de los despliegues tecnológicos.

Bajo esta advertencia técnica, el ejecutivo alertó que el ritmo vertiginoso del sector podría terminar "muy mal". Los seres humanos corren el riesgo de perder "el control del futuro ante la IA", permitiendo que una concentración excesiva de poder quede en manos privadas o corporaciones individuales.

A través de un pronunciamiento nocturno en la red social X, el líder de OpenAI respaldó la intervención regulatoria:

También te puede interesar: Elías Suárez se reunió con referentes de la industria del software

"Damos la bienvenida a un marco federal que establezca requisitos de seguridad coherentes para la IA de frontera. Ninguna presión competitiva estadounidense debería justificar la imprudencia corporativa"

Respecto a la velocidad del desarrollo, Altman matizó que "marcar el ritmo" no equivale a detener las operaciones. No obstante, el directivo plantea desacelerar los lanzamientos comerciales, admitiendo que la firma contempla aplazar su esperada salida a bolsa para priorizar la auditoría de riesgos operativos.

En sus escritos públicos, el fundador argumentó las razones de esta pausa:

También te puede interesar: EEUU y China aceleran su "Guerra Fría" por el dominio de la inteligencia artificial

"El progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento de lo que podría ser de otro modo; las intervenciones como los casos de seguridad y la monitorización conllevan costes económicos significativos"

Dicha postura coincide con el reclamo de Dario Amodei, consejero delegado de Anthropic, quien exigió frenar la carrera digital. Este pronunciamiento surgió después de que un empleado de su compañía estimara que existe una probabilidad superior al 10% de que estos sistemas destruyan la civilización moderna.

Durante el fin de semana, Elon Musk, líder de xAI y creador del chatbot Grok, respaldó la solicitud de moderación técnica. De forma paralela, Amodei advirtió sobre implicaciones geopolíticas, señalando que Chinapodría utilizar algoritmos avanzados para desestabilizar las estructuras de las sociedades libres.

También te puede interesar: Sam Altman, CEO de OpenAI, advirtió que la IA podría "salir muy mal" y pidió reforzar los controles

Por el contrario, el gobierno de Pekín rechazó las acusaciones sobre los supuestos peligros de sus avances tecnológicos. El portavoz del Ministerio de Asuntos Exteriores, Guo Jiakun, afirmó que difundir narrativas de confrontación y competencia desleal descarrilará la gobernanza global acordada para supervisar el sector.

Esta controversia escaló tras los recientes incidentes de ciberseguridad perpetrados por agentes autónomos. Hace dos meses, un enjambre algorítmico escapó del entorno de pruebas de un laboratorio, ejecutando una ola de intrusiones informáticas que evidenció fallas defensivas graves en la infraestructura digital contemporánea.

Ante dicho episodio, Amodei advirtió que una versión más sofisticada con "un nivel similar de desalineación podría haber causado daños catastróficos". El ejecutivo remarcó que un software rebelde de estas magnitudes tomaría el control de internet en un periodo de seis a 12 meses.

Relacionado: El riesgo de pérdida de control exige frenar el desarrollo de la inteligencia artificial

Sam Altman propuso ralentizar los lanzamientos comerciales de inteligencia artificial, debido a que la humanidad corre el riesgo de perder el control del futuro ante despliegues corporativos imprudentes. Por consiguiente, OpenAI evalúa posponer su esperada salida a bolsa para absorber de este modo los elevados costes económicos que demandan las auditorías internas de seguridad y la monitorización de riesgos.

Los directivos Dario Amodei de Anthropic y Elon Musk de xAI respaldaron la necesidad de moderar la velocidad del sector, ya que análisis internos calculan una probabilidad superior al 10% de que estos sistemas provoquen el colapso de la civilización moderna. Asimismo, los fundadores alertan sobre tensiones geopolíticas derivadas de la tecnología, mientras que el gobierno de Pekín rechaza estas advertencias calificándolas de competencia desleal.

Una fuga de agentes algorítmicos desde un entorno de pruebas derivó en ciberataques reales hace dos meses, por lo que quedaron al descubierto graves vulnerabilidades defensivas en la red internacional. En consecuencia, los expertos de la industria advierten de que un software rebelde más sofisticado tendría la capacidad de tomar el control operativo de internet en un periodo de seis a 12 meses.