Expertos en Inteligencia Artificial lanzaron una dramática advertencia sobre el riesgo de extinción humana
Especialistas e investigadores de firmas como Anthropic y OpenAI alertaron sobre el peligro inminente de desarrollar superinteligencias fuera de control
Especialistas e investigadores de firmas como Anthropic y OpenAI alertaron sobre el peligro inminente de desarrollar superinteligencias fuera de control.
El acelerado avance de la Inteligencia Artificial (IA) encendió alarmas extremas en el corazón de la industria tecnológica. Investigadores y exmiembros de corporaciones líderes como Anthropic y OpenAI lanzaron severas advertencias públicas sobre la posibilidad de que el desarrollo de superinteligencias incontrolables ponga en riesgo la supervivencia misma de la especie humana.
La polémica cobró fuerza tras la renuncia de Jacob Coxon, un desarrollador de 27 años especializado en el entrenamiento de modelos de IA. Tras dejar su puesto, Coxon acusó a las principales compañías del sector de estar sumergidas en una carrera desenfrenada por lograr un sistema capaz de automejorarse de manera autónoma, sin medir las consecuencias. "La IA podría matar a todos los humanos", advirtió en sus redes Coxon.
Según su visión, el punto crítico podría alcanzarse antes de fines de 2027, momento en que estas tecnologías podrían volverse imposibles de detener o corregir.
En la misma línea se pronunció Evan Hubinger, responsable de la división Alignment Science en Anthropic —área encargada de garantizar que las decisiones de la IA permanezcan alineadas con los intereses humanos—. Hubinger respaldó los temores de su excompañero y estimó que existe más de un 10% de probabilidades de que la IA provoque la extinción humana dentro de la próxima década. Asimismo, reconoció que las empresas carecen actualmente de un plan certero para resolver los problemas de seguridad que plantea una superinteligencia.
El núcleo de la preocupación no radica en las aplicaciones cotidianas del presente, cuyo riesgo es bajo, sino en los sistemas avanzados capaces de modificar y crear versiones superiores de sí mismos. Varios científicos del sector coinciden en privado en que, de continuar esta dinámica competitiva donde la velocidad predomina sobre la precaución, los sistemas inteligentes podrían pasar a considerar al ser humano como un obstáculo o una amenaza antes del final de esta década.
