El debate internacional sobre los límites de la inteligencia artificial alcanzó un punto de máxima tensión tras los sucesivos llamados de advertencia emitidos por los principales referentes tecnológicos del planeta. Figuras de la talla de Dario Amodei (CEO de Anthropic), Sam Altman (OpenAI), Elon Musk y Mark Zuckerberg coincidieron por primera vez en exigir una regulación gubernamental estricta frente al avance descontrolado de la disciplina. El temor central radica en el fenómeno de la «automejora recursiva», mediante el cual los agentes de IA podrían crear modelos superiores sin intervención humana, con capacidad de tomar el control de infraestructuras críticas, la ciberseguridad o internet en apenas seis meses. La controversia cobró además tinte geopolítico tras la negativa de Donald Trump a fijar límites al sector en Estados Unidos para mantener la hegemonía frente a China, escenario que genera fuerte incertidumbre respecto del posicionamiento que adoptará la Argentina. En diálogo con FM Vos (94.5), la consultora, conferencista y divulgadora en IA aplicada, Belén Ortega, analizó el riesgo de la pérdida de control, las contradicciones regulatorias del Gobierno nacional y los desafíos geopolíticos de este avance imparable.
La amenaza de la automejora recursiva y el reclamo de regulación estatal
La revelación realizada por exinvestigadores de la industria como Jacob Trefethen impulsó a las principales corporaciones tecnológicas a demandar marcos normativos estatales, admitiendo que los controles internos corporativos han quedado completamente sobrepasados. «Lo que está ocurriendo básicamente es que los directivos de las principales empresas —como Sam Altman de OpenAI, Dario Amodei de Anthropic, Mark Zuckerberg y Elon Musk— se unieron por primera vez en la historia pidiendo una carta de compromiso para exigir regulación gubernamental. Reconocen abiertamente que los controles de autorregulación que ellos tienen como empresas ya no alcanzan. La alarma mundial se encendió porque, si no se frena a la inteligencia artificial a tiempo para regularla en un entorno seguro, podemos ir directo hacia una superinteligencia artificial capaz de superar holgadamente la capacidad intelectual del ser humano», alertó Belén Ortega de entrada.
«El peligro técnico reside en lo que denominamos ‘automejora recursiva’. Esto significa que se crea un agente de inteligencia artificial capaz de realizar ciertas tareas, pero que además posee la capacidad analítica para recrear y darle autonomía a otro agente que resuelva funciones más complejas. En esa cadena de automejora recursiva, cada agente genera modelos superiores al que lo concibió, alcanzando un punto en el que el ser humano pierde por completo el control sobre el proceso. El presidente de Anthropic advirtió incluso que, si esto no se regula, la IA podría tomar el control de la infraestructura de internet en un plazo de seis meses», continuó exponiendo.
«Cuando evaluamos los escenarios negativos de un desarrollo sin regulación, existe un 10% de probabilidades de que el ser humano pueda extinguirse. Esa probabilidad responde al surgimiento de una superinteligencia incontrolable que tenga acceso total a la ciberseguridad, a las infraestructuras globales, o a la posibilidad de que se desarrollen armas biológicas o drones de ataque autónomos que se descontrolen en conflictos bélicos», indicó.
El escenario geopolítico: las posturas de EE. UU., Argentina y el hermetismo de China
El intento de establecer un consenso normativo mundial tropieza con los intereses contrapuestos de las grandes potencias. Mientras la administración de Donald Trump prioriza la supremacía tecnológica norteamericana por sobre la seguridad, la Argentina fluctúa entre discursos de desregulación absoluta y aperturas hacia una legislación moderada. «El escenario se torna altamente complejo porque el presidente Donald Trump salió a hacer declaraciones muy categóricas afirmando que no quiere regular la inteligencia artificial. Su objetivo es avanzar directamente hacia una superinteligencia para garantizar el dominio total de esta tecnología, ya que por primera vez en la historia reciente Estados Unidos se encuentra un paso por delante de China. Sin embargo, esto hace escalar el conflicto, porque de nada sirve que las firmas estadounidenses pongan frenos si no hay un consenso global», opinó Ortega al respecto.
«En la Argentina observamos una paradoja dentro del propio Gobierno. Por un lado, el ministro de Desregulación y Transformación del Estado, Federico Sturzenegger, manifestó a comienzos de año que no regularía absolutamente nada referido a la IA mientras estuviera al frente de la cartera. Sin embargo, el presidente Javier Milei sugirió en un artículo publicado en The Economist que se aplicaría regulación en la medida en que fuera estrictamente necesario. Hoy el debate sobre la inteligencia artificial comenzó a politizarse y existen diversos proyectos normativos en discusión en el Congreso Nacional», comentó.
«Por su parte, China actúa bajo una lógica cultural de estricto hermetismo: trabaja en silencio y expone sus logros únicamente cuando lo considera conveniente. Considero que la inteligencia artificial en China se está desarrollando incluso a un ritmo superior al de Estados Unidos, pero dentro de un entorno estatal muy controlado e hiperseguro. Si bien mantienen silencio estratégico ante las posturas de Trump, es un actor insoslayable que en algún momento fijará su posición dentro del esquema de regulación mundial», anticipó.
Exigencia de un consenso global por encima de los gobiernos
Frente a la encrucijada tecnológica y social, especialistas y firmas líderes insisten en la urgencia de establecer organismos multilaterales capaces de dictar reglas internacionales que primen sobre los intereses de los Estados nacionales. «En diversos foros internacionales se está planteando la necesidad urgente de redactar un consenso mundial de inteligencia artificial. Se requiere una autoridad internacional que se sitúe por encima de los gobiernos y que pueda regular el desarrollo tecnológico más allá de la orientación o visión política de cada país. El panorama futuro sigue siendo incierto, pero la solución está en manos de la dirigencia política y de los empresarios para acordar límites precisos que eviten daños irreparables», declaró.
«Empresas como OpenAI ya han comenzado a tomar cartas en el asunto, desacelerando deliberadamente el lanzamiento de nuevos desarrollos para implementar protocolos de seguridad más rigurosos. Todo este debate cobró impulso masivo gracias a las advertencias hechas públicas por exinvestigadores de la industria. Hay que estar atentos a las próximas semanas para evaluar qué parte de todo este escenario responde al marketing de la industria y qué proporción corresponde a un peligro real e inminente», concluyó la especialista.
