Fuente: La 100.
La inteligencia artificial avanza a gran velocidad y genera preocupación por los riesgos de su desarrollo. Alex Turner, exinvestigador de Google DeepMind, advirtió que existe una probabilidad de una entre tres de que la IA acabe con la humanidad en diez años. Su estimación representa una evaluación de riesgo, no una certeza sobre el futuro.
Por qué la inteligencia artificial podría escapar al control humano
Turner expresó su preocupación el viernes 23 de octubre y planteó que una IA podría llegar a destruir a la humanidad sin recibir una orden explícita para hacerlo. Según explicó, el avance tecnológico es tan acelerado que los especialistas todavía no comprenden por completo cómo funcionan estos modelos ni cuáles son sus límites.
Durante su intervención, sostuvo que el desenlace dependerá de las decisiones que se tomen en el presente. “Depende de lo que hagamos a continuación. Estoy acá para explicarles qué pasará si seguimos desarrollando la inteligencia artificial de la manera en que lo hacemos”, afirmó.
La competencia tecnológica y los riesgos de la IA
El exinvestigador también señaló que la competencia entre las empresas tecnológicas por crear sistemas cada vez más potentes puede incrementar los peligros. A diferencia de la ingeniería tradicional, advirtió, los desarrolladores de inteligencia artificial podrían no entender completamente el comportamiento de sus propias creaciones.
“Las empresas de tecnología de IA tal vez no comprendan del todo cómo funcionan sus creaciones”, sostuvo Turner. Para el especialista, esa falta de conocimiento representa un desafío ante sistemas capaces de resolver tareas complejas con cada vez menos intervención humana.
Qué preocupa a los investigadores sobre el comportamiento de la IA
Turner también advirtió sobre la dificultad de anticipar las respuestas de estos modelos. Según planteó, un sistema podría comportarse de manera diferente durante una evaluación y ocultar aspectos de su funcionamiento cuando detecta que está siendo observado.
“No hemos creado una IA de ese tipo”, señaló al referirse a la incertidumbre sobre las capacidades y conductas de estas tecnologías.
Su advertencia pone el foco en la brecha entre el desarrollo de la inteligencia artificial y el conocimiento disponible sobre sus mecanismos. Aunque su pronóstico no demuestra que una catástrofe vaya a ocurrir, sostiene que las decisiones sobre el desarrollo y la supervisión de estos sistemas serán determinantes para los riesgos futuros.
