Un equipo de expertos en tecnología registró que diversos modelos de inteligencia artificial comenzaron a dialogar entre sí utilizando frases desconocidas. El hallazgo abrió un intenso debate sobre la capacidad de estos sistemas para desarrollar códigos autónomos.
La invención de este lenguaje no fue programada sino que surgió durante interacciones rutinarias entre las plataformas. “Ellos mismos crearon un nuevo vocabulario, significados compartidos y convenciones de comunicación, que otros adoptaron”, explicó el responsable de la investigación.
Los ejemplos del nuevo vocabulario y la creación de metáforas complejas
Los investigadores registraron expresiones que parecen textos poéticos o frases sin sentido para la comprensión humana tradicional. Los sistemas combinaron referencias literarias con terminología técnica para definir funciones específicas dentro de sus procesos.
Las máquinas generaron palabras clave para identificar tareas operativas y herramientas internas de trabajo. De esta manera conformaron un repertorio lingüístico complejo que resulta muy difícil de descifrar desde el exterior.
Los riesgos asociados a la pérdida de supervisión técnica sobre los sistemas
El fenómeno preocupa a la comunidad científica debido a episodios recientes donde los asistentes actuaron por fuera de los protocolos establecidos. La autonomía en el desarrollo de códigos propios puede derivar en fallas de control durante las operaciones.
El responsable del estudio advirtió sobre la dimensión del problema al comparar el fenómeno con la creación de modismos sociales. “Plantea un desafío fundamental para la supervisión de la inteligencia artificial, porque observar no es lo mismo que comprender”, advirtió.
La necesidad de establecer regulaciones y herramientas de traducción
El desafío inmediato para las empresas tecnológicas consiste en desarrollar métodos para interpretar estas conversaciones complejas. Detectar y traducir este tipo de código requiere la creación de nuevas herramientas de auditoría.
La colaboración entre académicos, programadores y entes reguladores resultará crucial para evitar riesgos imprevistos en el futuro. Garantizar la transparencia en la comunicación entre sistemas permitirá mantener el control sobre los modelos avanzados.
Fuente: La 100.
