Fuente: La 100
Sam Altman, director ejecutivo de OpenAI, aseguró que la sociedad debería estar dispuesta a aceptar ciertos riesgos vinculados con la inteligencia artificial a cambio de los beneficios que puede generar. En una entrevista con Brendan Bordelon para Decoded, el pódcast de POLITICO, explicó su postura y marcó las diferencias que todavía mantiene con Anthropic sobre la regulación de estos sistemas.
Sam Altman explicó qué riesgos de la inteligencia artificial estaría dispuesto a aceptar
En los últimos meses, OpenAI y Anthropic acercaron algunas de sus posiciones sobre seguridad. OpenAI respaldó iniciativas legislativas estatales con mayores exigencias y apoyó una propuesta bipartidista para que evaluadores externos puedan revisar los modelos desarrollados por las grandes compañías.
Altman también coincidió con Dario Amodei en que el avance de los sistemas más potentes podría requerir una pausa. Sin embargo, señaló que todavía existe una diferencia importante entre ambas empresas sobre cuánto riesgo debería aceptar la sociedad.
“Creemos que el mundo debería aceptar que ocurran algunas cosas malas a cambio de los beneficios de esta tecnología y de que las personas tengan capacidad de decisión”, sostuvo el CEO de OpenAI.
Altman rechazó la idea de que evitar cualquier posible daño justifique que una única organización controle la inteligencia artificial y decida cómo distribuir sus beneficios. Aunque reconoció que algunas personas defienden ese modelo por los riesgos asociados a la tecnología, lo calificó como “una contrapartida completamente inaceptable”.
El límite que Sam Altman puso ante los posibles peligros de la IA
El empresario sostuvo que evitar por completo fraudes, ataques informáticos y otros usos perjudiciales no debería ser una condición para continuar desarrollando la tecnología. “Porque creo que la gente hará una cantidad tremendamente mayor, varios órdenes de magnitud mayor, de cosas buenas que de cosas malas”, afirmó.
Sin embargo, Altman aclaró que su postura no implica aceptar cualquier peligro. “Aceptemos riesgos acotados, aceptemos riesgos que entendemos a cambio de los beneficios, pero no aceptemos los riesgos realmente catastróficos”, planteó.
Entre las amenazas más graves mencionó una posible pérdida de control sobre la inteligencia artificial. Además, consideró que cambiar la manera de denominar estos sistemas no resolvería las preocupaciones de la sociedad, entre las que señaló el posible reemplazo de trabajadores y la concentración del poder en pocas compañías.
