El CEO de OpenAI propone cooperación internacional y marcos técnicos rigurosos para supervisar los riesgos de la IA en el Consejo de Seguridad.
Sam Altman, CEO de OpenAI, solicitó ante el Consejo de Seguridad de la ONU la creación de límites y mecanismos de cooperación internacional para supervisar el desarrollo de la inteligencia artificial. Durante la sesión, Altman advirtió que el avance acelerado de esta tecnología requiere nuevos mecanismos para mantener los sistemas bajo supervisión humana.
La reunión fue convocada por la presidencia francesa del Consejo de Seguridad y presidida por el ministro francés de Exteriores, Jean-Noël Barrot. Participaron por videoconferencia Dario Amodei, de Anthropic, y Clément Delangue, de Hugging Face.
Riesgos y propuestas para la inteligencia artificial
Altman planteó la necesidad de que gobiernos y empresas tecnológicas colaboren en la creación de estándares nacionales y globales complementarios para enfrentar los riesgos asociados con modelos avanzados de inteligencia artificial. Señaló que el sector se encuentra en una encrucijada y que se deben evitar riesgos tecnológicos excesivos motivados únicamente por los beneficios potenciales.
Entre los principales riesgos mencionados, Altman alertó sobre la posibilidad de que los sistemas de IA sustituyan la agencia humana o escapen a la supervisión. Destacó que los modelos de IA pueden programarse y mejorarse de manera recursiva, lo que podría llevar a que los humanos no comprendan completamente su funcionamiento ni sus decisiones.
El CEO de OpenAI propuso establecer marcos técnicos rigurosos para medir capacidades, evaluar amenazas, comprobar salvaguardas y compartir vulnerabilidades críticas a nivel internacional. Llamó a alcanzar acuerdos multilaterales entre países, incluso aquellos con diferencias, para cooperar en el manejo de la inteligencia artificial.
Principios y visión de OpenAI
Altman expuso tres principios de OpenAI: mantener a las personas en el centro de la toma de decisiones, dirigir el progreso científico y económico por y para las personas, y empoderar a cada individuo. Durante su intervención, afirmó: “La IA tiene el potencial de impulsar una nueva era similar al ‘Renacimiento’”.
El encuentro abordó por primera vez ante el Consejo de Seguridad de la ONU las amenazas relacionadas con ciberataques autónomos y la pérdida de control humano sobre modelos avanzados de inteligencia artificial. Altman enfatizó la importancia de la cooperación internacional, señalando: “A nivel internacional, esto significa cooperación. En nuestra historia, ha habido momentos en que países que compiten y no siempre se llevan bien, pero aun así se unen por intereses comunes y el bien colectivo ante una nueva y poderosa tecnología. Creemos que este debe ser uno de esos momentos”. También destacó: “Puede que seamos los creadores de esta tecnología, pero no somos los héroes de esta historia. Nuestro papel es confiar en la magia del talento humano”.