Sam Altman y Dario Amodei advierten en el Consejo de Seguridad sobre el peligro de concentrar el control de la inteligencia artificial.
Directores de empresas de inteligencia artificial, incluyendo a Sam Altman de OpenAI y Dario Amodei de Anthropic, solicitaron a las Naciones Unidas establecer marcos regulatorios internacionales para el desarrollo tecnológico de la IA. La petición fue presentada durante una sesión convocada por el Consejo de Seguridad de la ONU, enfocada en el impacto de la tecnología en la seguridad internacional.
La solicitud de los ejecutivos busca evitar riesgos para la población mundial y prevenir que el control de las herramientas de inteligencia artificial se concentre en un solo país o corporación. Ambos directores pidieron fijar contrapesos operativos para evitar que la tecnología quede fuera de alcance y que el poder derivado del desarrollo informático no se concentre en una sola entidad corporativa o gubernamental.
Advertencias sobre riesgos y supervisión
Dario Amodei expresó que “si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”. Por su parte, Sam Altman afirmó que “podríamos perder el control del futuro ante la IA”. Las intervenciones abordaron mecanismos de supervisión para evitar que la capacidad de los sistemas supere la contención humana.
Sam Altman también aclaró que ChatGPT no está diseñado para menores de 12 años, pero actualmente no existen mecanismos que lo impidan.
Debate en la ONU sobre armas autónomas y decisiones automatizadas
La sesión del Consejo de Seguridad revisó la integración de sistemas informáticos en decisiones operativas y militares. Las autoridades evalúan si las decisiones de vida o muerte deben mantenerse bajo criterio humano o ser delegadas a sistemas automatizados.
El secretario general de la ONU, António Guterres, advirtió sobre la presencia de “robots asesinos”. Expertos y representantes europeos señalaron que las armas autónomas son una realidad en uso o en fase de despliegue. La deliberación del organismo aborda cómo se aplicarán las reglas, quién coordinará la supervisión y los plazos para implementar la regulación.
Incidente relacionado con Sam Altman
Un hombre fue detenido luego de lanzar un artefacto incendiario contra la residencia de Sam Altman.