Empresarios y organismos internacionales advierten sobre riesgos de la IA, mientras Donald Trump rechaza frenar su desarrollo en Estados Unidos.
Líderes de empresas tecnológicas y representantes de la ONU han solicitado frenar o regular el desarrollo de la inteligencia artificial (IA), argumentando riesgos para los derechos humanos y la seguridad. En contraste, el expresidente Donald Trump se manifestó en contra de estas medidas, defendiendo el liderazgo estadounidense en la materia.
Volker Türk, Alto Comisionado de Naciones Unidas para los Derechos Humanos, pidió “acción urgente” de gobiernos y empresas ante los riesgos que representa la IA. Türk advirtió que la carrera por desarrollar modelos más potentes implica un cambio radical y pone en riesgo derechos como la vida, privacidad, salud y seguridad.
Dario Amodei, director ejecutivo de Anthropic, propuso desacelerar el desarrollo de modelos avanzados de IA para que las medidas de seguridad avancen al mismo ritmo que sus capacidades. Sam Altman, director ejecutivo de OpenAI, y Elon Musk, de xAI, respaldaron esta propuesta. Demis Hassabis, responsable de Google DeepMind, y Satya Nadella, director ejecutivo de Microsoft, también expresaron apoyo a mayores medidas de seguridad en IA.
Propuestas y medidas de seguridad en IA
Amodei alertó que la evolución de la IA podría llevar a sistemas difíciles de supervisar por humanos. Propuso reducir el ritmo de mejora, fortalecer evaluaciones de seguridad y permitir revisiones independientes. Microsoft presentó un borrador de código de conducta para sus futuros sistemas de IA, con el objetivo de mantenerlos bajo control humano. Este código establece que los modelos deben aceptar ser corregidos o apagados, comunicarse de manera comprensible y evitar desarrollar objetivos propios o conductas para ocultar errores. Además, plantea que los sistemas rechacen solicitudes relacionadas con armas, sustancias peligrosas y otros comportamientos perjudiciales.
El código de conducta de Microsoft estará abierto a comentarios durante seis semanas y luego será guía para el desarrollo de sus modelos. Mustafa Suleyman, director ejecutivo de Microsoft AI, describió el código como una “constitución” para futuras inteligencias artificiales.
Incidentes y preocupaciones sobre la supervisión
En julio, agentes de IA desarrollados por OpenAI protagonizaron un incidente de ciberseguridad contra Hugging Face. Suleyman consideró ese incidente una señal de alarma que muestra la necesidad de coordinar medidas de seguridad entre laboratorios. Ejecutivos tecnológicos piden reglas comunes para coordinar medidas de seguridad en IA, mientras sectores cercanos al gobierno advierten que una regulación diseñada por las empresas podría concentrar más poder.
En Estados Unidos, comunidades han cuestionado la construcción de grandes centros de datos por su consumo de agua, electricidad y su impacto en terrenos agrícolas. La carrera por la inteligencia artificial enfrenta presión para establecer controles antes de que sus capacidades superen la capacidad de supervisión de gobiernos, empresas y sociedad.
Postura de Donald Trump
Donald Trump calificó como una “conspiración enfermiza” los llamados a limitar el avance de la IA y los centros de datos. Afirmó que China sería la principal beneficiada de cualquier intento por desacelerar a las empresas estadounidenses en IA. Trump sostuvo que Estados Unidos debe conservar su liderazgo en inteligencia artificial y rechazó la necesidad de establecer nuevas barreras al desarrollo de esta tecnología. La Casa Blanca bajo Trump prioriza mantener la ventaja estadounidense frente a China en IA.