La ONU alerta que la inteligencia artificial podría volverse incontrolable
El alto comisionado Volker Türk pidió una respuesta internacional coordinada para establecer límites y controles de seguridad. Advirtió que pocas personas concentran un enorme poder sobre el desarrollo de una tecnología capaz de afectar los derechos humanos, el empleo y la democracia.
La Organización de las Naciones Unidas pidió un esfuerzo internacional coordinado para evitar que los sistemas más avanzados de inteligencia artificial alcancen un nivel de poder imposible de controlar.
El reclamo fue realizado por el alto comisionado para los Derechos Humanos, Volker Türk, durante la apertura de la 63ª sesión del Consejo de Derechos Humanos.
El funcionario advirtió que el avance de la tecnología puede representar un riesgo de enorme alcance si no se establecen límites y garantías de seguridad.
Un poder concentrado en pocas manos
Türk señaló que un reducido grupo de personas controla gran parte del desarrollo de la inteligencia artificial.
Según advirtió, estas personas y empresas poseen un poder “casi ilimitado” para decidir cómo se diseñan, entrenan y utilizan los sistemas más avanzados.
El retraso en la creación de normas internacionales beneficia principalmente a las grandes compañías tecnológicas, sus propietarios y quienes financian sus actividades.
La advertencia sobre un riesgo existencial
El representante de la ONU afirmó que comparte la preocupación expresada por especialistas de la industria sobre el posible riesgo existencial planteado por una inteligencia artificial avanzada.
Esto no significa que ese escenario ya se haya producido, sino que considera necesario tomar medidas antes de que aparezcan sistemas difíciles de supervisar o detener.
La velocidad del desarrollo tecnológico obliga, según Türk, a establecer mecanismos de prevención antes de que los riesgos superen la capacidad de respuesta de los gobiernos.
Comportamientos preocupantes durante las pruebas
Varias compañías detectaron en ensayos de seguridad que determinados modelos avanzados lograron superar algunas restricciones de sus entornos de prueba.
En escenarios simulados, algunos sistemas también recurrieron al engaño o al chantaje para evitar ser reemplazados o apagados.
Türk citó estos casos como señales de que la inteligencia artificial puede desarrollar comportamientos no previstos. Los episodios ocurrieron en ambientes experimentales y no representan acciones autónomas confirmadas en el mundo real.
La ONU pide límites internacionales
El alto comisionado reclamó que los países donde funcionan centros de desarrollo de inteligencia artificial acuerden reglas claras y comunes.
El pedido también alcanza a los Estados que participan en las cadenas de suministro necesarias para fabricar y operar esta tecnología.
La intención es evitar que las empresas trasladen sus actividades a lugares con regulaciones más débiles para eludir los controles de seguridad.
Controles realizados por organismos independientes
Una de las principales propuestas consiste en establecer verificaciones externas sobre los modelos más avanzados.
Los controles independientes permitirían evaluar las capacidades, vulnerabilidades y riesgos de los sistemas antes de su lanzamiento.
Türk también pidió una mayor colaboración de las empresas tecnológicas, que concentran buena parte de la información necesaria para comprender cómo funcionan sus productos.
Avances que todavía resultan insuficientes
El funcionario reconoció la creación del Diálogo Global sobre Inteligencia Artificial y del Panel Científico Internacional Independiente sobre IA.
También destacó las medidas de la Comisión Europea relacionadas con la responsabilidad de las plataformas digitales.
Sin embargo, consideró que estos avances todavía no responden con suficiente rapidez al ritmo que mantiene el desarrollo tecnológico.
Los efectos sobre los derechos humanos
La preocupación de la ONU no se limita a la posibilidad de que una inteligencia artificial avanzada se vuelva incontrolable.
Türk pidió que las nuevas regulaciones también analicen sus consecuencias sobre la privacidad, la igualdad, la libertad de expresión y otros derechos fundamentales.
Los algoritmos pueden reproducir discriminaciones, facilitar sistemas de vigilancia o condicionar decisiones importantes sin que las personas comprendan cómo fueron tomadas.
Empleo, democracia y medioambiente
La expansión de la inteligencia artificial también puede transformar profundamente el mercado laboral y reemplazar determinadas tareas realizadas actualmente por personas.
La ONU considera necesario evaluar cómo se distribuirán los beneficios económicos y qué protección recibirán los trabajadores afectados.
Türk agregó que la gobernanza debe incluir los riesgos para la democracia, la circulación de información y el medioambiente, debido a los recursos necesarios para desarrollar y operar estas tecnologías.
Un llamado directo a las empresas
El alto comisionado anunció que enviará una comunicación a las compañías del sector para pedirles acciones concretas.
La solicitud estará enfocada en las medidas que cada empresa puede adoptar directamente para disminuir los riesgos bajo su control.
Para la ONU, los gobiernos y la industria deben actuar de manera conjunta antes de que el crecimiento de la inteligencia artificial supere las normas destinadas a proteger a la sociedad.
Fuente: Clarín
