El rey Carlos III pide controlar la inteligencia artificial antes de que sea demasiado tarde
El monarca británico inauguró en Escocia una cumbre con representantes de empresas tecnológicas, gobiernos y organizaciones benéficas. Reconoció el potencial de la inteligencia artificial, especialmente en la medicina, pero pidió establecer mecanismos de control para impedir consecuencias catastróficas.
El rey Carlos III del Reino Unido pidió a los líderes tecnológicos encontrar mecanismos para controlar la inteligencia artificial antes de que sea demasiado tarde.
Durante la apertura de una cumbre convocada por él mismo, el monarca calificó el rápido desarrollo de esta tecnología como fascinante y, al mismo tiempo, profundamente preocupante.
También advirtió sobre los peligros existenciales que podrían surgir si estos sistemas cayeran en manos equivocadas y fueran utilizados de manera potencialmente catastrófica.
Una cumbre convocada por el monarca
El encuentro se celebró en Dumfries House, cerca de Glasgow, Escocia, y reunió a altos directivos de empresas de inteligencia artificial, representantes gubernamentales y miembros de organizaciones benéficas.
Carlos III participó como anfitrión y convocante, sin asumir un papel político directo en las discusiones.
El rey permaneció aproximadamente 20 minutos en el encuentro antes de retirarse para permitir que los asistentes continuaran con los debates.
La inteligencia artificial para el bien
El monarca reconoció el enorme potencial de la inteligencia artificial y destacó especialmente sus posibles aplicaciones dentro de la medicina.
Sin embargo, pidió que los debates también analicen cómo utilizar estas herramientas para el bien y cómo evitar que su crecimiento produzca daños graves.
La cumbre busca encontrar un equilibrio entre los beneficios tecnológicos, la seguridad y la necesidad de establecer una cooperación internacional.
Líderes tecnológicos participaron del encuentro
Entre los asistentes se encontraban Jensen Huang, director ejecutivo de Nvidia; Demis Hassabis, fundador de Google DeepMind, y Paolo Benanti, asesor del Vaticano en materia de inteligencia artificial.
El Palacio de Buckingham también anunció que China estaría representada durante el encuentro, aunque no ofreció mayores detalles.
Huang afirmó que las compañías dedicadas a la inteligencia artificial deben ser más rigurosas en las pruebas y en las medidas destinadas a garantizar la seguridad.
La humanidad debe permanecer sagrada
La presencia de Paolo Benanti mostró la participación que también mantienen los líderes religiosos dentro del debate sobre el futuro de la inteligencia artificial.
Carlos III incorporó elementos de simbolismo cristiano en su intervención y afirmó que la humanidad debe permanecer sagrada.
El monarca sostuvo que las personas preocupadas por la dimensión moral de la humanidad necesitan garantías de que la sociedad no perderá el control de su destino ni de sus almas.
Proteger la privacidad y las democracias
Carlos III se había referido anteriormente a los desafíos planteados por la inteligencia artificial durante la Cumbre de Seguridad de la IA celebrada en el Reino Unido en 2023.
En aquella oportunidad pidió proteger la privacidad y los medios de vida de las personas, además de resguardar las democracias frente a posibles daños.
También defendió que los beneficios generados por las nuevas tecnologías deben ser compartidos por toda la sociedad.
Una tecnología al servicio de la sociedad
Durante una reunión de jefes de Gobierno de la Mancomunidad realizada en 2024, el rey volvió a señalar que la inteligencia artificial debe trabajar a favor de las sociedades y no en su contra.
Su participación en esta discusión se relaciona con su interés por los grandes desafíos que enfrenta la humanidad, entre ellos el cambio climático y la protección del medioambiente.
Aunque la familia real británica debe mantenerse alejada de la política, sus integrantes pueden utilizar su posición para dar visibilidad a determinados problemas.
La posición del Reino Unido
El Reino Unido cuenta con algunas de las universidades más prestigiosas del mundo y con un Instituto de Seguridad de la Inteligencia Artificial reconocido internacionalmente.
Sin embargo, su influencia resulta limitada debido a que los modelos más avanzados son desarrollados principalmente en Estados Unidos y China.
Según la información compartida, Anthropic no presentó su modelo más reciente ante el instituto británico para que fuera evaluado, algo que ocurrió por primera vez.
Aumentan las preocupaciones por la seguridad
La cumbre se desarrolló en medio de nuevas advertencias formuladas por investigadores y líderes de compañías tecnológicas sobre el ritmo acelerado de la inteligencia artificial.
Jacob Coxon, investigador que renunció a Anthropic, afirmó que algunas personas involucradas en el desarrollo de estos sistemas consideran que la tecnología podría representar una amenaza extrema para la humanidad.
Posteriormente, el director ejecutivo de Anthropic, Dario Amodei, pidió reducir la velocidad con la que aumentan las capacidades de los modelos.
Líderes de la industria coinciden en reducir el ritmo
Sam Altman, director ejecutivo de OpenAI, y Elon Musk coincidieron con la preocupación expresada por Amodei.
Altman aclaró que reducir el ritmo no significa detener el progreso, sino permitir la aplicación de análisis de seguridad y sistemas de monitoreo adecuados.
La coincidencia pública entre algunas de las figuras más destacadas del sector refleja la creciente preocupación por las consecuencias de desarrollar sistemas cada vez más potentes sin controles suficientes.
Cooperación internacional frente a los riesgos
La cumbre plantea la necesidad de construir acuerdos internacionales que permitan aprovechar las ventajas de la inteligencia artificial sin descuidar la seguridad.
También busca evitar que algunas naciones queden excluidas de los beneficios tecnológicos y promover un consenso sobre las responsabilidades de empresas y gobiernos.
El mensaje central de Carlos III fue que el desarrollo de la inteligencia artificial debe mantenerse bajo control humano y orientarse a proteger a las personas, la privacidad y las instituciones democráticas.
Fuente: CNN
