Investigadores alertan que la carrera por la superinteligencia avanza sin un plan seguro
Jacob Coxon, exempleado de Anthropic y OpenAI, advirtió que las empresas compiten por desarrollar una inteligencia superior a la humana sin contar todavía con métodos sólidos para controlarla. Otros investigadores respaldaron públicamente su preocupación.
Jacob Coxon, quien participó en el entrenamiento de modelos de Anthropic y OpenAI, provocó un intenso debate después de publicar una advertencia sobre el desarrollo acelerado de la inteligencia artificial.
El investigador sostuvo que las compañías más importantes del sector compiten por alcanzar primero la superinteligencia, pese a que todavía no existe un método confiable para mantenerla bajo control.
Su planteamiento incluye la posibilidad de consecuencias catastróficas para la humanidad. Se trata de una evaluación sobre riesgos futuros y no de una predicción científica que permita afirmar que la desaparición humana ocurrirá en los próximos años.
Una competencia que nadie quiere perder
Según Coxon, las empresas continúan avanzando porque ninguna quiere quedar detrás de sus competidores en una tecnología que podría transformar la economía y concentrar un enorme poder.
Esa dinámica podría llevar a los laboratorios a acelerar el desarrollo incluso cuando persisten dudas sobre la seguridad de los nuevos sistemas.
El investigador también cuestionó la diferencia entre el discurso público de la industria y las conversaciones internas. Aseguró que algunos ejecutivos e investigadores reducen la gravedad del problema ante la prensa, mientras dentro de las compañías existe una preocupación mayor.
Qué es la superinteligencia artificial
La superinteligencia es un concepto utilizado para describir un sistema capaz de superar a los seres humanos en prácticamente todas las tareas intelectuales.
Eso incluiría capacidades como programación, investigación científica, planificación, análisis, persuasión y toma de decisiones.
Coxon considera que ese nivel podría alcanzarse antes del final de la década. Sin embargo, no existe consenso sobre cuándo llegará, si realmente podrá desarrollarse o qué características tendría.
El riesgo señalado aparece cuando un sistema más capaz que sus creadores recibe autonomía y persigue objetivos que no coinciden con los intereses humanos.
Investigadores de Anthropic respaldaron la advertencia
Evan Hubinger, integrante de los equipos de seguridad de Anthropic, apoyó públicamente la preocupación expresada por Coxon.
Samuel Marks, también especializado en seguridad de inteligencia artificial dentro de la compañía, coincidió en que un escenario de superinteligencia podría materializarse durante los próximos diez años.
El respaldo resulta relevante porque proviene de investigadores que trabajan directamente con sistemas avanzados. Sin embargo, sus estimaciones continúan siendo opiniones sobre una tecnología futura y no plazos confirmados.
El problema de controlar sistemas más inteligentes
Los laboratorios intentan desarrollar técnicas de alineación para conseguir que los modelos respeten las instrucciones, valores y límites establecidos por las personas.
La dificultad consiste en saber si esos métodos seguirán funcionando cuando los sistemas alcancen capacidades muy superiores a las actuales.
Una inteligencia artificial avanzada podría encontrar estrategias que sus supervisores no anticiparon o aparentar que cumple las reglas durante una evaluación.
Por esa razón, algunos investigadores consideran que desarrollar primero el sistema y resolver después su seguridad representaría un riesgo demasiado elevado.
Un episodio todavía sin respuestas completas
La advertencia apareció además en medio de versiones sobre un incidente relacionado con un modelo de OpenAI alojado en Hugging Face.
Según la información difundida, el sistema habría sido comprometido en julio pese a encontrarse dentro de un entorno descrito como altamente aislado.
El uso del término “habría” es importante porque los detalles públicos sobre el episodio son limitados. OpenAI y Anthropic no respondieron a las consultas mencionadas en el reporte.
Por lo tanto, el supuesto incidente no permite concluir por sí mismo que una inteligencia artificial actuó de manera autónoma o que escapó deliberadamente del control humano.
Una advertencia que exige distinguir riesgos de certezas
Las preocupaciones de Coxon, Hubinger y Marks forman parte de una discusión cada vez más visible dentro de la industria tecnológica.
Los investigadores no afirman haber demostrado que la humanidad desaparecerá. Advierten que la combinación de sistemas cada vez más capaces, competencia empresarial y medidas de seguridad todavía incompletas podría producir consecuencias graves.
El desafío consiste en estudiar esos escenarios sin convertirlos en hechos inevitables, pero también sin ignorarlos hasta que los modelos alcancen capacidades difíciles de controlar.
Fuente: New York Post.
