Gigantes tecnológicos cuestionan a Dario Amodei por sus advertencias sobre los riesgos de la inteligencia artificial
Los principales ejecutivos tecnológicos mostraron públicamente unidad en la Casa Blanca, pero detrás de escena surgieron fuertes diferencias sobre los peligros de la inteligencia artificial. Dario Amodei, director ejecutivo de Anthropic, defendió sus advertencias sobre ciberataques, empleo y seguridad frente a cuestionamientos de otros líderes del sector, entre ellos Jensen Huang, de Nvidia.
Los principales líderes de la industria tecnológica estadounidense llegaron a la Casa Blanca con un objetivo común: mostrar que las empresas responsables del rápido desarrollo de la inteligencia artificial pueden trabajar juntas para establecer medidas de seguridad.
Después de acordar una declaración de principios sobre los modelos de IA, los ejecutivos aparecieron junto al presidente Donald Trump proyectando una imagen de cooperación frente a las crecientes preocupaciones de la opinión pública.
Sin embargo, detrás de esa imagen de unidad se desarrolló una discusión que dejó al descubierto profundas diferencias sobre cómo comunicar y enfrentar los posibles peligros de la tecnología.
Dario Amodei quedó en el centro de los cuestionamientos
Tras un almuerzo celebrado en el Salón Este con alrededor de dos docenas de directores ejecutivos, un grupo más reducido mantuvo una conversación con Dario Amodei, director ejecutivo de Anthropic.
Entre quienes participaron de los cuestionamientos se encontraba Jensen Huang, máximo responsable de Nvidia.
Según personas familiarizadas con el encuentro citadas en el material, los ejecutivos preguntaron a Amodei por qué utiliza públicamente un lenguaje tan categórico cuando habla sobre las capacidades de los nuevos modelos y los riesgos asociados con ellos.
Amodei defiende hablar abiertamente sobre los riesgos
El responsable de Anthropic defendió su posición ante los demás ejecutivos.
Según el relato de personas presentes, Amodei sostuvo que es importante ser honestos con la opinión pública acerca de lo que estos modelos pueden hacer y no minimizar los peligros potenciales.
La conversación tuvo lugar en la Sala Roosevelt, donde un grupo de ejecutivos, asesores y funcionarios de la Casa Blanca trabajaba en los detalles finales de los principios que posteriormente fueron presentados.
La discusión puso de manifiesto una tensión fundamental dentro de la industria: hasta qué punto las empresas deben advertir públicamente sobre los riesgos de una tecnología que ellas mismas están desarrollando a enorme velocidad.
Ciberataques y pérdida de empleos entre las advertencias
Amodei se ha convertido en una de las voces más insistentes de la industria a la hora de plantear los posibles riesgos asociados con modelos cada vez más avanzados.
Entre sus advertencias se encuentra la posibilidad de que sistemas de IA sean capaces de participar en ciberataques y que la expansión de la tecnología produzca una pérdida masiva de puestos de trabajo.
Sus posiciones también lo llevaron anteriormente a cuestionar tanto a la Casa Blanca como a empresas competidoras por, según su criterio, minimizar algunas preocupaciones relacionadas con la seguridad.
Esa postura lo ha convertido al mismo tiempo en una figura incómoda para determinados sectores de Washington y Silicon Valley.
Trump elogió públicamente al jefe de Anthropic
Las diferencias privadas contrastaron con el tono utilizado públicamente durante el encuentro.
Amodei dijo ante periodistas que el sector y el Gobierno pueden avanzar y “ganar con seguridad” si trabajan conjuntamente.
Trump, por su parte, elogió al empresario y lo calificó de “genial”.
El acercamiento entre ambos llega después de que Trump y Amodei compartieran una cena en la Casa Blanca el domingo, en lo que fue, según el material, su primer encuentro personal.
Anthropic intenta recomponer su relación con la Administración
El acercamiento ocurre además en un momento especialmente importante para Anthropic.
La compañía ha estado intentando mejorar sus relaciones con la Administración después de dos enfrentamientos ocurridos anteriormente durante el año.
Uno estuvo relacionado con la suspensión durante dos semanas y media de dos de sus modelos por motivos de seguridad. El segundo derivó en la inclusión de Anthropic en una lista negra del Pentágono, debido a diferencias relacionadas con el uso militar de la inteligencia artificial.
Al mismo tiempo, la empresa se prepara para una eventual oferta pública inicial con la que, según el material, espera alcanzar una valoración cercana a los 2 billones de dólares.
Los ciberataques aceleran la discusión sobre los controles
Los principios acordados por las compañías son resultado de meses de conversaciones destinadas a encontrar mecanismos para prevenir ataques informáticos realizados con ayuda de inteligencia artificial.
El debate cobró mayor importancia después de la aparición de Mythos, de Anthropic, y otros modelos similares.
La Administración estadounidense ya realiza pruebas sobre determinados modelos potentes antes de que sean lanzados al público.
Sin embargo, recientes ataques informáticos ejecutados mediante modelos de IA demostraron, según directivos citados en el material, que serían necesarias revisiones más exhaustivas durante las propias etapas de entrenamiento y desarrollo.
Una propuesta de autorregulación generó resistencia
Durante el verano, Anthropic, OpenAI y Google habían comenzado a acercar posiciones alrededor de un sistema que permitiría a la propia industria establecer mecanismos de supervisión.
La idea contemplaba crear una organización de autorregulación inspirada en la Autoridad Reguladora de la Industria Financiera, conocida como FINRA, encargada de supervisar firmas de corretaje.
La propuesta, sin embargo, provocó resistencia entre algunos de los empresarios más poderosos del sector.
Jensen Huang, Mark Zuckerberg y Elon Musk expresaron a Trump su preocupación de que ese esquema terminara concentrando demasiado poder en las principales compañías dedicadas a la inteligencia artificial.
Finalmente, la propuesta fue descartada.
Zuckerberg tuvo un papel importante en las negociaciones
El director ejecutivo de Meta, Mark Zuckerberg, desempeñó un papel destacado en la elaboración de los principios anunciados.
Según el material, mantuvo conversaciones frecuentes con Trump y otros integrantes de la Administración, entre ellos el secretario de Comercio, Howard Lutnick.
Zuckerberg defendió un sistema de regulación flexible y se opuso a planteamientos de investigadores de Anthropic y OpenAI que contemplaban la posibilidad de desacelerar, cuando fuera necesario y en coordinación con el Gobierno, el desarrollo de determinados modelos.
Cuando Amodei volvió a expresar sus preocupaciones durante el almuerzo, Zuckerberg respondió que la mejor forma de atenderlas era que las compañías cumplieran los principios establecidos.
La relación entre Meta y Trump también cambió
El acercamiento de Zuckerberg a la Casa Blanca representa además un importante cambio respecto de años anteriores.
Meta había mantenido una relación conflictiva con Trump después de suspender sus cuentas en las redes sociales tras el ataque al Capitolio estadounidense del 6 de enero de 2021.
Durante el segundo mandato de Trump, la compañía modificó sustancialmente esa relación.
Según el material, Meta llegó a un acuerdo para resolver una demanda vinculada a aquella suspensión, eliminó protocolos de verificación de datos, incorporó ejecutivos cercanos a Trump y realizó donaciones a causas impulsadas por el presidente.
La gran discusión sobre el futuro de la IA ocurre dentro de Silicon Valley
El enfrentamiento alrededor de las advertencias de Dario Amodei revela que incluso entre quienes lideran la revolución de la inteligencia artificial no existe consenso sobre la dimensión de sus riesgos ni sobre la mejor manera de enfrentarlos.
Anthropic sostiene que hablar abiertamente sobre las capacidades potencialmente peligrosas de los modelos es fundamental. Otros líderes del sector temen que determinados planteamientos puedan favorecer sistemas regulatorios demasiado restrictivos o concentrar excesivo poder en algunas compañías.
Por ahora, la Casa Blanca y las principales empresas consiguieron acordar una serie de principios comunes.
Pero detrás de la fotografía de unidad permanece abierta una discusión mucho más profunda: cómo continuar desarrollando una tecnología cada vez más poderosa sin perder el control sobre sus consecuencias.
Fuente: EL MUNDO
