Zuckerberg rechaza frenar la IA y asegura que las empresas ya tienen incentivos para hacerla segura
El director ejecutivo de Meta considera innecesario ralentizar el desarrollo de la inteligencia artificial. Asegura que la responsabilidad legal y la competencia ya impulsan a las empresas a crear modelos más seguros.
Mark Zuckerberg rechazó la posibilidad de ralentizar el desarrollo de la inteligencia artificial para mejorar su seguridad y sostuvo que las empresas ya cuentan con suficientes incentivos para prevenir posibles daños.
El director ejecutivo de Meta considera que los laboratorios que no trabajen en la alineación de sus modelos terminarán perdiendo terreno frente a sus competidores.
Su postura se acerca a la defendida por Jensen Huang, máximo responsable de Nvidia, y se distancia de los planteamientos expresados por Dario Amodei, de Anthropic.
La seguridad puede definir la competencia
Zuckerberg afirmó que la confianza y la alineación se están convirtiendo en algunas de las capacidades más importantes para diferenciar a los modelos y agentes de inteligencia artificial.
La alineación se refiere al trabajo destinado a conseguir que las tecnologías actúen de acuerdo con los objetivos, las instrucciones y los valores humanos.
Según el empresario, las compañías que no prioricen este aspecto podrían quedar rezagadas, ya que los usuarios elegirán productos que consideren más confiables y seguros.
La responsabilidad legal funciona como incentivo
El fundador de Facebook señaló que los laboratorios de inteligencia artificial pueden afrontar una responsabilidad legal considerable si sus modelos provocan daños.
Esa posibilidad, sostuvo, representa un incentivo suficiente para que las empresas adopten medidas de prevención sin necesidad de detener el avance tecnológico.
Zuckerberg considera que garantizar la seguridad de los productos forma parte del trabajo cotidiano de las compañías y también responde a sus propios intereses comerciales.
Meta retrasó una tecnología por seguridad
Como ejemplo, Zuckerberg explicó que Meta decidió retrasar el lanzamiento de sus tecnologías de inteligencia artificial Muse debido a cuestiones relacionadas con la seguridad y la protección.
La compañía tomó la decisión por iniciativa propia, sin esperar que una regulación gubernamental la obligara a hacerlo.
El ejecutivo señaló que la medida era correcta tanto para las personas como para los intereses de la propia empresa.
Nvidia también rechaza nuevas restricciones
La postura de Zuckerberg coincide con la expresada por Jensen Huang durante la conferencia anual Dreamforce de Salesforce.
El director ejecutivo de Nvidia sostuvo que los desarrolladores deben asumir la responsabilidad por sus productos en lugar de solicitar regulaciones gubernamentales destinadas a limitar los posibles riesgos.
Huang también consideró innecesarias nuevas normativas específicas para la inteligencia artificial porque ya existen leyes que regulan la fiabilidad y el funcionamiento de los productos.
Anthropic pide ralentizar el desarrollo
Dario Amodei defiende una visión diferente. El director ejecutivo de Anthropic considera necesario moderar el ritmo de avance de los modelos para disponer de más tiempo destinado a mejorar su seguridad.
Durante su participación en Dreamforce, Amodei sostuvo que ralentizar el desarrollo puede ayudar a la industria a avanzar de forma responsable y demostrar que los sistemas siempre pueden perfeccionarse.
Sus declaraciones reflejan la preocupación de una parte del sector ante la rápida evolución de las capacidades de la inteligencia artificial.
OpenAI llama a una mayor coordinación
Sam Altman, director ejecutivo de OpenAI, también destacó la importancia de que las empresas tecnológicas coordinen sus esfuerzos para garantizar un desarrollo seguro.
Altman señaló que resulta positivo que la industria manifieste su intención de trabajar de manera conjunta y disponer del tiempo necesario para reducir los riesgos.
El empresario advirtió que la preocupación aumenta cuando las presiones comerciales o la competencia entre países pueden llevar a una compañía o nación a tomar decisiones irresponsables.
La industria permanece dividida
Las declaraciones muestran las diferencias existentes entre los principales líderes del sector tecnológico sobre la manera de equilibrar innovación y seguridad.
Zuckerberg y Huang consideran que la competencia, la responsabilidad empresarial y las leyes vigentes pueden orientar el desarrollo responsable de la inteligencia artificial.
Amodei y Altman, en cambio, insisten en la necesidad de establecer mayores niveles de coordinación y controlar el ritmo de avance cuando las capacidades evolucionan más rápido que las medidas de protección.
Fuente: Bolsamanía
