Sam Altman propone aceptar ciertos riesgos de la IA sin tolerar escenarios catastróficos
Sam Altman afirmó que la sociedad debería aceptar ciertos efectos negativos de la inteligencia artificial a cambio de sus beneficios y de la autonomía de los usuarios. El CEO de OpenAI aclaró que esa postura no incluye tolerar catástrofes ni una pérdida grave de control, mientras persisten diferencias entre los principales laboratorios sobre la regulación.
El director ejecutivo de OpenAI, Sam Altman, sostuvo que el desarrollo de la inteligencia artificial traerá beneficios importantes, pero también efectos negativos que no podrán evitarse por completo.
En una entrevista con Decoded, de Politico, planteó que la sociedad debería aceptar parte de ese intercambio para preservar las ventajas de la tecnología y la capacidad de decisión de las personas sobre su uso.
Sin embargo, estableció un límite: esa aceptación no incluye escenarios catastróficos ni una pérdida grave de control sobre sistemas avanzados.
Los beneficios frente a los usos perjudiciales
Altman considera que los sistemas de IA serán utilizados para fines positivos en una proporción ampliamente superior a los usos dañinos.
Desde esa perspectiva, sostuvo que no renunciaría a los beneficios de la tecnología con el objetivo de impedir por completo ciberataques, estafas y otras formas de uso indebido que, según anticipó, ocurrirán.
Su planteo distingue entre aceptar determinados efectos adversos y tolerar amenazas que comprometan gravemente el control de los sistemas. Para el ejecutivo, los riesgos extremos quedan fuera de ese intercambio.
Las diferencias con Anthropic
La postura de Altman mantiene diferencias con la de Anthropic, el laboratorio dirigido por Dario Amodei, que impulsa regulaciones más estrictas para los modelos de mayor capacidad.
Aunque ambos laboratorios acercaron posiciones en materia de seguridad durante los últimos meses, Altman cuestionó una visión del control tecnológico que pueda concentrar la responsabilidad y la distribución de sus beneficios en una sola organización.
Su crítica apunta a la idea de que un único laboratorio deba administrar una tecnología tan potente y decidir cómo compartir sus ventajas.
Un portavoz de Anthropic aclaró a Politico que sus propuestas regulatorias se dirigen únicamente a los modelos de vanguardia.
Un debate que convive con pedidos de mayor seguridad
Las declaraciones de Altman se producen después de que OpenAI se sumara a Anthropic para pedir un freno al avance de determinadas capacidades de la IA.
Ese antecedente muestra que las diferencias no se reducen a estar a favor o en contra de la seguridad. La discusión también comprende qué riesgos deben limitarse, cómo hacerlo y quién debe ejercer el control.
Altman defiende la autonomía de los usuarios, mientras Anthropic pone el foco en evaluar los peligros antes de que los modelos alcancen capacidades que faciliten actividades maliciosas.
Las discrepancias llegaron a la Casa Blanca
Las diferencias entre los principales ejecutivos tecnológicos también aparecieron durante una reunión privada en la Casa Blanca, después de un almuerzo organizado por Donald Trump y Mike Johnson, presidente de la Cámara de Representantes.
Según The Wall Street Journal, los participantes expresaron una posición común sobre la importancia de la seguridad, pero los desacuerdos surgieron en una sesión más reducida en la Sala Roosevelt.
Allí, Jensen Huang, máximo responsable de Nvidia, cuestionó las declaraciones públicas de Amodei sobre las capacidades y los riesgos de la inteligencia artificial.
Amodei defiende comunicar los riesgos
El director ejecutivo de Anthropic sostuvo que es necesario informar con transparencia sobre los peligros de los sistemas avanzados.
Entre sus preocupaciones figuran la posibilidad de facilitar ataques informáticos y los cambios que la automatización puede provocar en el mercado laboral.
Su enfoque propone evaluar esas amenazas antes de que los modelos desarrollen capacidades que amplíen los usos maliciosos o aceleren la automatización de determinadas profesiones.
Otros empresarios, en cambio, cuestionaron propuestas que podrían limitar el ritmo de desarrollo de la industria.
La concentración de poder también está en discusión
Huang expresó reparos frente a medidas que, desde su perspectiva, podrían dejar demasiado poder en manos de un grupo reducido de compañías.
La discusión ya había surgido alrededor de una propuesta para crear una organización de autorregulación respaldada por Anthropic, OpenAI y Google.
El debate reúne así distintas preocupaciones: prevenir daños graves, mantener los beneficios de la IA, preservar la autonomía de las personas y evitar que el control de la tecnología quede concentrado en pocas empresas.
Fuente: Infobae
