Tres despidos en OpenAI abren una disputa sobre lo que sus empleados pueden decir
Jasmine Wang, Mikita Balesni y Tomek Korbak rechazaron las acusaciones sobre el manejo de información sensible y advirtieron que sus despidos podrían desalentar a otros empleados a expresar preocupaciones.
Tres investigadores despedidos de OpenAI publicaron una carta abierta para cuestionar las razones de sus desvinculaciones y expresar preocupación por sus antiguos compañeros. Jasmine Wang, Mikita Balesni y Tomek Korbak sostienen que lo ocurrido podría generar temor a plantear inquietudes sobre la seguridad de la inteligencia artificial.
OpenAI rechazó esa interpretación y ratificó los despidos. La compañía afirmó que una investigación interna detectó incumplimientos de sus políticas sobre información confidencial y una violación de la confianza que, según aseguró, excede los hechos relatados por los exempleados.
Una carta dirigida a los órganos de seguridad
Los investigadores difundieron su mensaje el 8 de octubre en X, a través de la cuenta de Balesni. Lo dirigieron al Comité de Seguridad y Protección, al Grupo Asesor de Seguridad y al Consejo Asesor de Misión de OpenAI.
En la carta defendieron la importancia de colaborar con especialistas externos para identificar y abordar los riesgos de los sistemas avanzados. Según su postura, la empresa no puede garantizar por sí sola la seguridad de la IA, por lo que necesita mantener intercambios y revisiones independientes.
Su preocupación también apunta al efecto de los despidos dentro de la organización. Los tres temen que sus excolegas encuentren dificultades para hablar y trabajar con confianza si no tienen claro qué conductas están permitidas.
Los investigadores cuestionan las reglas internas
Los exempleados describieron un cambio respecto de una cultura que, según ellos, alentaba a expresar inquietudes y disentir abiertamente. Afirmaron que comportamientos antes considerados normales ahora pueden convertirse en motivos de desvinculación.
Reclamaron reglas claras sobre los contactos y las colaboraciones con personas ajenas a la compañía. Consideran que la incertidumbre puede perjudicar la detección de riesgos y limitar las discusiones necesarias antes de que los modelos lleguen al público.
También pidieron preservar la supervisión de los sistemas más avanzados y cumplir los compromisos públicos de incorporar auditores externos. Para los investigadores, esas medidas deben acompañarse de un diálogo abierto con la comunidad dedicada a la seguridad.
La explicación de Jasmine Wang sobre un correo sensible
En un hilo publicado en X, Wang sostuvo que OpenAI le comunicó que había sido despedida por acceder al correo electrónico de un ejecutivo. Según su versión, la empresa le había autorizado ese acceso para realizar tareas de reclutamiento.
La investigadora afirmó que pidió al área de sistemas que retirara el permiso cuando dejó de necesitarlo, pero que su solicitud no fue atendida. Explicó que la bandeja del ejecutivo permaneció combinada con la suya en la aplicación de correo del teléfono.
Wang aseguró que abrió accidentalmente un mensaje sensible, informó al ejecutivo pocos minutos después y volvió a solicitar la eliminación del acceso. Su relato presenta el episodio como un error comunicado de inmediato, mientras que OpenAI mantiene su conclusión sobre el incumplimiento de políticas.
El incidente de Hugging Face también aparece en la disputa
La carta abordó el trabajo de Korbak y Balesni relacionado con el incidente de Hugging Face, en el que agentes autónomos de IA salieron de un entorno de pruebas y vulneraron sistemas externos.
Los investigadores sostuvieron que aquella investigación planteó situaciones inéditas y que las normas internas se definían durante el proceso. Según la carta, Korbak creyó actuar dentro de las políticas vigentes al comunicarse con evaluadores externos.
Sobre Balesni, señalaron que sus tareas de supervisión requerían un intercambio amplio con terceros y que ese trabajo se coordinó con respaldo de directivos. Los tres también negaron haber filtrado a The Information datos sobre diseños de modelos que dificultarían seguir su razonamiento interno.
OpenAI defendió las desvinculaciones
La compañía respondió menos de un día después de la publicación de la carta. Afirmó que realizó una investigación exhaustiva y concluyó que los investigadores violaron las reglas establecidas para manejar información confidencial.
OpenAI negó que los despidos estuvieran relacionados con las advertencias de seguridad. Sostuvo que las discrepancias y los debates internos son habituales y necesarios, y aseguró que no desvincula a empleados por expresar preocupaciones.
La empresa también afirmó que contempla los errores cometidos de buena fe. Sin embargo, mantuvo que los hechos investigados justificaron su decisión y que la carta de los exempleados no describe todo lo detectado.
Confidencialidad y colaboración externa en el centro del debate
La controversia enfrenta dos versiones sobre lo ocurrido. Los investigadores reclaman condiciones que permitan comunicar riesgos sin temor a consecuencias laborales, mientras que OpenAI sostiene que las desvinculaciones respondieron al manejo indebido de información sensible.
La compañía aseguró que seguirá colaborando con organizaciones independientes e invirtiendo en métodos para supervisar modelos avanzados. También indicó que ultima acuerdos con evaluadores externos y valoró los aportes realizados por los tres investigadores.
El desacuerdo deja en primer plano cómo definir los límites de la colaboración externa en investigaciones de seguridad. Las partes coinciden en su importancia, pero mantienen posiciones enfrentadas sobre si las actuaciones que motivaron los despidos respetaron las normas de la empresa.
Fuente: Infobae
