Nueva York analiza 10 proyectos para controlar la IA y exigir responsabilidad a las empresas
El Concejo Municipal escuchó a representantes de OpenAI, Google, Meta y Anthropic, junto con antiguos trabajadores del sector. Las propuestas incluyen evaluaciones independientes, protección de conversaciones privadas y controles sobre modelos de alto riesgo.
El Concejo Municipal de Nueva York celebró el lunes una audiencia sobre los riesgos de la inteligencia artificial, mientras analiza 10 proyectos de ley para establecer controles locales.
Según la cobertura de CBS New York recogida por Infobae, participaron representantes de las principales compañías y exempleados que reclamaron mayores garantías de seguridad. Las iniciativas todavía deben atravesar el tratamiento legislativo.
Qué controles están en discusión
Las propuestas incluyen evaluaciones externas de los sistemas, reglas para proteger las conversaciones con chatbots y mecanismos que permitan a una persona desactivar modelos de alto riesgo.
También se estudia prohibir la representación no autorizada de funcionarios públicos mediante IA. La presidenta del Concejo, Julie Menin, defendió el avance local ante la falta de una regulación federal más estricta.
Responsabilidad ante posibles daños
Menin preguntó si las empresas asumirían responsabilidad legal por perjuicios económicos, exposición de información confidencial, lesiones o muertes vinculadas con sus modelos.
Morgan Dwyer, de OpenAI, respondió que la compañía toma seriamente la seguridad y trabaja en la evaluación de sus sistemas. Menin también cuestionó la falta de respuestas concretas sobre cómo las firmas cuantifican los riesgos.
Las advertencias de antiguos trabajadores
Jacob Coxon, exempleado de Anthropic, planteó que el desarrollo acelerado podría llevar a una pérdida de control humano. Reclamó frenar los modelos más avanzados hasta contar con condiciones de seguridad verificables.
Daniel Kokotajlo, exintegrante de OpenAI, advirtió sobre la concentración de poder en las empresas. Ambos presentaron sus preocupaciones ante los concejales como razones para reforzar la supervisión.
Privacidad de las conversaciones
El concejal Frank Morano propuso exigir el consentimiento expreso de los usuarios antes de utilizar conversaciones privadas para entrenar modelos.
Anthropic afirmó que la privacidad y la protección de datos forman parte de sus compromisos de seguridad. El uso de información personal quedó entre los principales asuntos del debate.
Las empresas defendieron sus medidas
Los representantes destacaron posibles beneficios de la IA para la investigación científica, la formación y la creación de negocios. Google mencionó programas dirigidos a trabajadores y estudiantes.
OpenAI señaló que realiza pruebas para detectar capacidades peligrosas y posibles fallos. Meta sostuvo que la seguridad es un eje de su desarrollo tecnológico.
SpaceX no asistió a la audiencia
SpaceX no participó pese a haber recibido una citación, según el reporte. Menin anunció que el Concejo avanzará con acciones legales ante la ausencia de la compañía.
El futuro de los 10 proyectos dependerá ahora de su tratamiento legislativo, que determinará qué controles podrá establecer la ciudad.
Fuente: Infobae
