El uso prolongado de asistentes de IA podría afectar las relaciones humanas
Investigadores de Singapur advirtieron que recurrir a asistentes de inteligencia artificial como sustitutos de la interacción humana puede profundizar el aislamiento y deteriorar las capacidades interpersonales. El estudio propone medidas de regulación, educación y diseño para reducir los riesgos.
Una investigación liderada por la Universidad de Administración de Singapur y la Facultad de Medicina Duke-NUS advirtió que los compañeros de inteligencia artificial podrían profundizar las desigualdades sociales y afectar las habilidades interpersonales.
El estudio, publicado en la revista Nature Human Behaviour, fue dirigido por Zhang Qiyang, profesor asistente de análisis del aprendizaje, y Liu Nan, profesor asociado del Centre for Biomedical Data Science de Duke-NUS.
Los especialistas analizaron quiénes se benefician del uso de estas herramientas, quiénes asumen mayores riesgos y por qué sus efectos se distribuyen de forma desigual.
La IA puede ampliar las brechas sociales
El estudio identificó una dinámica en la que las personas con vínculos familiares sólidos y redes sociales activas suelen utilizar los asistentes virtuales como complemento de sus relaciones.
Estas herramientas pueden ayudarlas a preparar conversaciones difíciles, organizar sus pensamientos o gestionar momentos de estrés sin reemplazar el contacto con otras personas.
El escenario cambia entre quienes atraviesan situaciones de soledad, aislamiento o dificultades para acceder a servicios de salud mental.
El riesgo de reemplazar la conexión humana
Las personas con menor respaldo social tendrían una mayor probabilidad de recurrir a los asistentes de IA como sustitutos de la interacción humana.
Esta dependencia puede reducir las oportunidades de mantener conversaciones reales, resolver diferencias y practicar habilidades necesarias para relacionarse con otras personas.
Los autores denominaron este fenómeno “pérdida de habilidades sociales”, entendida como el deterioro gradual de las capacidades interpersonales provocado por una menor práctica de interacción humana auténtica.
Los adolescentes aparecen entre los más vulnerables
La preocupación coincide con un artículo de investigadores de la Universidad Estatal de Arizona publicado en The Lancet Child & Adolescent Health.
Ese análisis advirtió que la compañía proporcionada por sistemas de inteligencia artificial puede modificar la manera en que los adolescentes enfrentan conflictos, establecen límites y desarrollan empatía.
“Sin medidas de seguridad específicas, los asistentes de IA corren el riesgo de reforzar las desigualdades sociales existentes”, señaló Zhang Qiyang.
El modelo del queso suizo permite explicar los riesgos
Para estudiar cómo se producen estas diferencias, el equipo adaptó el denominado modelo del queso suizo, utilizado habitualmente en ingeniería y ciencias de la seguridad.
El modelo establece que los daños importantes no necesariamente son consecuencia de una sola falla, sino de la coincidencia de varios problemas pequeños dentro de diferentes capas de protección.
Cuando las debilidades de esas capas coinciden, los usuarios más vulnerables quedan expuestos a consecuencias que podrían haberse evitado mediante controles adecuados.
Cuatro capas de protección
Los investigadores consideraron cuatro elementos principales: la alfabetización digital sobre inteligencia artificial, las redes de apoyo social, las decisiones de diseño de las plataformas y la supervisión regulatoria.
Cada una de estas capas puede presentar debilidades o “agujeros” que incrementan el riesgo cuando aparecen al mismo tiempo.
El enfoque evita atribuir toda la responsabilidad a un solo actor y analiza la interacción entre usuarios, empresas tecnológicas, autoridades y entornos sociales.
La regulación continúa siendo insuficiente
La principal brecha identificada por el estudio se encuentra en la gobernanza de estas tecnologías.
Aunque los asistentes de IA se utilizan cada vez más para buscar contención y apoyo emocional, numerosos países todavía los regulan únicamente como aplicaciones de consumo.
Esta clasificación no considera plenamente las posibles consecuencias psicosociales ni los efectos relacionados con la salud mental de sus usuarios.
Los investigadores piden mayores protecciones
Reconocer a los asistentes de IA como tecnologías con implicaciones para la salud permitiría aplicar medidas de protección más exigentes.
Entre las propuestas aparecen diseños adaptados a la edad, advertencias claras que informen que la conversación se mantiene con una máquina y límites para las funciones emocionalmente manipuladoras.
El informe también recomienda establecer normas más estrictas sobre privacidad y gestión de datos personales.
Protocolos ante situaciones de crisis
Los investigadores plantean la necesidad de incorporar procedimientos obligatorios cuando un usuario comunique pensamientos de autolesión u otras circunstancias de alto riesgo.
Estos protocolos permitirían que las plataformas respondan de manera adecuada ante situaciones que no deberían ser atendidas exclusivamente por un sistema automatizado.
Zhang Qiyang también trabaja en un panel de políticas globales destinado a seguir los marcos nacionales de gobernanza aplicados a la inteligencia artificial en el ámbito de la salud mental.
Una gobernanza organizada por capas
Los especialistas proponen una gobernanza por capas que combine regulación pública, educación digital, diseño responsable de productos y estrategias para fortalecer las relaciones fuera del entorno virtual.
El objetivo es evitar que las personas con menor apoyo social desarrollen una dependencia excesiva de estas herramientas para recibir contención emocional.
La propuesta busca que la inteligencia artificial funcione como un complemento de los vínculos humanos y no como un reemplazo permanente.
Singapur podría liderar las salvaguardias
La investigación considera que Singapur se encuentra en una posición favorable para impulsar protecciones responsables debido a su infraestructura digital, su capacidad para elaborar políticas y su experiencia en gobernanza tecnológica.
Sin embargo, la elevada adopción de teléfonos inteligentes, el uso extendido de inteligencia artificial, el envejecimiento poblacional y el aumento de adultos mayores que viven solos también representan factores de riesgo.
Estas condiciones podrían acelerar la utilización de compañeros virtuales entre personas que ya enfrentan aislamiento o una limitada red de apoyo.
Los jóvenes necesitan medidas especiales
Liu Nan advirtió que los jóvenes podrían estar menos preparados para reconocer las limitaciones de los asistentes virtuales y los intereses comerciales que existen detrás de estas plataformas.
Por esa razón, el investigador consideró especialmente importantes las medidas de protección dirigidas a niños y adolescentes.
La educación digital también debería enseñar a distinguir entre una respuesta generada por una máquina y el apoyo emocional que puede ofrecer una relación humana.
La IA puede complementar los vínculos
Zhang Qiyang concluyó que el futuro de los asistentes virtuales dependerá de la manera en que sean diseñados, administrados y utilizados.
“Al combinar una regulación reflexiva, un diseño de producto responsable y una mayor alfabetización pública en IA, los asistentes con IA pueden complementar las relaciones humanas”, afirmó.
El desafío consiste en aprovechar sus beneficios sin permitir que su uso prolongado reduzca la interacción social o agrave las condiciones de quienes necesitan mayor acompañamiento humano.
Fuente: Infobae
