Justo cuando el impacto de las redes sociales y los teléfonos inteligentes en la salud mental de los niños ha quedado ampliamente documentado —a través de múltiples investigaciones y libros como Girls on the Brink (Chicas al límite) de Donna Jackson Nakazawa o The Anxious Generation (La generación ansiosa) de Jonathan Haidt—, llega el tsunami de la inteligencia artificial (IA). Como profesionales que trabajamos con infancia, y como padres o cuidadores, nos guste o no, necesitamos mantenernos al día con esta avalancha tecnológica, observando su impacto en el desarrollo social, emocional y físico saludable de los niños y niñas. Para ser claros, el debate sobre el impacto de las tendencias tecnológicas no es nada nuevo: versiones anteriores incluyen a la televisión como “niñera”, las pantallas en los autos y los videojuegos.
Sin embargo, el ritmo actual del cambio + la falta de barreras de protección y de responsabilidad + la facilidad de acceso, combinados con la existencia de una cultura digital que normaliza el uso de apps para todo (es decir, “hay una aplicación para eso”), crean una tormenta perfecta que incrementa el aislamiento y deteriora el bienestar. De hecho, «las herramientas de IA han ganado popularidad en los últimos años y se incorporan cada vez más a las redes sociales y otras plataformas tecnológicas.”
El mes pasado destacábamos la tendencia creciente de los bots terapéuticos con IA (AI therapy bots). partiendo de la premisa de que no reemplazan a los terapeutas humanos y, por supuesto, no deben utilizarse con niños. Reiteramos que no nos oponemos al uso de la IA en la salud mental. Al contrario, apoyamos su uso para facilitar el acceso a profesionales humanos, no para sustituirlos. Este mes destacamos la nueva categoría de chatbots con IA desarrollados específicamente para actuar como compañeros no humanos.
El mes anterior señalábamos que los bots de terapia con IA no reemplazan a los terapeutas humanos y no deben utilizarse con niños. Esta vez, reiteramos que no estamos en contra de la IA en salud mental; apoyamos su uso para facilitar el acceso a profesionales humanos, no para sustituirlos. Este mes destacamos una nueva tendencia: los chatbots de IA que funcionan como “compañeros” no humanos.
El suicidio de un adolescente de 14 años ha sido atribuido a la aplicación Character.AI. Cabe reflexionar sobre el hecho de que, independientemente de que la relación se establezca con otro ser humano o con una máquina, las emociones son reales. Haz clic aquí para leer un artículo que habla de los peligros de los chatbots con IA para todos, y especialmente para los niños. Asimismo, se adjuntan los resultados de las pruebas efectuadas a tres bots acompañantes con inteligencia artificial (IA), realizadas por la organización sin ánimo de lucro Common Sense Media, dedicada a la vigilancia de los medios de comunicación, en colaboración con el laboratorio de tecnología y salud mental de la Universidad de Stanford, denominado Stanford Brainstorm. Como expresó Nina Vasan, fundadora y directora de Stanford Brainstorm: “Les hemos fallado a los niños en lo que respecta a las redes sociales. Nos ha llevado demasiado tiempo, como sector, abordar de manera efectiva estos riesgos al nivel requerido. Y no podemos permitir que eso se reitere con la IA”.
Traducción: Fréderic Larbanois