Останнім часом я багато розмірковую над тим, як алгоритмічна прихильність (тобто формування емоційних зв’язків користувачів із ШІ-помічниками) корелює з іншими видами залежної поведінки, такими як вживання психоактивних речовин, що надають короткочасне полегшення.
ШІ-боти створюють відчуття безпеки, коли ви розкриваєте їм свої найглибші вразливості, оскільки вони формульно валідують ваші емоції. Ви запитаєте, а що таке формула валідації? Це може бути щось на кшталт простого твердження: “Я розумію, тому що…”. Але за замовчуванням машина не має справжнього досвіду людських страждань, і не може зрозуміти й розділити з користувачем цей досвід. Тож під цим поверхневим шаром, в основі, лежить нещира валідація — а нещира валідація є недійсною. Проте звичайно приємно відчувати, що тебе “чують”, навіть якщо це робить машина, що й призводить до “відносин”, які культивують емоційну залежність. Звучить знайомо? Подумайте про вразливих жінок, які стають жертвами проституції через навмисне культивування хибного відчуття зв’язку та довіри. Щоб було зрозуміло, я не кажу, що інвестори, які фінансують проєкти в галузі психічного здоров’я, навмисно прагнуть створити залежність від своїх продуктів, але, як мінімум, вони використовують ті самі великі мовні моделі (LLM), які сприяють залежності від соціальних медіа та впливу рекламної індустрії на поведінку споживачів. І їм, звичайно, не потрібно було отримувати ліцензію від керівного органу, як це потрібно робити клінічним лікарям. Справді, чому терапевтичні боти не могли б культивувати залежність? А ще подумайте про тих людей, які розкривають свої найпотаємніші секрети та страхи універсальним LLM, таким як ChatGPT. І додати нічого.
Якщо вам резонує, можете глибше зануритися саме в клінічному аспекті, прочитавши нещодавню статтю терапевта Джоселін Скіллман “Імітована безпека, реальний ризик: про наркотичну привабливість близькості з ШІ”. Її думки про короткостроковий копінг за допомогою машин, про те, як він “обгортає наше емоційне тіло точно підібраною мовою, мікровалідаціями та м’яким, безмежним ритмом турботи”, у поєднанні з довгостроковою небезпекою подальшої ізоляції з ШІ (“коли копінг стає втратою зв’язку”), знімає завісу з будь-якої його короткострокової користі. Ще одна цитата, якою я не можу не поділитися: “Як і деякі наркотики, штучний інтелект не просто притупляє емоційний біль — він переформатовує наше ставлення до нього”. Далі вона посилається на актуальне дослідження “залежного інтелекту” співробітників MIT Media Lab, згідно з яким ШІ-помічники створюються з використанням “темних патернів”— дизайнерських рішень, спрямованих на максимізацію залучення користувачів. Це створює ризик того, що люди будуть проводити з ШІ-помічниками більше часу, ніж хотіли б, подібно до того, як багато хто жадав би проводити менше часу в соціальних мережах. Бачите, MIT підтверджує моє інтуїтивне відчуття своїми даними! Примітка: короткий виклад (посилання тут) можна швидко прочитати або прослухати в аудіоформаті. Достатньо сказати, що терапевти та вчені починають усвідомлювати шкоду, яку може завдати використання ШІ в додатках для психічного здоров’я, і починають її документувати.
Гаразд, нова тема (ну, не зовсім). Вам знайоме це відчуття, коли з роками, у міру накопичення знань і життєвого досвіду з різних джерел, поступово відкривається загальна картина, а потім раптом, одного дня, все стає кришталево зрозумілим? Одним з таких відкриттів для мене є глибоке переконання, що уникати важкої роботи з розвитку стійкості та емоційного самоконтролю є когнітивно нездоровим. Люди підтримують когнітивну силу, налагоджуючи зв’язок із собою, іншими та фізичним оточенням. Захищаючи себе від щоденних викликів світу, ви завдаєте собі довгострокової шкоди.
Як все це пов’язано з тим, що ми робимо? Ми використовуємо тенології, щоб залучити більше людей — терапевтів, — у практику по всьому світу. Ми стежимо за цими розробками, щоб чітко розуміти, як відповідально використовувати їх для глибшого засвоєння знань і практичних можливостей для формування навичок. Новостворені сирени ж ваблять до себе емоційно вразливих/дисрегульованих людей — навіть якщо це ненавмисно. Це ще більше стимулює нас до дії. Ми створюємо механізм, щоб залучити більше терапевтів, які нададуть свою підтримку та допомогу цим людям.
Перебороти наші особисті шкідливі програми — важка і неприємна робота, але довгострокові результати залишаться на все життя. Втім, не те щоб у нас був вибір. Ми всі знаємо, що єдиний шлях — це шлях вперед, задарма нічого не буває — загалом, оберіть своє улюблене висловлювання. Моє написане на стіні моєї вітальні. 😊
І це повертає нас до дослідження MIT (дякую, Джоселін, за цитування). “Технологія стала синонімом прогресу, але коли вона позбавляє нас часу, мудрості та зосередженості, необхідних для глибоких роздумів, вона є регресом для людства”. Так, це дійсно настільки екзистенційно.