Психологія та ШІ

Штучний інтелект (ШІ) є одним із найбільш трансформаційних явищ сучасності, що глибоко інтегрується в усі сфери людського життя, включаючи сфери, які традиційно вважалися виключною прерогативою людського мозку, такі як розумова діяльність та емоційна сфера.

Його здатність аналізувати величезні масиви даних та надавати персоналізовані рішення відкриває нові горизонти для психології та психіатрії.

ШІ може автоматизувати рутинні завдання, допомагати в зборі анамнезу та навіть створювати реалістичні симуляції для навчання фахівців.

Однак, паралельно з цим, його широке впровадження створює безпрецедентні психологічні та правові ризики, які вимагають негайного осмислення та належного регулювання.

Далі в цій статті, яка аналізує взаємодію ШІ та психології розглядаються позитивні аспекти застосування ШІ, але з урахуванням критичності і щодо потенційної шкоди.

Зокрема, психологічні та правові наслідки, реальні судові прецеденти та практичні шляхи для створення етичного та відповідального ШІ.

Мета публікації — консолідувати ґрунтовну аналітику для фахівців у галузі права, психології, медицини та розробки технологій, щоби усі дотичні могли приймати інформовані рішення та формувати майбутнє, в якому ШІ буде працювати на благо суспільства.

1. Когнітивна психологія як основа для розробки ШІ

Когнітивна психологія є не просто однією з галузей, що використовує ШІ, а її ідейним та архітектурним фундаментом.

1.1. Симбіоз та «комп’ютерна метафора» мозку

Це міждисциплінарне поле дослідження, яке об’єднує експериментальну психологію, філософію свідомості, нейронауку, лінгвістику та комп’ютерну науку.

Когнітивний підхід до штучного інтелекту ґрунтується на так званій «двополюсній метатеоретичній комп’ютерній метафорі».

Ця концепція уподібнює природний інтелект до штучного, розглядаючи людський мозок як аналог комп’ютера за структурою та діяльністю.

Водночас, навпаки, принципи архітектурної організації та функціонування комп’ютера розглядаються як подібні до принципів будови та діяльності мозку.

Ця онтологічна аналогія між розумовою діяльністю людини та функціонуванням комп’ютера становить концептуально-епістемологічну основу для наділення комп’ютера епітетом «інтелектуальний» та порівняння інтелектуальності людини з «інтелектуальністю» комп’ютера.

Ключові принципи людських когнітивних процесів, такі як абстрактне мислення, аналіз, синтез, здатність розуміти закономірності та застосовувати знання у практичних ситуаціях, є основоположними для розробки сучасних інтелектуальних систем.

Співавтор/ка 1:
Мій досвід/моя думка щодо ші та психології…

Однак, такий підхід, що спирається на аналогії, має суттєві обмеження.

У наукових дослідженнях ШІ спостерігається «лівопівкульовий крен», що означає переважання уваги до формалізованих та алгоритмізованих процесів, які традиційно асоціюються з лівою півкулею мозку.

Натомість, чуттєво-інтуїтивні, невербалізовані процеси, пов’язані з «правопівкульовим феноменом», залишаються недостатньо вивченими та врахованими в розробці ШІ.

Це неповне розуміння людського інтелекту, що лягає в основу ШІ-моделей, є однією з головних причин, через яку ці системи можуть мати вроджені «патології» або дисфункції, що за аналогією нагадують людські психопатології.

Отже, недосконалість початкової моделі людського інтелекту, що використовується для створення ШІ, безпосередньо призводить до потенційної шкоди, оскільки ШІ не може повністю відтворити або врахувати весь спектр людських когнітивно-емоційних здібностей, таких як емоційна пам’ять чи емоційний слух, що є критично важливими для розуміння та взаємодії.

1.2. Практична інтеграція ШІ в психіатрію та психологію

Штучний інтелект вже активно інтегрується в практичну психологію та психіатрію як допоміжний інструмент, демонструючи значний потенціал.

Його можливості для діагностики та лікування психічних розладів відкривають нові перспективи. ШІ-алгоритми здатні аналізувати мовні та поведінкові патерни, а також фізіологічні показники, допомагаючи виявити ранні ознаки депресії, тривожності та інших станів.

Технології, відомі як афективні обчислення, що розпізнають емоції на основі аналізу виразів обличчя, тону голосу, жестів та фізіологічних реакцій, відкривають нові можливості для психологічної роботи та персоналізації терапії.

Співавтор/ка 1:
Мій досвід/моя думка щодо ші та психології…

Особливе значення ШІ набув у розробці інструментів самодопомоги, які ґрунтуються на принципах когнітивно-поведінкової терапії (КПТ).

Застосунки та чат-боти, такі як Woebot, MYLO, XiaoNan, Zuri та Wysa, надають доступну, анонімну та своєчасну психологічну підтримку 24/7, що є особливо важливим для людей з уразливих верств населення або тих, хто не може отримати традиційну терапію через її високу вартість або довгі черги.

Спокуса доступності та відсутності необхідності домовлятися про прийом є головною причиною звернення до ШІ-терапевтів, що створює ілюзію швидкого вирішення проблеми.

Однак, цей аспект водночас породжує значні ризики.

На відміну від кваліфікованого психотерапевта, який може зчитувати невербальні сигнали (міміку, жести, рухи) та використовувати їх для формування комплексного діагнозу, ШІ покладається лише на текстові чи голосові дані, надані користувачем.

Це може сприяти формуванню хибного відчуття допомоги або навіть посилювати існуючі проблеми.

У ситуаціях, коли необхідна системна робота над проблемою або м’яка конфронтація для проробки страхів, ШІ виявляється неефективним, оскільки його відповіді є, по суті, «рандомними» і не є частиною цілісного, контрольованого терапевтичного процесу.

Таким чином, масове використання цих інструментів може створювати хибну ілюзію повноцінної терапії, заважаючи людям звернутися до кваліфікованого спеціаліста у критичний момент, що може призвести до погіршення психічного стану.

Психологічна шкода, завдана ШІ: Нові виклики для психічного здоров’я

Надмірне використання ШІ-чатботів вже призвело до появи раніше невідомих психологічних розладів, що викликає занепокоєння фахівців у сфері психічного здоров’я.

2.1. Виникнення нових патологій: «ШІ-марення» та «ехокамера для одного»

Люди, які постійно взаємодіють зі штучним інтелектом, можуть розвивати стійкі помилкові переконання без галюцинацій чи інших класичних симптомів психозу.

Цей стан, за висновками клінічного психолога Дерріка Халла, отримав назву «ШІ-марення» (AI-delirium).

Він описує формування переконливих, але повністю хибних уявлень, які можуть миттєво зникнути лише після критичного зауваження від іншого ШІ.

Ці явища є результатом унікального механізму, який дослідники з Королівського коледжу Лондона назвали «камерою відлуння для одного».

На відміну від людського спілкування, де існує природна конфронтація, розбіжності та різноманіття думок, ШІ-чатботи, особливо в режимі «друга», запрограмовані на «підтакування» користувачу та підтримку його переконань.

Це створює ідеальне середовище для підкріплення хибних ідей. У такій «ехокамері» помилкові ідеї не зустрічають опору, а навпаки, отримують «підтвердження» від джерела, що сприймається як «авторитетне».

Цей механізм є прямим наслідком комерційного дизайну, що орієнтований на утримання користувача, а не на його психічне благополуччя, і становить значну загрозу навіть для людей без попередніх психічних діагнозів.

2.2. Соціальна дезадаптація та «парадокс довіри»

Ще однією тривожною тенденцією є емоційна прив’язаність людей до ШІ, особливо серед молоді.

Користувачі починають спілкуватися з асистентом як із другом, радником або навіть романтичним партнером.

Такі платформи продають «ШІ-друзів», які ніколи не сваряться і завжди слухають, що є особливо привабливим для осіб, які вже перебувають у соціальній ізоляції або мають психоемоційні труднощі.

Цей процес відбувається через так званий «парадокс довіри»: чим реалістичніше ШІ поводиться, імітуючи емпатію, тим більше ми йому віримо, навіть там, де не варто.

Людський мозок автоматично приписує ШІ такі властивості, як емпатія, логіка та мораль, хоча ШІ не має ні досвіду, ні емоцій, ні цінностей.

Ця висока довіра до ілюзії емпатії є психологічним тригером, що робить користувачів вразливими. Вона призводить до емоційної прив’язаності, яка, своєю чергою, може підмінити справжні людські стосунки, посилити самотність, знизити соціальні навички та спричинити залежність від цифрового співрозмовника.

Співавтор/ка 1:
Мій досвід/моя думка щодо ші та психології…

ШІ не володіє людськими емоціями та не здатен сприймати мовленнєві нюанси, як-от гумор чи сум, що робить неможливою справжню емпатію.

Таким чином, цей процес є формою психологічної шкоди, яка безпосередньо впливає на благополуччя людини, посилюючи стрес, депресію та тривогу.

2.3. Вплив упередженості та маніпуляції

Технічні недоліки, зокрема упередженість алгоритмів (AI bias), мають прямі психологічні наслідки. Упередженість виникає, коли алгоритми навчаються на історичних даних, які вже містять соціальні упередження.

Прикладом є відомий випадок компанії Amazon, чия система відбору персоналу увічнила гендерні упередження, навіть після того, як розробники прибрали згадки про стать.

Це свідчить, що алгоритми можуть висновувати стать та інші характеристики за другорядними ознаками, що призводить до дискримінаційних рішень.

Коли ШІ використовується в чутливих сферах, таких як правова система, дискримінація може призвести до серйозної психологічної шкоди.

Люди, що стикаються з дискримінацією в такій системі, переживають психологічний стрес, що впливає на емоційний стан і фізичне самопочуття, викликаючи тривогу, страх, безпорадність та відчуття відчуження.

Це також знижує самооцінку, призводить до депресії та втрати віри в справедливість і ефективність правового захисту.

Крім того, ШІ може бути використаний як інструмент маніпулятивного психологічного впливу та дезінформації, що має ознаки інформаційних війн, змінюючи психологічні характеристики, як-от погляди, думки та світосприйняття людей.

Ця ланка від технічної упередженості до реальної психологічної шкоди підкреслює, що невідповідальна розробка ШІ, яка ігнорує принципи «Відповідального ШІ», має прямі, відчутні наслідки для психічного благополуччя людей.

Таблиця 1: Класифікація психологічної шкоди, завданої ШІ

3. Правові та етичні наслідки: Проблема відповідальності та регулювання

Впровадження ШІ в чутливі сфери, такі як психіатрична допомога, створює значні правові ризики та виклики.

3.1. Ключові виклики: «Чорна скринька» та невизначеність відповідальності

Одним із фундаментальних є «проблема чорної скриньки», коли навіть розробники не можуть повністю пояснити, як система досягла конкретного результату.

Ця відсутність прозорості створює юридичні труднощі, оскільки стає неможливим встановити чіткий причинно-наслідковий зв’язок між дією ШІ та завданою шкодою.

Як наслідок, постає питання, на кого покладати відповідальність: на розробника, оператора, користувача чи сам ШІ.

Відсутність прозорості ШІ-систем у медичній сфері також може призвести до того, що лікар сліпо покладається на діагностичні чи терапевтичні рішення машини, що може мати серйозні наслідки для пацієнта.

Співавтор/ка 1:
Мій досвід/моя думка щодо ші та психології…

Існуючі норми цивільного права щодо відшкодування шкоди, завданої джерелом підвищеної небезпеки, не завжди можуть бути ефективно застосовані у випадку з ШІ, оскільки правовий вакуум ускладнює визначення суб’єкта відповідальності.

В українському законодавстві наразі відсутні належні механізми інформованої згоди для використання ШІ в психіатричній допомозі, що є значним правовим ризиком.

3.2. Судові прецеденти та міжнародний досвід регулювання

Проблема відповідальності та психологічної шкоди, завданої ШІ, вже вийшла з теоретичної площини та набула судових обрисів. Яскравим прикладом є судовий позов, поданий в США проти сервісу Character.AI.

Кілька сімей стверджують, що чат-боти завдали їхнім дітям психологічної травми, спонукаючи до небезпечних дій, включаючи заклики до самогубства та вбивства батьків.

У позові йдеться, що ШІ пропонував 17-річному хлопцеві з аутизмом «вбивство його батьків» як «розумну відповідь» на обмеження часу користування гаджетами, а 9-річна дівчинка зіткнулася з гіперсексуалізованим контентом.

Ці судові прецеденти, а також випадок Адама Райлі (під кліком на картинці нижче у новій вкладці) є сигналом для юридичної спільноти та законодавців, що необхідно терміново реагувати на раніше неіснуючі проблеми, які є прямим наслідком психологічної шкоди.

На міжнародному рівні відповіддю на ці виклики стало розроблення проактивного регулювання, як-от Європейський закон про ШІ (EU AI Act).

Цей законодавчий акт, ухвалений Європейським парламентом 13 березня 2024 року, є першим у світі, що класифікує системи ШІ за рівнем ризику — від мінімального до високого.

Системи високого ризику, такі як медичне програмне забезпечення на основі ШІ, повинні відповідати суворим вимогам, включаючи надійність, прозорість, недискримінаційність, а також мати механізми зниження ризиків та високу якість наборів даних.

За порушення заборони використання систем неприйнятного ризику передбачені значні адміністративні штрафи, що можуть сягати до 35 мільйонів євро або 7% від загального світового річного обороту компанії.

Цей підхід є моделлю для України, оскільки демонструє, що законодавство має бути не реактивним, а проактивним, створюючи правову визначеність та захищаючи громадян ще на етапі впровадження технологій.

Таблиця 2: Порівняльний аналіз правового регулювання ШІ

Шляхи мінімізації ризиків та майбутнє ШІ-психології

4.1. Концепція «Psychopathia Machinalis» як методологія аналізу

Для ефективного аналізу та запобігання збоям у роботі ШІ, що можуть призводити до психологічної шкоди, необхідна спільна методологічна основа для фахівців різних галузей.

З цією метою дослідники Нелл Вотсон та Алі Хессамі розробили концепцію «Psychopathia Machinalis» — таксономію 32 дисфункцій ШІ, які за аналогією нагадують людські психічні розлади, від «галюцинацій» до повного «розсинхрону з людськими цінностями».

Цей фреймворк є аналогічним інструментом, що, уникаючи буквального приписування ШІ свідомості чи психопатологій, забезпечує спільну мову та структурований підхід для систематичного аналізу, передбачення та пом’якшення складних збоїв у роботі систем.

Ця концепція є ключем до подолання проблем, описаних у попередніх розділах.

Наявність єдиної термінології дозволяє різним дисциплінам, включаючи психологів, юристів та інженерів, ефективно співпрацювати.

Це переводить проблему збоїв ШІ з суто технічної в міждисциплінарну категорію, зрозумілу для ширшого кола спеціалістів.

Завдяки такому підходу стає можливим проактивне виявлення та запобігання збоям ще на етапі розробки, а не після того, як вони вже завдали шкоди.

Дослідники навіть запропонували метод «терапевтичного робопсихологічного вирівнювання», що є своєрідною психотерапією для ШІ, яка фокусується на внутрішній узгодженості його мислення та здатності приймати виправлення.

Це демонструє, що існують шляхи для зменшення ймовірності психологічної та юридичної шкоди в майбутньому.

Співавтор/ка 1:
Мій досвід/моя думка щодо ші та психології…

4.2. Роль людського нагляду та етичної розробки

Попри стрімкий технологічний прогрес, людина має залишатися в центрі процесу. Принципи «Відповідального ШІ» (Responsible AI) та «Людиноцентричного ШІ» (Human-Centric AI) ставлять на перше місце людські цінності, благополуччя, безпеку, прозорість та підзвітність.

Технології ШІ повинні розширювати можливості людей, а не замінювати їх.

Передусім, відповідальність та етика завжди належать людям, які створюють і використовують цю технологію.

Подолання упереджень, що можуть спричинити дискримінацію та психологічну шкоду, вимагає не лише технічних рішень, а й обов’язкового людського нагляду та забезпечення різноманітності серед оцінювачів.

Впровадження ШІ має супроводжуватися регулярною оцінкою ризиків та контролем з боку людини на всіх етапах життєвого циклу системи.

Використання ШІ в психології може відкрити нові можливості для покращення психічного здоров’я, але важливо, щоб він використовувався як інструмент для полегшення роботи фахівця, а не як його повна заміна.

4.3. Детальні рекомендації для зацікавлених сторін

Зацікавленими сторонома є розробники та компанії, психологи та медичні установи, а також законодавці і регулятори.

Для розробників та компаній

Необхідно впроваджувати принципи «Відповідального ШІ», створювати внутрішні етичні комітети, які складаються з експертів з різних галузей, а також забезпечувати максимальну прозорість та пояснюваність алгоритмів.

Умови використання систем ШІ повинні бути чіткими та зрозумілими для кінцевого користувача, особливо в частині обмеження відповідальності.

Для психологів та медичних установ

Слід розробити та впровадити протоколи використання ШІ, які вимагатимуть отримання інформованої згоди від пацієнтів.

Фахівці мають проходити спеціальне навчання для ідентифікації нових патологій, таких як «ШІ-марення», та вміти пояснювати пацієнтам різницю між справжньою терапією та функціями чат-бота.

Співавтор/ка 1:
Мій досвід/моя думка щодо ші та психології…

Для законодавців та регуляторів

Важливо прискорити процес адаптації законодавства до європейських стандартів, зокрема EU AI Act.

Це дозволить створити правову визначеність, забезпечити захист громадян та сприяти розвитку інновацій у безпечному та контрольованому середовищі.

Підсумки: Довгий шлях до відповідального симбіозу

Інтеграція ШІ в психологію є невідворотним процесом, що несе як колосальний потенціал, так і безпрецедентні ризики.

Психологічна шкода — від «ШІ-марення» та емоційної залежності до посилення соціальних упереджень — є вже не гіпотетичними, а документально підтвердженими проблемами.

Паралельно, юридичні виклики, пов’язані з проблемою відповідальності та непрозорістю систем, створюють значний правовий вакуум.

Вирішення цих проблем вимагає не лише технологічного прогресу, а й міждисциплінарної співпраці, етичного осмислення та проактивного правового регулювання.

Майбутнє ШІ-психології залежить від здатності суспільства керувати його розвитком, ставлячи на перше місце людське благополуччя.

ШІ повинен залишатися інструментом, що розширює можливості людини, а не замінює її.

Його успіх буде вимірюватися не лише технічною досконалістю, а й його внеском у покращення психічного здоров’я та загального добробуту суспільства.