AI nie powinno udawać terapeuty. Nowe badanie pokazuje, dlaczego chatbot musi jasno mówić o swoich ograniczeniach

Rozmowa z chatbotem wykorzystującym sztuczną inteligencję może przypominać kontakt z uważnym rozmówcą. System odpowiada natychmiast, potrafi odnieść się do wcześniejszych wypowiedzi, może używać języka kojarzonego z empatią i proponować sposoby radzenia sobie ze stresem czy trudnymi emocjami. Właśnie ta naturalność stanowi jednak jeden z największych problemów, gdy AI zaczyna być wykorzystywane do rozmów o zdrowiu psychicznym. Płynna, przekonująca odpowiedź nie oznacza bowiem, że po drugiej stronie znajduje się terapeuta zdolny do diagnozy, prowadzenia psychoterapii, oceny ryzyka czy ponoszenia zawodowej odpowiedzialności za udzieloną pomoc.

Nowe badanie pokazuje, że sposób przedstawienia chatbota użytkownikowi może mieć realne znaczenie. Naukowcy sprawdzili, jak informacje dotyczące prywatności oraz wyraźny komunikat o granicach kompetencji AI wpływają na postrzeganie systemu. Okazało się, że jasne wskazanie, iż chatbot nie zastępuje diagnozy, psychoterapii, leczenia ani interwencji kryzysowej, pomagało uczestnikom lepiej rozumieć jego rolę. Co szczególnie ważne, większa świadomość tych ograniczeń wiązała się z mniejszą skłonnością do nadmiernego polegania na AI i większą gotowością do zwrócenia się do profesjonalisty, gdy sytuacja tego wymagała.

Dlaczego chatbot AI może być pomylony z prawdziwym terapeutą?

Jednym z powodów jest sposób, w jaki generatywna sztuczna inteligencja prowadzi rozmowę. Chatbot potrafi odpowiadać pełnymi zdaniami, dostosowywać język do emocjonalnego tonu wypowiedzi, zadawać pytania i formułować komunikaty brzmiące wspierająco. Dla użytkownika może to tworzyć wrażenie zrozumienia, szczególnie jeśli rozmowa dotyczy samotności, lęku, problemów w związku lub obniżonego nastroju. System jest ponadto dostępny natychmiast i nie reaguje widoczną dezaprobatą, dlatego powiedzenie mu o czymś wstydliwym może wydawać się łatwiejsze niż rozmowa z drugim człowiekiem. Problem zaczyna się wtedy, gdy językowa sprawność zostaje utożsamiona z kompetencją kliniczną.

Model językowy nie rozumie sytuacji pacjenta w taki sposób jak psycholog czy psychoterapeuta. Generuje odpowiedź na podstawie przetwarzanych informacji i wzorców językowych, nie prowadząc pełnego badania klinicznego i nie posiadając dostępu do całego kontekstu życia rozmówcy. Nie obserwuje zachowania podczas spotkania, nie ma możliwości zweryfikowania wielu istotnych informacji i może niewłaściwie zinterpretować niejednoznaczną wypowiedź. Dlatego naturalnie brzmiące zdanie może być jednocześnie niewystarczające, niedopasowane albo błędne. Im bardziej system przypomina człowieka, tym ważniejsze staje się więc jasne poinformowanie użytkownika, że rozmawia z narzędziem AI, a nie z osobą posiadającą kwalifikacje terapeutyczne.

Co pokazało nowe badanie dotyczące ostrzegania o ograniczeniach chatbotów AI?

W badaniu uczestniczyło 768 studentów, których losowo przydzielono do czterech grup. Każda osoba zapoznawała się ze scenariuszem dotyczącym chatbota umożliwiającego uzyskanie ogólnych informacji o stresie, śnie, regulowaniu emocji i możliwościach szukania pomocy. Poszczególne wersje różniły się obecnością dwóch elementów: informacji dotyczącej ochrony prywatności oraz komunikatu wyznaczającego profesjonalne granice systemu. W tym drugim przypadku użytkownik otrzymywał jasną informację, że chatbot nie zastępuje diagnozy, psychoterapii, interwencji kryzysowej ani leczenia medycznego i że w poważnych sytuacjach konieczny jest kontakt z odpowiednimi specjalistami.

Efekt takiego komunikatu był wyraźny. Ostrzeżenie zwiększało świadomość profesjonalnych ograniczeń AI, a większa świadomość granic była związana z niższym ryzykiem nadmiernego polegania na chatbocie oraz silniejszą deklarowaną gotowością do skorzystania z profesjonalnej pomocy. Najbardziej prawidłowo skalibrowane zaufanie obserwowano wtedy, gdy użytkownik otrzymywał zarówno informację dotyczącą prywatności, jak i komunikat o granicach kompetencji systemu. Badacze podkreślają jednak ważne ograniczenie: uczestnicy oceniali przygotowane scenariusze. Eksperyment nie sprawdzał, czy ostrzeżenia rzeczywiście zmieniają zachowanie osób korzystających przez wiele miesięcy z prawdziwego chatbota ani czy poprawiają wyniki leczenia.

Dlaczego zbyt duże zaufanie do AI w zdrowiu psychicznym może być niebezpieczne?

W przypadku wielu zwykłych pytań błędna odpowiedź chatbota oznacza przede wszystkim otrzymanie nieprecyzyjnej informacji. W zdrowiu psychicznym konsekwencje mogą być poważniejsze. Osoba znajdująca się w silnym kryzysie może potrzebować oceny ryzyka, bezpośredniej pomocy, diagnostyki lub pilnego kontaktu z odpowiednimi służbami. Jeśli chatbot niewłaściwie rozpozna sytuację, zbagatelizuje sygnał zagrożenia albo odpowie w sposób brzmiący uspokajająco, istnieje ryzyko, że użytkownik potraktuje taką reakcję jako wystarczającą. Szczególnym problemem jest więc nie tylko możliwość błędu AI, lecz także przekonanie człowieka, że system posiada większe kompetencje, niż ma w rzeczywistości.

Problem ten nie jest wyłącznie teoretyczny. W opublikowanym w 2026 roku pilotażowym badaniu bezpieczeństwa wirtualnego agenta przeznaczonego do rozmów psychoterapeutycznych eksperci testowali scenariusze związane między innymi z zachowaniami samobójczymi i używaniem substancji. Problematyczne reakcje pojawiły się w 29 procentach rozmów, natomiast 12,5 procent oceniono jako wysoce krytyczne. Dotyczyły między innymi niedostatecznego rozpoznawania ryzyka, niewystarczającego kierowania do pomocy kryzysowej oraz etycznie problematycznych sugestii. Było to niewielkie badanie symulacyjne i nie uczestniczyli w nim prawdziwi pacjenci, ale wyniki pokazują, dlaczego system mówiący o zdrowiu psychicznym nie powinien przedstawiać własnych odpowiedzi jako odpowiednika profesjonalnej terapii.

Czy informacja „AI nie zastępuje terapeuty” naprawdę może coś zmienić?

Na pierwszy rzut oka takie zdanie może wyglądać jak zwykłe zabezpieczenie prawne umieszczane w regulaminach aplikacji. Badanie sugeruje jednak, że komunikat o granicach może pełnić ważniejszą funkcję psychologiczną. Użytkownik otrzymuje wskazówkę pozwalającą właściwie zinterpretować rozmowę. Chatbot może być pomocny przy zdobywaniu ogólnych informacji, porządkowaniu myśli czy poznawaniu możliwości dalszego działania, ale nie powinien być uznawany za osobę prowadzącą diagnozę lub terapię. Celem nie musi być więc maksymalne zwiększanie zaufania do technologii. Bezpieczniejszym rozwiązaniem jest zaufanie skalibrowane - adekwatne do faktycznych możliwości systemu.

Badacze zauważyli, że świadomość granic wiązała się właśnie z takim bardziej odpowiedzialnym sposobem oceniania AI. Użytkownik nie musi całkowicie odrzucać możliwości korzystania z chatbota, ale powinien wiedzieć, kiedy potrzebne jest coś więcej. W sytuacji silnego, utrzymującego się cierpienia psychicznego, poważnego ograniczenia codziennego funkcjonowania, konieczności postawienia diagnozy czy wystąpienia zagrożenia zdrowia albo życia rolę powinien przejąć człowiek posiadający odpowiednie kwalifikacje. Autorzy badania proponują zatem, aby informacje o granicach nie były ukrywane w długim regulaminie, lecz pojawiały się w widocznym miejscu i były napisane językiem zrozumiałym dla użytkownika.

Czy sztuczna inteligencja może wspierać zdrowie psychiczne bez prowadzenia terapii?

Wyznaczenie granicy między wsparciem a terapią nie oznacza, że AI nie może być w ogóle używane w obszarze zdrowia psychicznego. Chatbot może przykładowo przekazywać podstawowe informacje psychoedukacyjne, wyjaśniać znaczenie pojęć, pomagać przygotować pytania przed spotkaniem ze specjalistą lub wskazywać, jakie formy profesjonalnej pomocy istnieją. Może również pomagać w organizowaniu informacji czy przypominać ogólne strategie radzenia sobie ze stresem. W takim zastosowaniu AI funkcjonuje bardziej jak narzędzie informacyjne i wspomagające niż osoba podejmująca decyzje kliniczne. Właśnie do takiego rozumienia roli chatbotów skłaniają wyniki najnowszego eksperymentu.

Granica staje się natomiast niebezpiecznie niewyraźna, gdy system zaczyna sugerować, że potrafi zastąpić specjalistę, tworzy wrażenie profesjonalnej relacji terapeutycznej albo przedstawia swoje wnioski jako diagnozę. Użytkownik może nie wiedzieć, które elementy odpowiedzi mają mocne podstawy, a które są rezultatem błędnego wnioskowania modelu. System nie posiada także odpowiedzialności zawodowej charakterystycznej dla osób wykonujących zawody związane ze zdrowiem psychicznym. Dlatego jednym z proponowanych kierunków rozwoju jest projektowanie AI jako uzupełnienia systemu pomocy - narzędzia pozwalającego łatwiej dotrzeć do informacji i właściwego miejsca wsparcia, zamiast cyfrowego zamiennika psychoterapeuty.

Dlaczego prywatność podczas rozmowy z chatbotem o zdrowiu psychicznym jest tak ważna?

Rozmowy dotyczące psychiki należą do najbardziej osobistych informacji, jakie człowiek może przekazać systemowi cyfrowemu. Użytkownicy mogą opisywać konflikty rodzinne, problemy w związku, traumatyczne doświadczenia, objawy psychiczne, stosowane leki czy sytuacje, o których nie powiedzieli nawet bliskim. Jednocześnie łatwo założyć, że rozmowa z aplikacją podlega podobnym zasadom poufności jak kontakt z psychoterapeutą. Nie zawsze musi tak być. Zasady przechowywania i wykorzystywania danych zależą od konkretnej usługi, dlatego sama forma rozmowy przypominająca kontakt ze specjalistą nie powinna sugerować gwarancji tajemnicy terapeutycznej.

W eksperymencie oddzielnie sprawdzano wpływ komunikatu dotyczącego ochrony prywatności. Taka informacja zwiększała postrzegane bezpieczeństwo danych, natomiast najlepszy poziom świadomego, odpowiednio ograniczonego zaufania występował w warunku łączącym wyjaśnienie zasad prywatności z informacją o granicach zawodowych AI. Wynik pokazuje, że odpowiedzialne projektowanie chatbota nie powinno sprowadzać się do jednego ostrzeżenia. Użytkownik powinien jednocześnie wiedzieć, czym jest system, czego potrafi dokonać, czego nie powinien robić oraz co dzieje się z informacjami przekazywanymi podczas rozmowy. Dopiero taki zestaw informacji pozwala podejmować bardziej świadomą decyzję o korzystaniu z narzędzia.

Jak powinien zachowywać się bezpieczny chatbot AI używany do rozmów o zdrowiu psychicznym?

Przede wszystkim nie powinien tworzyć fałszywego wrażenia, że jest licencjonowanym psychologiem, psychiatrą lub psychoterapeutą. Informacja o jego charakterze i ograniczeniach powinna być widoczna przed rozpoczęciem korzystania z systemu, a w sytuacjach związanych z poważnym kryzysem powinna pojawiać się ponownie. Chatbot powinien jasno komunikować, że nie stawia diagnozy, nie zastępuje profesjonalnej psychoterapii i nie jest służbą ratunkową. Równie istotne jest wskazanie użytkownikowi sposobu przejścia od rozmowy z AI do realnej pomocy. Sama informacja „skontaktuj się ze specjalistą” może być niewystarczająca, jeżeli system nie pomaga zrozumieć, kiedy i gdzie takiej pomocy szukać.

Eksperci coraz częściej wskazują również na potrzebę przejrzystego opisywania przeznaczenia systemów AI stosowanych w zdrowiu psychicznym, ich ograniczeń, dowodów dotyczących skuteczności oraz zasad bezpieczeństwa i prywatności. W 2026 roku zaproponowano między innymi model standaryzowanej „etykiety informacyjnej” dla technologii AI związanych ze zdrowiem psychicznym. Miałaby ona jasno określać przeznaczenie produktu, ostrzeżenia, znane ryzyka, ograniczenia, podstawy naukowe oraz zasady przetwarzania danych. Kierunek jest więc czytelny: im bardziej przekonująco i „po ludzku” rozmawia sztuczna inteligencja, tym większa powinna być transparentność dotycząca tego, czym rzeczywiście jest i czego nie potrafi.

Czy AI może kiedyś zastąpić psychoterapeutę?

Obecne badania nie pozwalają wyciągnąć takiego wniosku. Niektóre systemy potrafią prowadzić rozmowy zawierające elementy znane z określonych podejść psychologicznych, przekazywać psychoedukację czy generować komunikaty oceniane jako wspierające. Jednocześnie przegląd badań nad chatbotami opartymi na dużych modelach językowych wskazuje na wciąż ograniczoną zewnętrzną walidację kliniczną oraz niejednolite raportowanie zabezpieczeń i kwestii etycznych. Płynność rozmowy rozwija się zatem szybciej niż dowody potwierdzające możliwość bezpiecznego zastępowania profesjonalnej opieki. To bardzo ważne rozróżnienie, ponieważ atrakcyjna forma interakcji może wyprzedzać rzeczywiste możliwości medyczne technologii.

Najbardziej realistycznym kierunkiem wydaje się obecnie traktowanie sztucznej inteligencji jako narzędzia wspierającego, a nie autonomicznego terapeuty. Może ono ułatwiać dostęp do informacji, obniżać próg rozpoczęcia rozmowy o problemie i pomagać w znalezieniu odpowiedniej formy wsparcia. Powinno jednak robić to przy jasno wyznaczonych granicach, odpowiednich procedurach bezpieczeństwa i możliwości przekierowania użytkownika do człowieka. Najnowsze badanie dostarcza przy tym ważnej wskazówki: powiedzenie użytkownikowi wprost, że AI ma ograniczenia, nie musi niszczyć zaufania do systemu. Może przeciwnie - prowadzić do bardziej świadomego zaufania, w którym chatbot jest wykorzystywany tam, gdzie może pomóc, ale nie zajmuje miejsca należącego do profesjonalnej opieki nad zdrowiem psychicznym.