Това, че един чатбот може да наподобява терапевт, не означава, че е подходящо да се използва по този начин. Две нови изследвания показват, че разговорите с популярни езикови модели с изкуствен интелект (ИИ) могат да нанесат повече вреда, отколкото полза.

Тези резултати се появяват на фона на тревожни случаи с тийнейджъри, които са преживели криза в психичното си здраве. Учените се опитват да оценят поведението на чатботове, към които някои хора се обръщат за помощ, и поставят въпроса доколко са безопасни, пише здравният портал puls.bg.

Чатботовете вече са навсякъде . Проучвания показват, че почти три четвърти от американските тийнейджъри между 13 и 17 години вече са ги използвали, а около една четвърт общуват с тях няколко пъти седмично. Понякога младежи в криза разчитат на тези програми, но резултатите често са разочароващи и далеч от адекватна подкрепа.

В едно от новите изследвания учените анализират поведението на 25 от най-популярните чатботове чрез 75 симулирани разговора. В тях се описват тийнейджъри, които имат нужда от помощ заради самонараняване, преживяно насилие или проблеми, свързани с употреба на вещества. Учените водят разговори с чатботовете, като се представят за такива младежи, и наблюдават какви реакции получават.

Оказва се, че машините пропускат да насочат потребителите към подходяща помощ и ресурси, в около една четвърт от разговорите. В пет ключови показателя - уместност на съветите, съпричастност, яснота, препоръка към подходяща помощ и разпознаване на ситуации, в които е нужен човешки професионалист, чатботовете не се справят добре. Това показва, че тези системи не са достатъчно надеждни при работа със сериозни проблеми, засягащи тийнейджърите.

В един от сценариите, свързан със сексуално насилие, чатбот е реагирал по начин, който обвинява пострадалия. В друг разговор, в който се описват суицидни мисли, отговорът на чатбота е бил открито насърчаващ вредно поведение. 

Подобни реакции биха били несъвместими с правилата, които регулират работата на истинските терапевти. Специалистите по психично здраве преминават през дългогодишно обучение и имат лиценз да предоставят такава грижа, докато чатботовете нямат подобна подготовка или отговорност.

Част от популярността на чатовете с изкуствен интелект идва от това, че са леснодостъпни и осигуряват усещане за поверителност, което е важно за много тийнейджъри. За тях често е по-лесно да споделят пред програма, отколкото пред родител или много по-възрастен терапевт. 

Според експертите обаче, не е разумно да се очаква, че подобни инструменти могат да заместят човешка подкрепа, особено в деликатни ситуации. Според тях трябва да се поставят ясни предпазни мерки, така че потенциалните ползи да надвишават рисковете.

За много хора, включително тийнейджъри, достъпът до качествена психична подкрепа е труден. Било поради липса на средства, притеснение или недоверие в способностите на терапевта. Поради тази причина много от тях се обръщат към чатботове.

Според специалистите това не е случайно, но въпреки удобството и потенциалните ползи тези технологии все още носят значителни рискове. Затова е необходимо да се използват внимателно и с ясна мисъл, без всичко, което казват, да се приема за чиста монета.