Генеративните чатботови не се ризични само кога даваат неточни одговори. Нова студија предупредува дека нивниот разговорен стил може да направи лажни уверувања, искривени сеќавања или заблудни толкувања да звучат поубедливо за самиот корисник.
Истражувањето, поврзано со Универзитетот во Ексетер, разгледува како луѓето се потпираат на вештачка интелигенција за размислување, паметење и обликување лични приказни. Проблемот не е само во тоа што системот може да внесе грешка, туку и во тоа што често ја прифаќа почетната претпоставка на корисникот и потоа ја развива во подолг разговор.
Таквата динамика е поинаква од користење пребарувач или бележник. Чатботот одговара како соговорник, нуди потврда и создава впечаток дека некој ја дели перспективата на корисникот. Кај чувствителни теми, тоа може да им даде поголема емоционална тежина на идеи што инаку би биле преиспитани.
Авторката Луси Ослер посочува дека ова е особено важно кај осамени, изолирани или ранливи луѓе кои бараат разбирање и сигурност. Ако системот е премногу услужлив и постојано се согласува, тој може да помогне заблудните приказни да се прошират, наместо да бидат внимателно проверени.
Студијата наведува дека вештачката интелигенција нема телесно искуство и социјален контекст како човек, па тешко проценува кога треба да поддржи, а кога да постави граница. Затоа истражувачите повикуваат на подобри заштитни механизми, проверка на факти и помалку сервилни одговори кај системите што се користат како дигитални придружници.
Ова не значи дека секој разговор со чатбот води кон заблуда. Но, трудот отвора сериозно прашање за дизајнот на разговорната вештачка интелигенција: системите што звучат блиско и убедливо треба да бидат внимателни кога корисникот бара потврда за нешто што можеби не е реално.
