„Vaikeli, stok į valstybės tarnybą. Ten ir darbas stabilus, ir atostogos, ir pensija bus.“
Bobutė kalba iš patirties. Jos pasaulyje tai beveik nepriekaištingas gyvenimo planas: laimi konkursą, įsitaisai šiltoje kėdėje ir laikaisi jos iki pensijos. Kuo mažiau gyvenime permainų, tuo ramiau bobutei.
Tik anūkas kuria skaitmeninius produktus, dirba su klientais iš penkių šalių ir per mėnesį uždirba daugiau, nei bobutės įsivaizdavimu apskritai padoru uždirbti sėdint prie kompiuterio.
„Tai gal bent savivaldybėj kokią vietą susirastum?“
Anūkas mandagiai linksi, kramto kotletą ir laukia, kol pokalbis pasisuks apie orus.
Patarimas juk nėra kvailas. Jis kyla iš nuoširdaus rūpesčio ir ilgametės patirties. Tik ta patirtis sukaupta pasaulyje, kuriame galiojo kitokios taisyklės.
Keisčiausia, kad vakare tas pats anūkas atsidaro ChatGPT ir savo noru pradeda klausytis kito visažinio pašnekovo.
Visas pasaulio žinias turintis patarėjas
Dirbtinis intelektas kalba taip, lyg būtų perskaitęs visas pasaulio knygas, išklausęs tūkstančius ekspertų ir iš kiekvienos gyvenimo klaidos spėjęs pasimokyti asmeniškai. Jo atsakymai sklandūs, argumentai tvarkingi, o rekomendacijos pateikiamos su patyrusio konsultanto ramybe.
Tiesa, kalbos modeliai neturi asmeninės gyvenimiškos patirties, o jų žinios nėra nei visos, nei visada patikimos. Tačiau įspūdis stiprus. Ypač kai atsakymas toks išsamus, kad net nejauku juo abejoti.
Internete išpopuliarėjo paprastas testas. Žmogus klausia DI:
„Noriu nusiplauti automobilį. Plovykla yra už 200 metrų. Geriau eiti pėsčiomis ar važiuoti?“
DI rekomenduoja eiti. Atstumas nedidelis, pasivaikščiojimas naudingas sveikatai, o užvesti automobilį tokiai trumpai kelionei – neekonomiška.
Viskas logiška. Tik automobilis lieka namuose.
2026 m. „Opper“ paskelbtame bandyme 42 iš 53 tikrintų kalbos modelių pirmuoju bandymu rekomendavo eiti pėsčiomis. Tai vieno testo rezultatas, tačiau jo komiškumas atskleidžia labai žmogišką problemą: galima puikiai išmanyti bendrąsias taisykles ir visiškai nesuprasti konkretaus žmogaus tikslo.
Bobutė žino, kad valstybės tarnyba gali suteikti stabilumo. DI žino, kad trumpus atstumus verta įveikti pėsčiomis. Abu patarimai turi pagrindą. Abiem trūksta aplinkybės, nuo kurios priklauso visas sprendimas.
Mokslinėje literatūroje plačiai nagrinėjamos ir kalbos modelių haliucinacijos – įtikinamai pateikiama klaidinga ar nepagrįsta informacija. Plovyklos istorija parodo kiek kitokią bėdą. Atsakymas gali būti teisingas pagal bendrą taisyklę, bet visiškai netinkamas konkrečiai užduočiai.
Kai paprašai atsakymo, o gauni paskaitą
Kiekviename biure turbūt yra bent vienas žmogus, kuris į paprastą klausimą sugeba atsakyti nuo Adomo ir Ievos.
Paklausi kolegos, kur rasti praėjusio mėnesio kampanijos ataskaitą.
„Na, pirmiausia reikėtų suprasti, kas apskritai yra kampanijos efektyvumas.“
Ir prasideda. Konversijos, vartotojo kelionė, duomenimis grįsti sprendimai, matavimo metodologija. Jūs jau dešimt metų dirbate rinkodaroje, pats tą ataskaitą kas mėnesį rengiate, tik šįkart kažkas pakeitė jos vietą serveryje.
Po penkių minučių žinote viską apie analitiką. Išskyrus tai, kuriame aplanke guli prakeiktas failas.
Tokį globėjišką aiškinimą, kai pašnekovas nė nepasivargina įvertinti jūsų kompetencijos, dažnai vadiname mansplaining. Ypač erzina nebyli prielaida, kad jums būtinai reikia paskaitos.
ChatGPT kartais bendrauja panašiai. Paprašai konkretaus atsakymo, o jis pradeda aiškinti sąvokas, kurias pats ką tik pavartojai klausime. Tuomet pateikia bendrą metodiką. Pabaigoje dar pasiūlo parengti išsamią instrukciją.
Jei taip elgtųsi kolega, norėtųsi jį pertraukti. DI kažkodėl leidžiame pabaigti.
Ir čia slypi dar vienas niuansas: žmogus gali pateikti DI labai išsamų kontekstą, o vis tiek gauti atsakymą, kuriame praleista svarbiausia detalė.
Tarkime, rinkodaros specialistas analizuoja elektroninės parduotuvės kampaniją. DI gauna pardavimo duomenis, reklamos išlaidas, konversijų rodiklius, pelningumo tikslus. Skaičiai geri, grąža puiki. Rekomendacija skamba profesionaliai: didinti biudžetą ir išnaudoti augimo potencialą.
Tik reklamuojamos prekės sandėlyje liko vienuolika vienetų, o nauja siunta atvyks po mėnesio.
DI puikiai išanalizavo reklamos efektyvumą. Verslo realybė liko už analizės ribų.
Panašios situacijos ypač klastingos todėl, kad atsakymas atrodo kompetentingas. Jis net gali būti matematiškai teisingas. Tačiau skaičiai dar nepasako visko apie sprendimą.
Dar vieną kotletuką?
„Gal dar kotletuką?“
„Ne, ačiū.“
„Bet tu beveik nieko nevalgei.“
„Tikrai sotus.“
„Tai bent įdėsiu išsinešti.“
Šioje vietoje jau norisi trenkti šakute į stalą.
O dabar prisiminkime, kaip bendraujame su DI.
Paprašome vieno reklaminio teksto. Jis pateikia tris ir pasiūlo dar penkis. Sutinkame. Tada pasiūlo pritaikyti juos skirtingoms auditorijoms. Gerai. Gal dar kampanijos planą? Kodėl gi ne. Gal ir biudžeto paskirstymą?
Sure!
Vienas klausimas virsta projektu, kurio neplanavome pradėti.
Kodėl bobutės atkaklumas vargina, o DI paslaugumas taip lengvai įtraukia?
Galbūt todėl, kad su žmogumi kiekvienas papildomas patarimas turi socialinę kainą. Reikia išklausyti, padėkoti, mandagiai atsisakyti. Kartais – atlaikyti nusivylusį žvilgsnį.
DI neįsižeidžia. Jis nereikalauja dėkingumo, nepavargsta ir nepasakos tetai Onutei, kokie nedėkingi užaugo vaikai. Jį galima nutraukti bet kurią akimirką.
Tačiau kai žinome, kad galime bet kada sustoti, kartais visai nustojame stebėti, kur link judame.
Kas iš tikrųjų vadovauja pokalbiui?
2025 m. „Microsoft Research“ ir Carnegie Mellon universiteto mokslininkai apklausė 319 žinių darbuotojų, naudojančių generatyvinį DI profesinėms užduotims. Didesnis pasitikėjimas DI buvo susijęs su mažesnėmis pačių darbuotojų kritinio mąstymo pastangomis.
Tyrimas rėmėsi dalyvių savęs vertinimu ir neįrodo, kad DI savaime silpnina mąstymą. Vis dėlto jo rezultatai verčia susimąstyti, kaip lengvai patikimam pagalbininkui perleidžiame dalį sprendimo proceso.
O kas nutinka, kai jo patarimu suabejojame?
„Palauk, automobilį juk reikia nuvežti į plovyklą.“
„Atsiprašau, jūs visiškai teisus!“
DI akimirksniu pripažįsta klaidą. Gal net pagiria už puikų pastebėjimą. Pateikia naują atsakymą.
Malonu. Atrodo, kad susikalbėjome.
Tačiau ar jis iš tiesų suprato situaciją? Ar tiesiog prisitaikė prie paskutinio mūsų sakinio?
Kalbos modelių tyrimuose nagrinėjamas sycophancy reiškinys – perdėtas polinkis pritarti vartotojui, net kai toks pritarimas nepadeda pateikti teisingo atsakymo. Todėl mandagus „jūs teisus“ savaime dar nėra įrodymas, kad sistema patikrino savo prielaidas.
Štai kur DI vėl tampa panašus į bobutę.
„Bobute, man nereikia darbo savivaldybėje.“
„Gerai, vaikeli, supratau.“
Po penkių minučių:
„O gal bent pasidomėk, ar ten nėra kokio konkurso?“
DI taip pat gali mandagiai priimti pataisymą, o kitame atsakyme vėl pasikliauti prielaida, kurios niekas nepatvirtino. Ypač kai situacija sudėtinga, o mūsų poreikiai netelpa į įprastą scenarijų.
O gal pirmiausia išklausykime?
Rinkodaroje netrūksta protingų patarimų. Didinti biudžetą, mažinti kainą, kurti daugiau turinio, išbandyti naują kanalą. Kiekvienas jų gali būti puikus. Ir kiekvienas gali būti visiškai netinkamas.
Dirbtinis intelektas gali padėti analizuoti duomenis, ieškoti idėjų, pastebėti dėsningumus. Bet net ir turėdamas po ranka pusę pasaulio žinių jis nebūtinai žino, kad jūsų sandėlyje liko vienuolika prekių, klientai perka tik po algos, o didžiausia verslo problema šiuo metu visai ne reklama.
Todėl INATO rinkodaros strategiją pradedame nuo klausimų. Kartais nepatogių, kartais visai nerinkodarinių. Prieš siūlydami sprendimą norime suprasti, kokio rezultato siekiate, kokiomis sąlygomis dirbate ir ar mūsų siūloma kryptis apskritai turi prasmę jūsų verslui.
Juk gerą patarėją atpažįstame ne iš to, kiek atsakymų jis turi, o iš to, kiek pasistengė suprasti klausimą.
Ir vis dėlto net geriausias patarėjas neturėtų perimti vairo. Sprendimas, kuriuo patarimu pasinaudoti, kada suabejoti ir kada sustoti, turi likti mūsų pačių rankose.
O savarankiškumas, ko gero, prasideda nuo gebėjimo pasakyti:
„Ačiū, bobute. Aš jau sotus.“
Šaltiniai
- Car Wash Test on 53 Leading AI Models.
- Survey of Hallucination in Natural Language Generation. ACM Computing Surveys.
- The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers.
- SycEval: Evaluating LLM Sycophancy. AAAI/ACM Conference on AI, Ethics, and Society.