“Zbog AI-a smo se zaglavili na vrhu planine”: Žrtvi opasnih saveta veštačke inteligencije je sve više, evo zašto nas laže

Izmišljeni grad u Peruu, Ajfelov toranj u Pekingu, prelepi vodopadi koji imaju samo jednu manu – ne postoje… Putnici sve češće koriste AI alate kao virtuelne turističke vodiče, što nije uvek dobra ideja, jer ponekad završe na neočekivanim mestima.

Kako potvrđuje Migel Anhel Gongora Meca iz agencije Evolution Treks Peru, nesporazumi i laži veštačke inteligencije nisu izuzetak.

„Čuo sam turiste bez vodiča kako razgovaraju o tome kako kreću prema mestu koje su nazvali Sveti kanjon Humantay. Pokazali su mi snimak ekrana pun slikovitih opisa o mestu koje ne postoji. Ime je kombinacija dve lokacije koje nemaju nikakve veze s tim mestom. Platili su oko 150 evra da bi stigli do seoskog puta u okolini Mollepate, bez stvarnog odredišta“, kaže Gongora Meca i ističe da ova naizgled bezazlena greška ljude mogla koštati života, prenosi Pun kufer.

„Ovakve dezinformacije u Peruu su izuzetno opasne“, objašnjava i dodaje kako se nadmorska visina, vremenski uslovi i staze moraju pažljivo istražiti. Ako koristite program poput ChatGPT-a, koji spaja slike i nazive kako bi stvorio fantaziju, možete se naći na 4.000 metara nadmorske visine bez kiseonika i bez signala.

Opasne situacije

Prema jednom istraživanju, 30% putnika koristi generativne AI alate i specijalizovane AI platforme za organizaciju putovanja. Iako ovi programi daju korisne savete kada rade ispravno, u lošijem slučaju mogu putnike dovesti u nezgodne, pa čak i opasne situacije. Ljudi često nauče lekcije tek kada bude prekasno, kada već stignu na odredište i shvate da su žrtve digitalne mašte robota.

Dana Jao i njen suprug nedavno su to iskusili iz prve ruke. Par je koristio ChatGPT kako bi isplanirao romantičan uspon na vrh planine Misen na japanskom ostrvu Itsukušima. Nakon što su bez problema istražili grad Mijajima, krenuli su u 15 sati prema vrhu kako bi stigli na vreme za zalazak sunca – tačno prema uputstvima ChatGPT-a.

„Tu je nastao problem“, rekla je Jao, autorka bloga o putovanjima po Japanu. „Kada smo se spremali da se spustimo žičarom, ChatGPT je tvrdio da poslednja vožnja kreće u 17:30, ali bila je zatvorena, pa smo se zaglavili na planini.“

AI često putnicima daje netačne i neistinite informacije. Ponekad čak potpuno izmišlja destinacije.

Netačni podaci

BBC navodi kako je Layla (virtualni agent za putovanja) korisnicima tvrdila da u Pekingu postoji Ajfelov toranj, a jednom britanskom putniku predložila i maratonsku rutu kroz severnu Italiju koja je bila potpuno neizvediva. Prema istraživanju iz 2024. godine, 37% ispitanika koji su koristili AI za planiranje putovanja reklo je da im alat nije pružio dovoljno informacija, dok je oko 33% izjavilo da su AI preporuke sadržale netačne podatke.

Razlog ovih problema leži u načinu na koji veštačka inteligencija generiše odgovore.

Zašto laže?

„Ona ne zna razliku između putnih saveta i recepata. Ona poznaje samo reči. Zato neprestano proizvodi reči koje zvuče uverljivo, a tu nastaju temeljni problemi“, upozorava Rajid Gani, ugledni profesor sa Univerziteta Carnegie Mellon.

Veliki jezički modeli poput ChatGPT-a rade tako što analiziraju ogromne količine teksta i sastavljaju reči i fraze koje statistički deluju kao prikladan odgovor. Ponekad to rezultira tačnim informacijama. U drugim slučajevima nastaje ono što stručnjaci nazivaju „halucinacijom“, kada AI jednostavno izmišlja podatke. Budući da AI halucinacije i činjenične informacije prezentuje na isti način, korisnicima je često teško razlikovati stvarnost od fikcije.

U slučaju Svetog kanjona Humantay, Gani smatra da je AI verovatno samo spojio nekoliko reči koje su se činile prikladnima za tu regiju. Osim toga, analiza velike količine podataka ne znači nužno da alat poput ChatGPT-a razume fizički svet. Može lako zameniti laganu šetnju gradom na 4.000 metara nadmorske visine sa usponom na planinu iste visine.

Nedavno je izašao i članak koji je opisao incident u kojem je par otputovao do slikovite žičare u Maleziji koju su videli na TikToku, samo da bi otkrili da takva građevina ne postoji. Video koji su gledali bio je u potpunosti generisan veštačkom inteligencijom – bilo radi povećanja angažmana pratilaca ili iz nekog drugog nejasnog razloga.

Havijer Laburt, cenjeni psihoterapeut i zagovornik ideje da putovanja pozitivno utiču na mentalno zdravlje i osećaj povezanosti, zabrinut je da bi širenje ovih problema moglo poništiti dobrobiti putovanja. Smatra da putovanja pružaju jedinstvenu priliku ljudima da se povežu s onima koje inače ne bi upoznali i iz prve ruke upoznaju druge kulture – što podstiče empatiju i razumevanje. No, kada AI halucinacije putnicima plasiraju dezinformacije, one stvaraju lažnu sliku o odredištu još pre nego što putnici napuste dom.