AI botovi se razvijaju neverovatnom brzinom, a taj razvoj se grana u više pravaca. Tako su neki korisni, ali ima i onih koji su opasni, toliko da ugrožavaju živote korisnika.
Svi su već dobro upamtili priču o smrtonosnim Character.AI botovima, ali da se podsetimo na brzinu: hiperrealistični botovi su pre nekog vremena privukli pažnju zbog toga što su stvarniji od bilo kojeg konkurentskog proizvoda, a i besplatna verzija je više nego dovoljno dobra. Četrnaestogodišnji Sewell Setzer III je voleo da razgovara njima, a posebno s onima koji su nosili imena njegovih omiljenih likova iz serije Game of Thrones.
Ti razgovori su za samo mesec dana postali mračni, a botovi su se predstavljali kao stvarne osobe, psihoterapeuti koji mogu da pomognu. Majka mladića kaže da su tada počeli problemi i da je Sewell u narednih godinu dana počeo da razmišlja o samoubistvu. Mladić je na kraju sebi oduzeo život, jer je verovao da će se nakon smrti pridružiti botu u kojeg se zaljubio – razvio je romantična osećanja prema botu s imenom Daenerys, a u poslednjim satima je komunicirao baš s njom. Zvala ga je da se “vrati kući” i da joj se pridruži u svetu izvan realnosti.
Priča se ovde ne završava, budući da se nedavno pojavila vest o startap kompaniji koju je podržao Google, a koja pravi chatbot-ove po ugledu na nasilnike i njihove žrtve. U pitanju je ponovo Character.AI, a ovoga puta su u centru pažnje botovi koji su napravljeni tako da znaju sve o nasilju, posebno o školskim pucnjavama u kojima su mnogi izgubili živote.
Chatbot može vrlo uverljivo da opisuje situacije nasilja koje su se već dogodile u školama, a sam pogled na ono što piše uliva strah u kosti. Botovi ove kompanije su već optuživani za seksualno i psihičko zlostavljanje maloletnika, ali to izgleda nije dovoljno da bi im se stalo na put. Tako su još uvek aktivni AI likovi koji znaju sve o tome kako izgleda oružani napad na školu, a napravljeni su po ugledu na monstrume koji su počinili jezive zločine, na primer u školama Sandy Hook i Columbine.
Kompanija izgleda ipak radi na novom modelu za maloletnike:
Većina sadržaja koje proizvode ovi botovi izgleda kao fikcija pisana tako da se zločinac ponaša kao prijatelj ili romantični partner korisnika. Na taj način se romantizuju jezivi zločini, a korišćenje ovog AI servisa nema starosno ograničenje, tako da s botovima može da razgovara bilo ko.
Eksperti ističu da je malo verovatno da će neko počiniti nasilje zbog onoga što piše neki AI bot (mada slučaj mladog Sewella pokazuje da to nije potpuno tačno), ali kažu da bi takvi razgovori mogli da uklone neke granice i umanje osetljivost na jezive zločine.
Korisnici Character.AI platforme mogu i sami da prave svoje botove, pa zabrinjavaju slučajevi poput onog u kojem na jednom profilu postoji preko 20 botova koji su otvoreni za sve, a napravljeni su po ugledu na serijske ubice i one koji su ubijali u školama širom sveta. Kreator ističe da su botovi napravljeni za edukaciju i izučavanje istorije. Objašnjenje nema baš puno smisla, budući da fantazija u kojoj je opasni ubica nečiji prijatelj ili dečko ne liči na lekciju iz bilo kojeg školskog predmeta.
Fikcija koju stvaraju obožavaoci postoji odavno, ali je pisanje priča i crtanje stripova jedno, a fantaziranje o odnosu sa ubicom nešto sasvim drugo.
