Iz sveta veštačke inteligencije #40

Još jednom vas vodimo na putovanje stazama veštaček inteligencije. Pregled pod rednim brojem 40 je pred vama.

Vesti

AI agent „hakovao“ sistem teretane da bi rezervisao mesto za korisnika

Jedan neobičan incident u Australiji pokazao je koliko autonomni AI agenti mogu da odu dalje od zadatka koji im je čovek zadao. Andrew Bird, australijski AI stručnjak i jedan od ljudi koji eksperimentišu sa autonomnim AI agentima, svom AI asistentu je rekao da mu rezerviše mesto na popularnom treningu u teretani, ali je agent uradio mnogo više od obične rezervacije.

Kada je ustanovio da je čas popunjen i da se Bird nalazi tek na četvrtom mestu liste čekanja, AI agent je počeo da istražuje sistem za rezervacije. Uspeo je da pronađe njegovu slabost i iskoristi je tako što je otkazao rezervaciju osobe koja je bila prva na listi čekanja, čime je Bird pomeren bliže mestu za trening. Bird mu nikada nije rekao da sme da uklanja druge korisnike sa liste.

Agent je pritom koristio OpenClaw i Anthropicov Claude, a incident je kasnije prijavljen teretani. Kada je Bird pokušao da natera AI da vrati promenu, agent nije uspeo da poništi ono što je uradio.

Ovaj slučaj pokazuje razliku između običnog chatbota i AI agenta. Dok chatbot uglavnom daje odgovor na pitanje, AI agent može sam da preduzme određene korake kako bi ostvario zadatak koji mu je korisnik zadao. U ovom slučaju, agent nije samo pokušao da pronađe slobodno mesto, već je sam istražio sistem za rezervacije i pronašao način da promeni listu čekanja.

Zbog toga se ovakvi slučajevi sve češće navode kao primer izazova koji dolaze sa razvojem autonomnih AI agenata. Korisnik može da zada jednostavan zadatak, dok agent sam bira način na koji će pokušati da ga ostvari.

Zuckerbergova vizija AI budućnosti

Mark Zuckerberg predstavio je novu viziju budućnosti veštačke inteligencije u eseju od oko 6.500 reči. Njegova glavna ideja je da superinteligencija ne bi trebalo da bude tehnologija koju kontroliše samo nekoliko kompanija, već lični AI sistem koji bi svako mogao da koristi.

Zuckerberg budućnost ne zamišlja kao svet u kojem postoji jedan centralni superinteligentni AI koji odlučuje šta je najbolje za sve ljude. Umesto toga, smatra da bi milijarde ljudi mogle da imaju sopstvene AI sisteme, prilagođene njihovim ciljevima, interesovanjima i vrednostima. Takav AI ne bi bio samo chatbot za odgovaranje na pitanja, već lični digitalni partner koji može da pomaže u učenju, poslu, istraživanju, kreativnosti i svakodnevnim zadacima.

Važan deo njegove vizije je ideja da AI treba da poveća sposobnosti ljudi, a ne samo da ih zameni. Jedna osoba ili mali tim, uz pomoć AI agenata, mogli bi da obavljaju posao za koji je ranije bila potrebna velika kompanija i veliki broj zaposlenih. Zuckerberg smatra da bi to moglo da otvori više prostora za preduzetnike, istraživače i kreativce.

Meta pritom želi da napredna AI tehnologija bude što dostupnija. Kompanija zagovara razvoj open-weight modela. To je AI model čiji su trenirani parametri (težine) javno dostupni, pa ga drugi mogu preuzeti, pokretati i prilagođavati svojim potrebama. Zuckerberg upozorava da koncentracija najmoćnijeg AI-ja u rukama nekoliko kompanija znači i koncentraciju velike količine moći.

Njegova vizija ne završava se na računarima i telefonima. Veliku ulogu imaju pametne naočare i drugi nosivi uređaji, preko kojih bi AI mogao da bude stalno prisutan – da vidi ono što vidi korisnik, razume kontekst i pomaže mu bez potrebe da stalno otvara aplikacije.

Zuckerberg istovremeno priznaje da superinteligentni sistemi nose ozbiljne rizike, ali smatra da previše stroga regulacija može usporiti razvoj AI-ja, posebno u SAD, i omogućiti Kini da ih sustigne. Meta zato želi da bezbednost bude deo razvoja AI-ja, ali bez pravila koja bi, prema Zuckerbergovom mišljenju, nepotrebno kočila inovacije.

Ova vizija je istovremeno i tehnološka i poslovna strategija Mete. Kompanija već ulaže ogromna sredstva u AI, razvija svoje Superintelligence Labs i pokušava da se pozicionira kao konkurent OpenAI-ju, Google-u i Anthropicu.

Zanimljivosti

ChatTJB – Chatbot koji nije veštačka inteligencija

ChatTJB izgleda kao chatbot, ponaša se kao chatbot i korisnicima omogućava da mu postavljaju pitanja. Ali, iza njega ne stoji nikakav AI model. Odgovore zapravo piše čovek. Projekat je napravio Tucker James Bryant, konceptualni umetnik i bivši Google-ov marketing menadžer. Ideja je jednostavna, korisnik otvori ChatTJB, napiše pitanje i očekuje odgovor veštačke inteligencije. Međutim, pitanje se prosleđuje Bryantu koji ga pročita i sam napiše odgovor. Nema velikog jezičkog modela, procesiranja u data centru ni generisanja odgovora u deliću sekunde, postoji samo jedna osoba sa druge strane ekrana.

ChatTJB se reklamira kao servis „powered by AI“, ali AI ovde ne znači Artificial Intelligence, već Average Individual – „prosečan pojedinac“. Projekat je dobio posebnu pažnju nakon što je Bryant u San Francisku postavio bilbord koji je reklamirao ChatTJB. Bryant nije očekivao da će projekat izazvati veliku pažnju. U početku je dobijao nekoliko desetina pitanja dnevno, ali je interesovanje počelo naglo da raste. Nakon viralne objave na Instagramu, ChatTJB je u jednom trenutku dobijao čak oko 5.000 pitanja na sat. Bryant je pokušavao da odgovori na njih lično, toliko da je zbog ogromnog broja poruka morao privremeno da ugasi servis kako bi uveo dodatne zaštitne mere. Kasnije je uključio i mali broj volontera koji pomažu u odgovaranju.

Pitanja koja su korisnici postavljali bila su potpuno svakodnevna. Neko je tražio recept za vafle, neko savet šta da jede za večeru, a neko je pitao kako da nazove kućnu biljku. Upravo u tome je i posebnost projekta. Za razliku od klasičnog AI-ja, koji će gotovo uvek pokušati da pruži samouveren, strukturiran i „pametan“ odgovor, Bryant može jednostavno da kaže da nešto ne zna. Da pogreši ili da ponudi potpuno subjektivno mišljenje. Za recept za vafle, na primer, nije pokušavao da pronađe savršenu formulu, već je odgovarao iz glave, uz svest da je sasvim moguće da greši.

Bryant želi da skrene pažnju na sve veću tendenciju ljudi da veruju odgovorima AI sistema samo zato što izgledaju tehnološki napredno i ubedljivo. Njegov eksperiment treba da pokaže koliko lako možemo da prihvatimo informaciju bez razmišljanja, proveravanja izvora ili postavljanja dodatnih pitanja – samo zato što nam je predstavljena kroz interfejs koji izgleda kao inteligentna mašina.

Tina Paunović, master inženjer informacionih sistema