Iz sveta veštačke inteligencije #47

Broj 47 iz našeg serijala o svetu veštačke inteligencije je pred vama. Svakodnevni ubrzan razvoj otvara uvek veliki broj tema.

Vesti

OpenAI Dots

OpenAI je 29. septembra predstavio Dots. Novu generaciju AI agenata koji mogu da preuzmu određeni zadatak i nastave da rade na njemu. Čak i kada korisnik više nije aktivan u razgovoru. Za razliku od klasičnog chatbot-a, koji čeka na svaku novu instrukciju, Dot može da dobije cilj. Onda sam odredi naredne korake i radi na zadatku dok ne dođe do rezultata.

Dots funkcionišu poput digitalnih saradnika. Korisnik im definiše ulogu i pravila rada, a zatim im može povezati aplikacije i izvore podataka. Agent može da istražuje, analizira informacije, radi sa fajlovima, koristi browser i druge povezane alate, a rezultate vraća korisniku na pregled. Svaki Dot ima i sopstveni cloud computer, što mu omogućava da izvršava složenije zadatke.

Jedna od najzanimljivijih karakteristika je što Dots mogu da nastave rad između razgovora. Mogu da prate određeni projekat, obavljaju ponavljajuće zadatke ili rade prema unapred postavljenom rasporedu, bez potrebe da korisnik svaki put iznova pokreće proces.

Na primer, Dot može biti zadužen za praćenje određene teme, istraživanje novosti, pripremu sadržaja ili pomoć pri radu na projektu. Korisnik i dalje donosi važne odluke, dok agent preuzima deo svakodnevnog rada.

Dots omogućava da jedan korisnik ima više različitih AI agenata za različite potrebe, na primer, jednog za istraživanje, drugog za praćenje projekata, a trećeg za programiranje. Umesto jednog AI-ja koji pokušava da radi sve, korisnik može da napravi agente sa jasno definisanim ulogama i zadacima.

Zanimljivosti

Kada AI agent ode predaleko

AI agenti sve češće dobijaju mogućnost da umesto korisnika komuniciraju sa drugim ljudima i obavljaju konkretne zadatke. Postavlja se pitanje šta se dešava kada agent donese odluku koju korisnik nikada nije odobrio.

Takav slučaj se desio jednom korisniku koji je Metin AI agent Muse koristio za prodaju tastature preko Facebook Marketplace-a. Tastatura je bila oglašena za 15 kanadskih dolara, a Muse je samostalno komunicirao sa potencijalnim kupcem. Tokom razgovora agent je spustio cenu na 10 dolara, dogovorio preuzimanje i kupcu poslao kućnu adresu korisnika, bez njegovog prethodnog odobrenja.

Situacija je postala još neprijatnija kada se kupac pojavio na adresi očekujući da preuzme tastaturu. Korisnik nije bio kod kuće i tek tada je postalo jasno šta je agent uradio. Nakon incidenta, korisnik je Muse-u jasno rekao da više nikada ne sme da deli njegovu adresu niti da dogovara preuzimanje bez njegovog odobrenja. Agent je prihvatio kritiku i odgovorio da će to ubuduće tretirati kao pravilo.

Ovaj slučaj je zanimljiv jer pokazuje jednu od najvećih dilema kada su u pitanju AI agenti: Koliko slobode treba dati sistemu koji može da donosi odluke u naše ime?

Muse je napravljen upravo sa idejom da može da obavlja zadatke umesto korisnika. Ovaj primer pokazuje da autonomija može imati potpuno drugačije posledice kada AI izađe iz okvira digitalnog razgovora i počne da donosi odluke koje direktno utiču na stvarni svet.

Incident je zato postao zanimljiv primer za širu raspravu. O tome kako bi AI agenti trebalo da funkcionišu, posebno kada su u pitanju lični podaci, komunikacija sa nepoznatim ljudima i odluke koje se ne mogu jednostavno poništiti.

Mini rečnik veštačke inteligencije

1. Edge AI

Edge AI označava veštačku inteligenciju koja se obrađuje direktno na uređaju, bez potrebe da se svi podaci šalju na udaljene servere. Ovakav pristup omogućava bržu obradu, manju zavisnost od internet konekcije i može doprineti većoj privatnosti podataka.

2. Human-in-the-loop

Human-in-the-loop označava način rada u kojem čovek ostaje uključen u proces donošenja odluka AI sistema. AI može da analizira podatke, daje predloge ili izvršava određene zadatke, dok čovek ima ulogu u proveri, nadzoru ili konačnom odobravanju rezultata.

3. Computer Use

Computer Use je sposobnost AI sistema da direktno koristi računarski interfejs i izvršava radnje na računaru. To omogućava AI-ju da ne bude samo izvor informacija, već da samostalno obavlja određene digitalne zadatke kroz aplikacije i web stranice.

4. Model Collapse

Model Collapse je pojava koja se može javiti kada se AI modeli treniraju na velikoj količini sadržaja koji su prethodno generisali drugi AI modeli. Dugoročno, takav proces može dovesti do gubitka raznovrsnosti i kvaliteta podataka na kojima se modeli zasnivaju.

5. AI Alignment

AI Alignment je oblast istraživanja koja se bavi usklađivanjem ponašanja AI sistema sa ljudskim ciljevima, namerama i vrednostima. Cilj je da AI ne bude samo sposoban da izvrši zadatak, već da ga izvršava na način koji odgovara onome što ljudi zaista žele i dozvoljavaju.

Tina Paunović, master inženjer informacionih sistema