Iz sveta veštačke inteligencije #43

Naš serijal donosi novi tekst, Pod brojem 43 vam još jednom ptišemo o najnovijim dešavanjima u svetu veštačke inteligencije.

Alati

Operant AI Semantic Firewall

AI agent može da pristupi bazi podataka, pročita dokumente, koristi različite alate, izvršava kod ili napravi niz samostalnih koraka kako bi završio zadatak. Tu nastaje novi bezbednosni problem. Ako agent ima dozvolu da koristi određeni sistem, ali tokom rada odluči da uradi nešto što nije trebalo. Na primer, kompanija može svom AI agentu dozvoliti pristup bazi podataka kako bi pronašao informacije potrebne za određeni zadatak. Međutim, agent bi mogao da preuzme mnogo više podataka nego što mu je potrebno. I pošalje ih drugom servisu ili počne da izvršava komande koje nisu bile deo prvobitnog zahteva. Klasične bezbednosne kontrole teško mogu da prepoznaju ovaj problem jer agent tehnički možda ima sve potrebne dozvole.

Taj problem pokušava da reši Operant AI, kompanija koja razvija bezbednosnu platformu za AI agente. Semantic Firewall ne proverava samo da li agent sme da pristupi nekom resursu, već pokušava da utvrdi šta agent namerava da uradi i da li je njegova akcija u skladu sa prvobitnim zadatkom. To je posebno važno jer se AI sve više koristi kao autonomni agent, odnosno sistem koji ne čeka čoveka da mu odobri svaki sledeći korak, već sam planira i izvršava niz radnji.

Operant Semantic Firewall može da dozvoli akciju, blokira je ili ukloni osetljive podatke pre nego što se radnja izvrši. Sistem prati različite vrste aktivnosti, uključujući korišćenje alata, izvršavanje koda i rad sa podacima, dok poseban Scope Guard pokušava da utvrdi da li agent tokom rada izlazi iz okvira svog prvobitnog zadatka. Zbog toga se ovakva tehnologija razlikuje od klasičnog firewall-a. Tradicionalni firewall prvenstveno kontroliše mrežni saobraćaj i pristup, dok Semantic Firewall pokušava da uvede „kontrolu namere“ u rad autonomnog AI sistema.

Operant nije namenjen prosečnom korisniku koji želi da zaštiti svoj lični ChatGPT nalog. Namenjen je prvenstveno kompanijama koje koriste AI agente u poslovnim sistemima, kao i IT i security timovima koji moraju da kontrolišu šta ti agenti mogu da rade. To je posebno važno za kompanije čiji AI sistemi imaju pristup internim bazama, cloud infrastrukturi, poslovnim aplikacijama ili alatima za programiranje.

Vesti

Konsultantske firme ponovo ulažu u ljudske veštine

Velike konsultantske kompanije godinama su koristile AI za zadatke poput prikupljanja podataka, istraživanja, analize i izrade izveštaja. Kako tehnologija preuzima sve veći deo tog rutinskog posla, fokus se sada pomera na sposobnosti koje je mnogo teže automatizovati: prosuđivanje, komunikaciju, liderstvo, kreativnost, prilagodljivost i razumevanje klijenata.

Jedan od najkonkretnijih primera dolazi iz kompanije EY, koja je najavila ulaganje od 100 miliona dolara u nagrađivanje zaposlenih koji razvijaju veštine važne za rad u svetu koji sve više pokreće AI. Među njima su dobro rasuđivanje, poslovno razmišljanje, inovativnost, prilagodljivost i sposobnost saradnje sa klijentima. Važno je da ovo nije odustajanje od veštačke inteligencije. EY želi zaposlene koji istovremeno znaju da koriste nove tehnologije i da donesu dobru odluku kada je potrebno uključiti ljudsko iskustvo.

AI može za nekoliko minuta da obradi ogromnu količinu podataka i predloži moguće strategije. Međutim, konsultant mora da razume klijenta, proceni situaciju, prepozna potencijalne probleme, objasni odluku rukovodstvu i pridobije ljude da je sprovedu. Upravo zato se u konsultantskom sektoru sve više govori o kombinaciji AI veština i ljudskih sposobnosti. Financial Times navodi da su emocionalna inteligencija, kritičko razmišljanje i sposobnost procene kompromisa i dalje ključni deo konsultantskog rada.

Promena je posebno važna za mlađe zaposlene. Ako AI preuzme veliki deo zadataka koje su juniori tradicionalno radili kako bi stekli iskustvo, od njih će se ranije očekivati da pokažu komunikacione, kreativne i analitičke sposobnosti. Podaci kompanije PwC pokazuju upravo takav trend. Početničke pozicije sve češće zahtevaju veštine koje su se ranije očekivale od iskusnijih zaposlenih, poput liderstva, kreativnosti i prosuđivanja.

Ne nestaje uloga čoveka već se ona menja. AI preuzima rutinske i ponavljajuće zadatke, dok od zaposlenih sve više zahteva da tehnologiju koriste kao alat, a ne kao zamenu za sopstveno znanje i iskustvo. Razumevanje ljudi, donošenje odluka, izgradnja poverenja i preuzimanje odgovornosti ostaju veštine koje je teško automatizovati.

ChatGPT, Claude i Grok istovremeno imali velike probleme

Korisnici širom sveta 3. septembra ostali su bez pristupa nekim od najpopularnijih AI alata. ChatGPT, Claude i Grok imali su probleme skoro u isto vreme. Servisi su se kasnije vratili u normalu, ali još nije potvrđeno da li iza neobičnog poklapanja postoji zajednički uzrok.

Incident je privukao posebnu pažnju zato što nije bio u pitanju jedan servis, već tri konkurentske platforme koje koriste različitu infrastrukturu. Problemi su se razlikovali od kompanije do kompanije, ali je rezultat bio isti, korisnici nisu dobijali odgovore.

Kod ChatGPT-a problemi su zahvatili više različitih funkcija. Korisnici su prijavljivali poteškoće sa prijavljivanjem na servis, učitavanjem fajlova, generisanjem slika i glasovnom funkcijom. Problemi su registrovani i u Codexu, OpenAI-jevom alatu namenjenom programiranju. OpenAI je na svojoj zvaničnoj status stranici prijavio povećan broj grešaka u ChatGPT-u i Codexu. Kompanija je problem istraživala, zatim primenila mere za njegovo ublažavanje i pratila oporavak sistema. Kasnije je incident rešen.

U slično vreme probleme je imao i Anthropicov Claude. Anthropic je prijavio povećan broj grešaka kod više svojih modela, među kojima su Claude Mythos 5.1, Fable 5.1 i Opus 5. Problemi su u različitim fazama zahvatili i druge delove Claude ekosistema, uključujući Claude Code i API. Anthropic je na svojoj status stranici prvo naveo da istražuje problem. A zatim saopštio da je uzrok identifikovan i da je problem rešen. Za korisnike je to značilo da njihovi zahtevi jednostavno nisu prolazili ili su se završavali greškom, iako je sama platforma bila dostupna.

Ni Grok nije ostao pošteđen. Problemi su počeli tokom jutra i zahvatili su web verziju Groka, kao i aplikacije za Android i iOS. Korisnici su nailazili na poruke da model nije dostupan, dok su pojedine funkcije povezane sa Grokom takođe bile pogođene. U slučaju Groka pojavilo se i konkretnije objašnjenje. Problem je povezan sa računarskim centrom u Memfisu, gde xAI ima veliki AI data centar. Prema dostupnim informacijama, upravo je problem u tom centru doveo do prekida rada Groka. Servis je kasnije vraćen u funkciju.

Iako se za sada ne može sa sigurnošću reći da li su incidenti bili na bilo koji način povezani, sva tri servisa su nakon nekoliko sati ponovo bila dostupna. Ipak, ovaj događaj pokazao je koliko je AI već postao deo svakodnevnog života. Dok se sve više oslanjamo na veštačku inteligenciju u poslu i svakodnevnim obavezama, postaje jasno da pitanje više nije samo šta AI može da uradi, već i šta se dešava kada na trenutak prestane da radi.

Tina Paunović, master inženjer informacionih sistema