Iz sveta veštačke inteligencije #37

Tekst broj 37 iz seriej tekstova koja nas vodi putevima najnovijih dešavanja u svetu veštačke inteligencije…

Vesti

AI kompanije dobile loše ocene za bezbednost

Veštačka inteligencija napreduje neverovatnom brzinom. Novi modeli postaju sve sposobniji, AI agenti preuzimaju složenije zadatke. Međutim, dok mogućnosti veštačke inteligencije rastu iz meseca u mesec, postavlja se pitanje da li njen razvoj prati i odgovarajući nivo bezbednosti?

Upravo na to pitanje pokušava da odgovori AI Safety Index – Summer 2026, izveštaj koji je objavio Future of Life Institute (FLI). Za razliku od uobičajenih poređenja AI modela prema brzini, kvalitetu odgovora ili sposobnosti rešavanja zadataka, ovaj indeks ocenjuje koliko odgovorno najveće AI kompanije razvijaju svoje sisteme i koliko su spremne da spreče moguće rizike. AI Safety Index je istraživanje koje procenjuje bezbednosne prakse vodećih kompanija koje razvijaju generativnu veštačku inteligenciju.

Nezavisni panel stručnjaka analizirao je devet najvećih AI kompanija: Anthropic, OpenAI, Google DeepMind, Meta, xAI, Mistral, DeepSeek, Alibaba Cloud i Z.ai. Pored javno dostupne dokumentacije, istraživači su koristili naučne radove, tehničke izveštaje, rezultate testiranja modela i odgovore samih kompanija na detaljan upitnik o njihovim bezbednosnim praksama.

Kompanije su ocenjene kroz 37 kriterijuma, raspoređenih u šest oblasti:

• korporativno upravljanje i odgovornost,
• upravljanje rizicima,
• bezbednost AI modela,
• transparentnost,
• sprečavanje zloupotreba,
• dugoročna bezbednost naprednih AI sistema.

Najveći zaključak izveštaja jeste da nijedna kompanija nije dobila ocenu višu od C+.

Anthropic je zauzeo prvo mesto sa ocenom C+, dok su OpenAI i Google DeepMind dobili nešto niže ocene. Na dnu liste našle su se kompanije poput xAI, DeepSeek-a i Mistrala, koje su ocenjene najnižim ocenama zbog nedovoljno razvijenih bezbednosnih procedura i manje transparentnosti.

Autori izveštaja ne tvrde da su današnji AI modeli opasni sami po sebi. Problem vide u tome što se razvoj tehnologije odvija mnogo brže nego razvoj zaštitnih mehanizama. Kako modeli postaju sposobniji za programiranje, istraživanje, autonomno izvršavanje zadataka i donošenje odluka, raste i potreba za strožim testiranjem, boljim kontrolama i jasnijim pravilima pre nego što takvi sistemi budu dostupni milionima korisnika.

Jedna od glavnih zamerki jeste da mnoge kompanije danas objavljuju manje informacija o načinu na koji testiraju svoje modele nego ranije. Takođe, pojedine firme su ublažile ranije politike koje su predviđale zaustavljanje razvoja ili odlaganje objavljivanja modela ukoliko bezbednosni standardi nisu ispunjeni. Kada stručnjaci govore o bezbednosti veštačke inteligencije, ne misle samo na to da chatbot neće dati pogrešan odgovor. Bezbednost obuhvata mnogo širi spektar pitanja.

Cilj ovih procena nije usporavanje razvoja AI-ja, već njegovo odgovorno unapređenje, kako bi koristi tehnologije bile veće od potencijalnih rizika.

Radoslav – prvi državni AI asistent u Srbiji

Srbija je dobila svog prvog državnog AI asistenta – Radoslava. Digitalnog pomoćnika zasnovanog na veštačkoj inteligenciji koji građanima omogućava da brzo i jednostavno dođu do pouzdanih informacija o pravima iz oblasti socijalne zaštite. Umesto dugotrajnog pretraživanja propisa ili odlaska na šalter kako bi dobili osnovne informacije, korisnici sada mogu da postave pitanje prirodnim jezikom i za nekoliko sekundi dobiju odgovor zasnovan na važećim zakonima i propisima.

Radoslav je dostupan 24 časa dnevno, sedam dana u nedelji. I to putem internet stranica Ministarstva za rad, zapošljavanje, boračka i socijalna pitanja i Ministarstva za brigu o porodici i demografiju. Njegov cilj je da građanima olakša snalaženje u administrativnim procedurama i pomogne im da saznaju koja prava mogu da ostvare, koja dokumentacija im je potrebna i na koji način mogu da podnesu zahtev.

Asistent trenutno pruža informacije o pet ključnih novčanih davanja iz sistema socijalne zaštite. O novčanoj socijalnoj pomoći, dečjem dodatku, dodatku za pomoć i negu drugog lica, uvećanom dodatku za pomoć i negu drugog lica i posebnoj novčanoj naknadi. Pored toga, na sajtu Ministarstva za brigu o porodici i demografiju dostupne su i informacije o Alimentacionom fondu, a planirano je da se njegove mogućnosti vremenom proširuju i na druge oblasti.

Jedna od najvećih prednosti Radoslava jeste način komunikacije. Građani ne moraju da koriste stručne izraze niti da poznaju zakonske odredbe. Dovoljno je da pitanje postave onako kako bi ga postavili službeniku ili prijatelju. Veštačka inteligencija razume prirodan govor i pruža jasne, precizne i proverene odgovore, čime smanjuje mogućnost da korisnici dobiju netačne ili zastarele informacije sa interneta.

Važno je naglasiti da Radoslav ne donosi upravne odluke niti zamenjuje rad državnih službenika. Njegova uloga je savetodavna, pomaže građanima da se pripreme za podnošenje zahteva, razumeju proceduru i prikupe potrebnu dokumentaciju. Time se štedi vreme i smanjuje broj nepotpunih zahteva.

Zanimljivosti

Specijalizovani AI čipovi

Razvoj veštačke inteligencije više se ne zasniva samo na naprednijim modelima i algoritmima. Sve veću ulogu ima i hardver na kojem se ti modeli izvršavaju. Zbog toga vodeće tehnološke kompanije sve češće razvijaju specijalizovane AI čipove. Projektovane za određene modele ili vrste zadataka, umesto da se oslanjaju isključivo na univerzalne grafičke procesore (GPU). Ovaj trend predstavlja jednu od najvećih promena u AI industriji. Mogao bi značajno da utiče na brzinu razvoja, cenu i dostupnost veštačke inteligencije.

Tradicionalni GPU čipovi pokazali su se izuzetno uspešnim za razvoj velikih jezičkih modela, ali kako AI sistemi postaju složeniji i koriste se u milijardama svakodnevnih upita, javlja se potreba za efikasnijim rešenjima. Umesto jednog univerzalnog čipa koji obavlja sve zadatke, kompanije razvijaju procesore optimizovane za određene faze rada AI modela. Takvi čipovi mogu da obrade više podataka uz manju potrošnju energije i niže troškove rada.

Google je među pionirima ovog pristupa sa svojim Tensor Processing Unit (TPU) čipovima. Ove godine je otišao korak dalje predstavljanjem odvojenih TPU procesora za treniranje modela i za njihovo izvršavanje. Time je hardver prilagođen specifičnim potrebama svake faze rada, što omogućava bolje performanse i veću energetsku efikasnost. Pored toga, pojavile su se informacije da kompanija razvija i čip Frozen v2. On bi deo arhitekture modela Gemini ugrađivao direktno u sam silicijum. Takav pristup mogao bi višestruko da poveća broj obrađenih tokena po utrošenom vatu energije.

Sličnu strategiju primenjuju i druge velike kompanije. Amazon razvija čipove Trainium za obučavanje AI modela i Inferentia za njihovo izvršavanje u okviru AWS cloud platforme, dok Meta koristi sopstvene MTIA procesore za AI funkcije na Facebooku, Instagramu i drugim servisima. Microsoft razvija čipove Maia, a OpenAI takođe ulaže u razvoj sopstvenog AI hardvera kako bi smanjio zavisnost od eksternih dobavljača.

Iako NVIDIA i dalje drži vodeću poziciju na tržištu AI čipova, konkurencija postaje sve ozbiljnija. Velike tehnološke kompanije žele veću kontrolu nad sopstvenom infrastrukturom, niže troškove i čipove koji su optimizovani upravo za njihove modele i usluge. Zbog toga se očekuje da će narednih godina tržište AI hardvera biti znatno raznovrsnije nego danas. Sa kombinacijom univerzalnih GPU procesora i specijalizovanih AI akceleratora.

Tina Paunović, master inženjer informacionih sistema