Iz sveta veštačke inteligencije #23

Pred vama je i 23. izdanje našeg serijala…

Alat

Claude Code

Claude Code je alat zasnovan na veštačkoj inteligenciji koji je napravila kompanija Anthropic. Predstavlja specijalizovanu verziju Claude AI modela namenjenu programerima. Za razliku od običnog AI četbota koji samo odgovara na pitanja, Claude Code je napravljen tako da može aktivno da učestvuje u radu na softverskim projektima.

Suština ovog alata je u tome da on „razume“ kod i strukturu jednog projekta. Kada se koristi u okviru nekog programskog projekta, može da pregleda fajlove, shvati kako su povezani i da na osnovu toga daje konkretne predloge ili čak pravi izmene u kodu. Ideja je da ne moraš da objašnjavaš svaki detalj, već da alat sam sagleda širu sliku.

Claude Code funkcioniše tako što kombinuje veliki jezički model sa pristupom lokalnim fajlovima i alatima za rad sa kodom. To znači da može da čita dokumente u projektu, da analizira postojeći kod i da predlaže kako nešto da se popravi ili unapredi. U nekim slučajevima može i direktno da menja fajlove ili da pokreće komande. Na primer testove, kako bi proverio da li sve radi kako treba.

Njegova glavna svrha je da pomogne programerima u svakodnevnom radu. Može da piše delove koda, da objašnjava kako neki deo sistema funkcioniše, da pronalazi greške i da pomaže u njihovom rešavanju. Takođe je koristan kada treba „očistiti“ kod, odnosno srediti ga da bude pregledniji i lakši za održavanje. Ima mogućnost i kreiranja novog projekta od nule.

Jedna od najvećih prednosti Claude Code-a je to što može da razume ceo projekat, a ne samo jedan deo koda. To mu omogućava da daje preciznije i korisnije odgovore, posebno u većim i složenijim aplikacijama gde se mnogo fajlova međusobno povezuje.

Ovaj alat nije savršen i ne zamenjuje programera. Može da napravi greške ili da pogrešno protumači neki deo sistema, pa je uvek potreban ljudski nadzor. Najbolje funkcioniše kao pomoćnik koji ubrzava rad, ali ne kao potpuna zamena za osobu koja razvija softver.

Vesti

AI koji može da hakuje sisteme

Veštačka inteligencija više nije ograničena na pisanje tekstova, generisanje slika ili pomoć u programiranju. Najnovija istraživanja pokazuju da pojedini napredni modeli, poput eksperimentalnog sistema Claude Mythos Preview, razvijenog od strane Anthropica, imaju sposobnosti koje ulaze u domen sajber bezbednosti.

Za razliku od klasičnih AI asistenata, ovaj tip modela je treniran da analizira složene softverske sisteme, pronalazi bezbednosne propuste (ranjivosti) i razume kako ti propusti mogu da se iskoriste. U nekim testovima, pokazano je da AI može ne samo da otkrije grešku u kodu, već i da predloži način kako bi ona mogla da se zloupotrebi. Drugim rečima, približava se sposobnostima koje su ranije bile rezervisane za vrhunske stručnjake ili državne agencije.

AI sam po sebi nema direktan pristup sistemima i ne može autonomno da „upadne“ u banku ili instituciju. Međutim, u rukama čoveka, ovakav alat može:

• značajno ubrzati pronalaženje slabih tačaka,
• smanjiti nivo znanja potreban za izvođenje napada,
• povećati obim i brzinu sajber napada.

Stručnjaci upozoravaju da AI može značajno pojačati snagu i brzinu sajber napada i odbrane, menjajući pravila igre u digitalnom prostoru. Kompanija Anthropic nije pustila ovaj model u slobodnu upotrebu. Umesto toga, koristi se u okviru zatvorenih programa sa partnerima, kako bi se testirala bezbednost sistema, unapred otkrile ranjivosti i razvile bolje metode zaštite.

AI uvodi potpuno novu ravnotežu u ovoj oblasti:

• napadači dolaze do potencijalnih meta brže i sa većom efikasnošću,
• sistemi odbrane mogu ranije da identifikuju slabosti i da ih blagovremeno otklone,
• tehnološke kompanije preuzimaju sve značajniju ulogu u globalnoj sajber bezbednosti.

Granica između digitalne odbrane i napada postaje sve tanja.

Indija trenira robote budućnosti

U određenim industrijskim pogonima u Indiji primenjuje se metoda prikupljanja podataka za razvoj veštačke inteligencije u kojoj radnici tokom obavljanja svog posla nose male kamere postavljene na glavi. Ove kamere su konstruisane tako da prate prirodno vidno polje radnika, odnosno snimaju tačno ono što radnik vidi dok izvršava radne zadatke.

Takav pristup se razlikuje od klasičnih sigurnosnih kamera jer ne posmatra radnika spolja, već iz njegove perspektive. Zbog toga se dobija takozvani „first-person“ ili egocentrični video zapis. On obuhvata detalje kao što su položaj ruku, način hvatanja predmeta, redosled operacija i sitne korekcije pokreta koje čovek pravi u realnom vremenu. Kamere su obično male, lagane i postavljene tako da ne ometaju rad. Često su fiksirane trakama, nosačima ili jednostavnim držačima koji ih stabilizuju tokom rada.

Svrha ovakvog snimanja nije nadzor u klasičnom smislu, već prikupljanje visokokvalitetnih podataka o ljudskom radu. Dobijeni video materijal se koristi kao ulaz za sisteme mašinskog učenja, posebno u oblasti robotike i tzv. „utelovljene veštačke inteligencije“, gde sistemi uče kako da obavljaju fizičke zadatke u realnom prostoru.

Proces učenja funkcioniše tako što se snimci razlažu na nizove radnji – na primer uzimanje predmeta, njegovo okretanje, postavljanje na određeno mesto ili kombinovanje sa drugim delovima. Veštačka inteligencija zatim analizira hiljade takvih primera i uči obrasce ponašanja kroz metod poznat kao imitaciono učenje. Umesto da se robot programira za svaki pojedinačni pokret, on uči da reprodukuje celokupan tok radnje posmatranjem čoveka.

Ovaj pristup omogućava brži razvoj robota koji mogu da rade u realnim industrijskim uslovima, jer se umesto ručnog programiranja koristi iskustvo prikupljeno iz stvarnog rada ljudi. Na taj način roboti mogu da nauče kompleksne manuelne zadatke koji zahtevaju preciznost i prilagođavanje situaciji. To je ranije bilo veoma teško postići klasičnim metodama.

Ipak, ovakva tehnologija istovremeno menja i način na koji se posmatra ljudski rad, jer se svakodnevne aktivnosti radnika pretvaraju u podatke koji se koriste za obuku budućih automatizovanih sistema.

Tina Paunović, master inženjer informacionih sistema