Iz sveta veštačke inteligencije #38

Trideset i osmi (38) stepenik na putu saznavanja informacija o dešavanjima u svetu veštačke inteligencije…

Vesti

AI model za sajber bezbednost

Microsoft je predstavio svoj prvi AI model namenjen sajber bezbednosti i novi sistem zasnovan na veštačkoj inteligenciji koji može da automatizuje veliki deo posla bezbednosnih timova.

Novi model, MAI-Cyber-1-Flash, razvijen je sa jednim ciljem. A to je da pronalazi bezbednosne propuste u softveru, analizira potencijalne rizike i pomaže u njihovom otklanjanju. Za razliku od klasičnih AI modela koji odgovaraju na pitanja ili generišu sadržaj, ovaj model je specijalizovan za sajber bezbednost.

Pored njega, Microsoft je predstavio i Project Perception. To je sistem koji koristi više AI agenata koji međusobno sarađuju. Svaki od njih ima poseban zadatak. Dok jedan agent pronalazi ranjivosti u kodu, drugi procenjuje njihov uticaj, treći predlaže način na koji problem može da bude rešen, a četvrti proverava da li je bezbednosni propust uspešno uklonjen.

Na ovaj način AI može da obavi veliki deo poslova koji su do sada zahtevali angažovanje čitavih timova stručnjaka. Microsoft navodi da novi model može samostalno da obradi oko 90% zadataka, dok se za najsloženije probleme koriste napredniji AI sistemi.

Razlog za razvoj ovakvih tehnologija leži u činjenici da sajber napadi postaju sve brži i sofisticiraniji. Napadači danas koriste automatizovane alate zasnovane na veštačkoj inteligenciji za pronalaženje bezbednosnih propusta, zbog čega i sistemi zaštite moraju da budu sposobni da reaguju gotovo trenutno.

Project Perception predstavlja novu generaciju bezbednosnih sistema koji ne služe samo za otkrivanje problema, već aktivno učestvuju u njihovom rešavanju. Umesto da bezbednosni stručnjaci ručno analiziraju hiljade upozorenja svakog dana, AI agenti mogu da preuzmu veliki deo tog procesa i omoguće ljudima da se fokusiraju na najsloženije slučajeve.

Ovaj potez pokazuje da budućnost sajber bezbednosti neće podrazumevati samo pametnije alate, već i autonomne AI sisteme koji će biti sposobni da samostalno otkrivaju, analiziraju i rešavaju bezbednosne izazove mnogo brže nego što je to danas moguće.

Milioni uništenih knjiga zbog veštačke inteligencije

Razvoj veštačke inteligencije zahteva ogromne količine kvalitetnih podataka, a upravo su knjige postale jedan od njihovih najvrednijih izvora. Zbog toga pojedine AI kompanije kupuju milione fizičkih knjiga, koje se nakon skeniranja trajno uništavaju, kako bi njihov sadržaj poslužio za treniranje AI modela.

Knjige se kupuju u velikim količinama, uklanja im se povez kako bi stranice mogle brzo da se skeniraju, a zatim se tekst pretvara u digitalni format koji AI sistemi koriste za učenje. Nakon toga, fizički primerci više nisu upotrebljivi i najčešće se recikliraju ili odbacuju.

Za razliku od interneta koji je danas prepun sadržaja generisanog pomoću veštačke inteligencije, knjige predstavljaju pouzdan izvor znanja koji su napisali ljudi i koji je prošao uređivačke procese. One pomažu AI modelima da bolje razumeju jezik, stil pisanja i način na koji ljudi prenose informacije. Osim toga, destruktivno skeniranje omogućava kompanijama da digitalizuju ogromne količine sadržaja mnogo brže i jeftinije nego klasičnim metodama.

Iako ovaj proces može doprineti razvoju naprednijih AI sistema, otvorio je brojna pitanja. Autori i izdavači upozoravaju na probleme autorskih prava i činjenicu da njihova dela postaju deo komercijalnih AI sistema bez njihove saglasnosti ili naknade. Dodatnu zabrinutost izaziva mogućnost da retke i rasprodate knjige, iako digitalno sačuvane, postanu deo privatnih baza podataka kojima javnost nema pristup.

Ova praksa pokazuje da budućnost veštačke inteligencije ne zavisi samo od novih algoritama, već i od pitanja ko poseduje znanje, kako se ono koristi i gde treba povući granicu između tehnološkog napretka i očuvanja kulturnog nasleđa.

Zanimljivosti

Mini rečnik veštačke inteligencije

1. AI Hallucination

Situacija u kojoj AI model daje netačne ili potpuno izmišljene informacije predstavljajući ih kao činjenice. Zbog toga je važno proveravati informacije koje AI generiše, naročito kada se koriste u poslovne ili stručne svrhe.

2. Context Window

Količina informacija koju AI model može da obradi i „zapamti“ tokom jednog razgovora ili zadatka. Što je veći kontekst, model može bolje da razume složenije zahteve i povezuje informacije iz dužih tekstova.

3. Synthetic Data

Veštački generisani podaci koji se koriste za treniranje AI modela. Onda kada nema dovoljno stvarnih podataka ili kada je potrebno zaštititi privatnost korisnika.

4. Token

Osnovna jedinica teksta koju AI modeli obrađuju. Token može biti jedna reč, deo reči, broj ili znak interpunkcije. Broj tokena utiče na količinu informacija koju model može da obradi, kao i na cenu korišćenja AI sistema.

5. AI Alignment

Oblast koja se bavi usklađivanjem ponašanja AI sistema sa ljudskim vrednostima, etičkim principima i bezbednosnim pravilima. I to kako bi modeli donosili pouzdane i korisne odluke.

Tina Paunović, master inženjer informacionih sistema