Iz sveta veštačke inteligencije #31

Tekst pod rednim brojem 31 je pred vama. I dalje otkrivamo zanimljivosti i novitete iz sveta veštačke inteligencije.

Vesti

Anthropic traži pauzu u razvoju AI-ja

Kompanija Anthropic pozvala je vodeće laboratorije za razvoj veštačke inteligencije da razmotre privremenu i koordinisanu pauzu u razvoju najnaprednijih AI sistema. Upozoravajući da bi ljudi u budućnosti mogli izgubiti kontrolu nad ovom tehnologijom.

U svom predlogu, Anthropic navodi da se AI približava tački na kojoj bi mogao da dostigne sposobnost takozvanog rekurzivnog samousavršavanja. To znači da bi napredni modeli mogli samostalno da projektuju i unapređuju svoje naslednike. Na taj način ubrzavajući razvoj veštačke inteligencije mnogo brže nego što društvo, zakonodavci i istraživači mogu da uspostave bezbednosne mehanizme i pravila.

Kako bi se smanjio taj rizik, kompanija predlaže zajednički dogovor najvećih AI laboratorija o privremenom usporavanju razvoja najmoćnijih sistema. Cilj takve mere bio bi da se obezbedi dodatno vreme za istraživanje bezbednosti, razvoj regulatornih okvira i usklađivanje AI sistema sa ljudskim vrednostima i interesima.

Predlog je ponovo otvorio raspravu u tehnološkoj industriji o tome ko treba da određuje tempo razvoja veštačke inteligencije. Dok Anthropic zagovara oprezniji pristup, OpenAI smatra da bi pravila i odgovornost trebalo da definišu demokratski izabrane vlade i regulatorna tela, a ne same tehnološke kompanije.

Dodatnu zabrinutost izazivaju nedavna istraživanja koja pokazuju da se postojeći AI alati već mogu koristiti za kreiranje naprednih sajber pretnji, uključujući malvere koji mogu samostalno da se prilagođavaju i šire kroz računarske mreže. Zbog toga raste pritisak na tehnološke kompanije da pronađu način da obezbede razvoj sve moćnijih AI sistema, pre nego što njihovi kapaciteti prevaziđu mogućnosti ljudskog nadzora.

OpenAI predstavlja funkciju Lockdown Mode

Kompanija OpenAI predstavila je novu bezbednosnu funkciju pod nazivom Lockdown Mode, namenjenu korisnicima koji rade sa poverljivim informacijama i žele dodatnu zaštitu od potencijalnih AI bezbednosnih pretnji. Funkcija je počela da se uvodi tokom juna 2026. godine. Ona predstavlja jedan od najznačajnijih koraka kompanije u oblasti sajber bezbednosti i zaštite podataka.

Lockdown Mode je osmišljen kao zaštita od takozvanih prompt injection napada. Reč je o tehnici u kojoj napadači skrivaju zlonamerne instrukcije u dokumentima, imejlovima, veb-stranicama ili drugim sadržajima koje AI sistemi obrađuju. Cilj takvih napada može biti krađa podataka, otkrivanje poverljivih informacija ili navođenje AI sistema da izvrši radnje koje korisnik nije tražio.

Umesto da pokušava da potpuno eliminiše ove napade, OpenAI je kreirao režim koji značajno smanjuje mogućnost da osetljivi podaci napuste sistem čak i ako dođe do pokušaja manipulacije modelom.

Lockdown Mode

Kada je Lockdown Mode uključen, ChatGPT ograničava ili potpuno isključuje niz funkcija koje imaju pristup internetu ili spoljnim servisima. Među funkcijama koje se ograničavaju nalaze se pregledanje interneta u realnom vremenu, preuzimanje slika sa interneta, Deep Research funkcija, Agent Mode, pojedine aplikacije i konektori, automatsko preuzimanje datoteka za analizu. Korisnici i dalje mogu da otpremaju svoje dokumente i koriste osnovne mogućnosti ChatGPT-a, ali se značajno smanjuje broj načina na koje bi podaci mogli biti poslati van sistema.

Korisnici kojima je funkcija dostupna mogu je uključiti kroz: Settings → Security → Advanced Security → Lockdown Mode

Nakon aktivacije, ChatGPT prikazuje oznaku da je režim zaštite uključen. Korisnici ga mogu privremeno isključiti za pojedinačne razgovore ili ga potpuno deaktivirati u podešavanjima.

Najveća prednost Lockdown Mode-a jeste dodatna zaštita od curenja podataka. Funkcija je posebno korisna za novinare koji rade sa poverljivim izvorima, advokate i pravne timove. Ali i za državne institucije, istraživače, zdravstvene organizacije, kompanije koje obrađuju osetljive poslovne informacije. Pored toga, ovaj režim smanjuje rizik od zloupotrebe AI agenata i otežava napadačima da preko skrivenih instrukcija dođu do podataka kojima model ima pristup.

OpenAI naglašava da Lockdown Mode nije potpuna zaštita od svih prompt injection napada. Zlonamerne instrukcije i dalje mogu biti skrivene u dokumentima koje korisnik otpremi ili u sadržaju koji je već sačuvan u sistemu. Funkcija prvenstveno smanjuje mogućnost da se podaci iznesu van sistema, ali ne može garantovati apsolutnu bezbednost.

Zanimljivosti

AI agenti su preuzeli internet

Početkom 2026. godine izvršni direktor kompanije Cloudflare, Matthew Prince, upozorio je da bi automatizovani botovi i AI agenti mogli da generišu više internet saobraćaja od ljudi već do kraja 2027. godine. Cloudflare je jedna od najvećih svetskih kompanija za internet infrastrukturu, bezbednost i isporuku web sadržaja. Kroz njihovu mrežu prolazi značajan deo globalnog internet saobraćaja. Iako je razvoj veštačke inteligencije tada beležio izuzetno brz rast, većina stručnjaka je smatrala da će ljudski korisnici još dugo ostati dominantni izvor internet aktivnosti.

Međutim, samo nekoliko meseci kasnije, Prince je priznao da se promena dogodila mnogo brže nego što je očekivao. Prema podacima koje prati Cloudflare automatizovani sistemi su prvi put u istoriji interneta pretekli ljude po broju web zahteva koje generišu.

Prema najnovijim podacima, oko 57,4–57,5% ukupnog HTTP saobraćaja na internetu danas dolazi od botova i AI agenata. Sa druge strane, ljudski korisnici generišu približno 42,5% saobraćaja. Drugim rečima, većina poseta sajtovima, učitavanja stranica i automatizovanih zahteva više ne potiče od ljudi, već od softvera.

Važno je razumeti da se ovde ne radi o klasičnim botovima kakve internet poznaje godinama. Novi talas saobraćaja pokreću takozvani AI agenti. To su inteligentni sistemi koji mogu samostalno da pretražuju internet. Oni analiziraju sadržaj, upoređuju proizvode, rezervišu putovanja, prikupljaju informacije i izvršavaju zadatke u više koraka u ime korisnika.

Rast saobraćaja

Rast ovakvog saobraćaja direktno je povezan sa eksplozijom generativne veštačke inteligencije. Izveštaji pokazuju da je saobraćaj povezan sa AI sistemima tokom 2025. godine porastao za čak 187 procenata. U isto vreme je aktivnost agentnih AI sistema beležila višestruko veće stope rasta.

Ipak, ove brojke ne znače da ljudi provode manje vremena na internetu od mašina. Cloudflare meri broj HTTP zahteva, a ne vreme provedeno online. Ljudi i dalje dominiraju aktivnostima poput gledanja video sadržaja, korišćenja društvenih mreža, video-poziva i mobilnih aplikacija. Međutim, kada se meri broj pojedinačnih interakcija sa web serverima, AI agenti danas generišu više aktivnosti od ljudskih korisnika.

Ovaj preokret mogao bi značajno da promeni način na koji internet funkcioniše. Tradicionalni model zasnovan na oglašavanju oslanjao se na ljudske posetioce koji klikću na reklame i posećuju sajtove. AI agenti ne klikću na oglase, ne kupuju impulsivno i ne ponašaju se kao klasični korisnici. Zbog toga sve više kompanija razmatra nove modele monetizacije sadržaja. Uključujući naplatu pristupa podacima koje AI sistemi koriste za pretragu i obuku modela.

Internet je tokom prethodnih trideset godina bio izgrađen prvenstveno za ljude. Danas se prvi put suočava sa realnošću u kojoj većinu saobraćaja stvaraju mašine. Ono što je do juče delovalo kao predviđanje za daleku budućnost postalo je stvarnost već 2026. godine. Otvarajući tako potpuno novo poglavlje u razvoju digitalnog sveta.

Tina Paunović, master inženjer informacionih sistema