AI vs. Autentičnost: Rastuća potreba za porijeklom u digitalnom sadržaju

Kako tvrtke reagiraju na porast AI sadržaja

Zbog ovih problema, velike tehnološke kompanije rade na načinima da poboljšaju autentičnost i porijeklo medija. Kao dio svoje godišnje Build konferencije, Microsoft je najavio da će njegovi Bing Image Creator i Designer alati sada imati nove mogućnosti medijskog porijekla.

Korisnici će moći provjeriti da li su slike ili video zapisi napravljeni od strane AI koristeći kriptografske metode koje uključuju informacije o tome odakle je sadržaj došao.

Ali da bi ovaj sistem funkcionirao, različite platforme se moraju složiti sa specifikacijom Koalicije za porijeklo i autentičnost sadržaja (C2PA).

Isto tako, Meta je objavila alat pod nazivom Meta Video Seal koji može dodati nevidljive vodene žigove video isječcima koje je napravila AI.

Ovaj alat otvorenog koda je namijenjen za rad sa postojećim softverom bez ikakvih problema, što olakšava pronalaženje sadržaja koji je napravio AI.

Video Seal obećava da će biti otporan na uobičajene izmjene kao što su zamućenje i obrezivanje, za razliku od starijih tehnologija vodenih žigova koje su imale problema sa kompresijom i manipulacijom videa.

Problemi i ograničenja

Čak i sa ovim poboljšanjima, još uvijek postoje problemi sa dobijanjem mnogo ljudi da koriste ove tehnologije. Mnogi programeri mogu oklijevati da pređu sa postojećih vlasničkih rješenja na opcije otvorenog koda kao što je Video Seal.

Meta planira održati radionice na glavnim AI konferencijama i napraviti javnu ploču koja upoređuje različite metode vodenog žiga kako bi više ljudi radilo zajedno.

Također, metode vodenog žiga koje sada imamo nisu uvijek dovoljno jake ili učinkovite kada je u pitanju video sadržaj.

Dva glavna pristupa borbi protiv sadržaja generiranog umjetnom inteligencijom

U borbi protiv sadržaja generiranog umjetnom inteligencijom, pojavile su se dvije različite strategije:

1. Vodeni žig (preventivni pristup):

• Radi dodavanjem nevidljivih potpisa sadržaju u trenutku stvaranja
• Ponaša se kao digitalni certifikat koji pokazuje “ovo je napravio AI”
• Alati kao što su Meta Video Seal i Microsoftove karakteristike porijekla predstavljaju ovaj pristup
• Glavna prednost je trenutna identifikacija AI sadržaja

2. Alati za detekciju (analitički pristup):

• Analizira postojeći sadržaj kako bi utvrdio da li je generiran umjetnom inteligencijom
• Traži obrasce i karakteristike tipične za sadržaj kreiran umjetnom inteligencijom
• Posebno korisno za sadržaj koji nije označen prilikom stvaranja
• Ovi alati čine našu drugu liniju odbrane

Oba pristupa su neophodna jer se međusobno nadopunjuju: vodeni žig sprečava zloupotrebu, dok alati za otkrivanje pomažu u identifikaciji neoznačenog sadržaja.

Alati i tehnologije za otkrivanje

Sadržaj generiran umjetnom inteligencijom može se naći na više načina od samo tehnologija vodenog žiga. Novi alati za detekciju koriste složene algoritme za gledanje tekstualnog i slikovnog sadržaja.

• Originalnost, algoritmi dubokog učenja su korišteni od strane AI za pronalaženje obrazaca u tekstu koji je generiran od strane AI.
• GPTZero gleda na lingvističke strukture i frekvencije riječi kako bi razlikovao sadržaj koji su napisali ljudi i sadržaj koji su stvorile mašine.
• CopyLeaks koristi N-grame i usporedbe sintakse kako bi pronašao male promjene u jeziku koje bi mogle biti znakovi autorstva umjetne inteligencije.

Ovi alati bi trebali dati korisnicima tačna mišljenja o tome koliko je stvaran sadržaj, ali koliko dobro rade može mnogo varirati.

U zaključku

Kako generativna umjetna inteligencija napreduje, zaštita digitalne autentičnosti postaje sve važnija. Microsoft i Meta predvode sa revolucionarnim standardima za autentičnost sadržaja i provjeru porijekla medija.

Da bismo se efikasno borili protiv deepfake-a, potrebno nam je i usvajanje ovih alata u cijeloj industriji i jača saradnja između tehnoloških kompanija. Budući integritet digitalnog sadržaja ovisi o tehnologijama detekcije koje se razvijaju brže od obmane generirane umjetnom inteligencijom.

Zapravo, nedavno smo pokrili kako YouTube poduzima slične korake uvođenjem novih AI alata za otkrivanje kreatora i brendova. Njihov pristup uključuje sintetičku identifikaciju glasa i tehnologije otkrivanja lica generirane umjetnom inteligencijom, dodatno demonstrirajući kako glavne platforme rade na zaštiti autentičnosti sadržaja u eri umjetne inteligencije.