Google koristi novi AI sistem za otkrivanje spam sadržaja
Novim AI sistemom se širi borba protiv organizovanog spama i zloupotrebe generativne vještačke inteligencije
VIJESTI
9/28/2026
Google je objavio detalje novog sistema za borbu protiv zloupotrebe generativne vještačke inteligencije pod nazivom SAFE (Scaled Abuse Forensics Examiner), koji je namijenjen otkrivanju sadržaja i ponašanja koji mogu biti dio organizovanih mreža za proizvodnju AI spama.
Razlog za uvođenje novog sistema je činjenica, da se poslednjih godinu dana na Google-u pojavila velika količina AI sadržaja, ali i praksa da se uz pomoć AI mijenja sadržaj koji je već kreirala vještačka inteligencija, kako bi se prikrili tragovi i kako bi takav sadržaj izgledao kao da ga je kreirao čovjek. Takav sadržaj je označen kao spam, jer kada su u pitanju tekstovi, sadrži veliki broj ključnih riječi i fraza, sa ciljem boljeg pozicioniranja u pretrazi i veće posjećenosti sajtova.
Ipak, SAFE nije namijenjen samo da odgovara na pitanje da li je neki tekst napisao AI, već je sistem koji kombinuje različite vrste podataka iz različitih izvora, kako bi otkrio obrasce koji su karakteristični za organizovane spam mreže. To znači, da SAFE ne analizira samo tekstualni ili vizuelni sadržaj, već i ponašanje naloga i kanala, povezanost između različitih izvora, kao i infrastrukturu koja se koristi za objavljivanje sadržaja.
Iz tog razloga, SAFE je sačinjen od četiri specijalizovana AI agenta. Prvi se naziva Root Agent i ima zadatak da koordiniše čitav proces i prikuplja podatke od ostalih agenata. Drugi je Content Understanding Agent, koji analizira sadržaj i traži znake AI sadržaja i kršenja pravila. Treći se naziva Behavior Understanding Agent i analizira ponašanje koje može ukazivati na organizovanu aktivnost, poput vremenskih obrazaca objavljivanja ili masovnog objavljivanja sadržaja. I četvrti agent je Channel Cluster Understanding Agent, koji pokušava da pronađe veze između različitih kanala sa sličnim sadržajem, kako bi otkrivao organizovane mreže.
Za kraj, da naglasimo da Google sa novim anti-spam sistemom nema namjeru da zabrani AI sadržaj i već ima svoja pravila kako se prema njemu odnosi. A, to je da ga rangira znatno niže u odnosu na sadržaj koji je kreirao čovjek. O tome možete čitati u našem tekstu "AI ili čovjek: čiji sadržaj se bolje rangira?"
Cilj je da se spriječi manipulisanje sistemom pretrage, ali i da se ljudi motivišu da kreiraju originalni sadržaj. Jer, on ima mnogo veću vrijednost.
Povezani članci:
