AI sistem koji piše lažne vesti je preopasan za javnost

Neprofitna istraživačka organizacija koja se bavi veštačkom inteligencijom, OpenAI, prikazala je prošle nedelje rezultate svog rada na novim modelima za manipulisanje jezikom. Njihovi napori rezultovali su sistemom GPT-2 koji je treniran na internet tekstovima kako bi mogao predvideti koja će sledeća reč u njima biti upotrebljena. Nakon takvog "treninga" na 40 GB tekstova sa 8 miliona web stranica dobijen je jezični model sa više od 1,5 milijarde parametara. To mu sada omogućava da, uz minimalne inpute, stvara, tj. "izmišlja" ogromne količine uverljivog teksta.

Neke primere generisanja tekstova OpenAI je prikazao na svojim stranicama. Sistemu su zadali tek temu, nekoliko reči ili rečenica oko kojih je veštačka inteligencija počela da stvara ostatak teksta. Rezultat je novinski članak dovoljno uverljiv, smislen i prirodan da ga je vrlo lako zameniti za tekst koji je napisao čovek.

Sistemi poput ovog mogli bi se u budućnosti koristiti kao pomoć pri pisanju ili prevođenju, te za bolje prepoznavanje govora ili izvlačenje ključnih informacija iz tekstova, ali u organizaciji OpenAI svesni su da bi se on mogao upotrijebiti i za manje moralne svrhe. Lažne vesti, automatizovana izrada netačnih članaka, spama ili phishing sadržaja, te lažno predstavljanje online samo su neke moguće primene ovog naprednog AI algoritma. Stoga su u ovoj organizaciji odlučili da, iako im je u samom nazivu navedena "otvorenost", neće GPT-2 dati u celosti na raspolaganje javnosti.

Omogućiće tek uvid u njegovu demo varijantu, dok će odluku o otvaranju koda celog sistema odložiti za neko drugo vreme, kad se pojave mehanizmi zaštite od veštačke inteligencije i potencijalne štete koju ona može u ovom obliku prouzrokovati.

Kako je suosnivač OpenAI inicijative bio i Elon Musk, mnogi su ga odmah povezali sa ovom pričom. Ali, on je ovoga vikenda ponovio kako je još pre više od godine dana napustio upravljačke pozicije u toj organizaciji. Zbog velikih obveza u Tesli i SpaceX-u, ali i neslaganja sa nekim odlukama, sada je odlučio i potpuno napustiti OpenAI i distancirati se od njihovog rada.

Kategorija: Ostalo widget