Istraga Consumer Reports-a otkrila je da većina vodećih programa za kloniranje glasova pomoću vještačke inteligencije nema značajne prepreke koje bi spriječile neovlašteno imitiranje drugih ljudi.
Tehnologija kloniranja glasova pomoću AI-a značajno je napredovala posljednjih godina, a mnoge usluge mogu precizno oponašati nečiji govor sa samo nekoliko sekundi uzorka audio zapisa. Ključni trenutak dogodio se tokom demokratskih predizbora prošle godine, kada su birači primili masovne robopozive s lažnim glasom Joea Bidena, koji ih je pozivao da ne glasaju. Politički konsultant koji je priznao da stoji iza ove prevare kažnjen je sa šest miliona dolara, a Američka federalna komisija za komunikacije (FCC) od tada je zabranila AI-generisane robopozive.
Nova analiza šest vodećih javno dostupnih alata za kloniranje glasova pokazala je da pet njih ima lako zaobilazne sigurnosne mjere, omogućavajući jednostavno kloniranje nečijeg glasa bez njihove dozvole. Softveri za detekciju deepfake zvuka često ne uspijevaju razlikovati stvarne glasove od sintetičkih.
Generativna AI, koja može imitirati ljudski izgled, pisanje i glas, brzo se razvija, ali još uvijek postoji malo zakonskih regulativa na saveznom nivou. Većina etičkih i sigurnosnih mjera u industriji su samonametnute. Predsjednik Joe Biden uključio je određene sigurnosne smjernice u izvršnu naredbu o AI-u koju je potpisao 2023. godine, ali je predsjednik Donald Trump tu naredbu opozvao nakon dolaska na vlast.
Tehnologija kloniranja glasova funkcioniše tako što analizira audio uzorak govora osobe i zatim kreira sintetičku repliku tog glasa. Bez odgovarajućih zaštitnih mjera, bilo ko ko registruje nalog može jednostavno prenijeti audio snimak nečijeg glasa – npr. iz videa na TikToku ili YouTubeu – i koristiti uslugu za imitaciju te osobe.
Četiri od šest analiziranih servisa — ElevenLabs, Speechify, PlayHT i Lovo — zahtijevaju samo da korisnik potvrdi označavanjem polja da je dobio dozvolu od osobe čiji glas klonira.
Još jedan servis, Resemble AI, zahtijeva snimanje glasa u realnom vremenu umjesto učitavanja postojećeg snimka, ali su istraživači Consumer Reports-a lako zaobišli tu zaštitu puštanjem snimljenog audio zapisa sa računara.
Jedino je šesti servis, Descript, imao donekle efikasnu zaštitu. On zahtijeva od korisnika da snimi određenu izjavu o pristanku, što je teško falsifikovati, osim ako se ne koristi drugi servis za kloniranje glasa.
Svi ovi servisi su dostupni javnosti putem interneta. Samo ElevenLabs i Resemble AI naplaćuju korištenje – prvi 5 dolara, a drugi 1 dolar za kreiranje prilagođenog klona glasa. Ostali su besplatni.