Imagjinoni sikur ju të merrni një telefonatë nga familjarët tuaj të cilët ju luten që t’i dërgoni disa para, mirëpo pas dhënies së parave në të vërtetë ju mësoni se sapo jeni mashtruar. Telefonata që morët nuk ka qenë nga familjarët e tuaj, por nga një zë i rikrijuar duke përdorur inteligjencën artificiale.
Teknologjia e re e quajtur “audio deepfake” rikrijon zërin e një personi të caktuar nga regjistrimet e shkurtra për një shumë të vogël parash. Një rast që u bë viral u publikua në 4chan, ku përdoruesit e forumit kishin rikrijuar përmes AI zërin e Emma Watson duke lexuar librin Mein Kampf të Adolf Hitlerit. Ata përdorën një mjet për klonimin e zërit të quajtur Prime Voice.
Një tjetër rast shumë i saktë i replikimit të zërit nëpërmjet Prime Voice ishte dhe ai i Leonardo Di Caprios duke folur si përfaqësues i Kombeve të Bashkuara.
Shumë ekspertë kanë nisur të shqetësohen nga ky fenomen, pasi mund të përdoret për të mashtruar njerëzit, sidomos personat e vjetër në moshë që nuk dinë shumë rreth teknologjisë.
“Kjo teknologji ka nevojë për një regjistrim të shkurtër të zërit për ta rikrijuar atë në një formë mjaft të mirë.” tha Matthew Wright, drejtues i shkencave kompjuterike në Rochester Institute of Technology. “Mjafton të imagjinoni se si njerëzit mund të telefonojnë persona të ndryshëm duke pretenduar se janë shitës, dhe kjo gjë mjafton për të mashtruar në mënyrë bindëse të tjerët.” shtoi ai.
