Studiuesit kanë paralajmëruar se njerëzit nuk janë në gjendje të dallojnë më shumë se një të katërtën e shembujve të gjuhës së folur të cilat janë krijuar nga AI. Deepfakes janë video të rreme ose klipe audio që synojnë t’i të zëvëndësojnë zërin ose pamjen e një personi të vërtetë, dhe për këtë arsye ekziston frika se kjo lloj teknologjie mund të përdoret nga kriminelët dhe mashtruesit për të mashtruar njerëzit për para.
Tani, shkencëtarët kanë zbuluar se njerëzit mund të bëjnë dallimin midis një fjalimi real dhe një të rremi të krijuar nga AI në 73% të rasteve. Më parë ka qenë shumë e vështirë që të rikrijoje zërin e një personi përmes inteligjencës artificiale, pasi kërkoheshin me mijëra shembuj të zërit të një personi, mirëpo tani me zhvillimin e algoritmeve të rinj zëri i një personi mund të rikrijohet nga një regjistrim vetëm 3 sekonda i gjatë i zërit të tij.
Një ekip nga University College London përdori një algoritëm për të gjeneruar 50 shembuj fjalimesh të falsifikuara dhe i luajti ato për 529 pjesëmarrës. Ata ishin në gjendje të identifikonin tre të katërtat e fjalimeve të rreme, gjë që u përmirësua vetëm pak pasi ata morën trajnime për të njohur aspektet e fjalimit të gjeneruar nga AI.
Kimberly Mai, autorja e parë e studimit, tha: “Gjetjet tona konfirmojnë se njerëzit nuk janë në gjendje të dallojnë në mënyrë të besueshme fjalimet e rreme, pavarësisht nëse kanë marrë apo jo trajnime për t’i ndihmuar ata të dallojnë përmbajtje artificiale. Vlen gjithashtu të theksohet se shembujt që kemi përdorur në këtë studim janë krijuar me algoritme që janë relativisht të vjetra, gjë që ngre pyetjen nëse njerëzit do të ishin më pak në gjendje të zbulonin fjalimin e falsifikuar të krijuar duke përdorur teknologjinë më të sofistikuar të disponueshme tani dhe në të ardhmen.”
