TikTok ka nisur testimin e një funksioni të ri që synon të mbrojë krijuesit nga deepfake të krijuara me inteligjencë artificiale. Mjeti i ri është aktualisht i disponueshëm vetëm për një grup të vogël krijuesish në SHBA dhe u jep atyre mundësinë të identifikojnë dhe raportojnë video apo llogari që përdorin pa leje pamjen e tyre.
Funksioni është opsional dhe kërkon që krijuesit të verifikojnë identitetin përmes platformës Jumio. Procesi përfshin një selfie në kohë reale dhe verifikimin e një dokumenti identifikimi. Sipas TikTok, dokumentet nuk ruhen, ndërsa të dhënat biometrike përdoren vetëm për të krahasuar fytyrën e përdoruesit me përmbajtjen e gjeneruar nga AI dhe për të zbuluar imitime të mundshme.
Pasi përfundon verifikimi, sistemi nis të skanojë videot e krijuara me AI që mund të përmbajnë ngjashmëri me krijuesin. Nëse zbulohen përmbajtje të dyshimta, përdoruesi mund t’i shqyrtojë dhe t’i raportojë drejtpërdrejt nëse beson se bëhet fjalë për një imitimit të paautorizuar.
Ky zhvillim vjen në një kohë kur deepfake-t po bëhen një problem gjithnjë e më i madh për krijuesit dhe figurat publike. TikTok ndjek kështu një qasje të ngjashme me YouTube, i cili ka zgjeruar mjetet e tij për zbulimin e imitimit të pamjes tek krijuesit e verifikuar dhe personalitetet publike.
Ndryshe nga disa iniciativa të tjera në industrinë e teknologjisë, TikTok ka zgjedhur një model “opt-in“, ku përdoruesit vendosin vetë nëse duan të marrin pjesë në program. Kjo qasje vjen pas reagimeve të forta ndaj veçorive të ngjashme në platforma të tjera, ku përdorimi i të dhënave publike për trajnim ose gjenerim me AI u aktivizua automatikisht.
