Deepfake av Singapores leder som markedsfører kryptovaluta viser økningen av AI-drevet svindel
Deepfake av Singapores leder som markedsfører kryptovaluta viser økningen av AI-drevet svindel.Nesten ni av ti deepfakes involverer kryptovaluta, viser forskning. ‘Videoen er ikke ekte!’ sa Lee Hsien Loong.
Myndighetene jobber febrilsk for å begrense deepfakes.
Lee Hsien Loong kan ha avsluttet sin 20-årige periode som statsminister i Singapore i mai. Men han er ikke over til å promotere krypto.
Investorer kunne ha trodd noe annet forrige uke da en annonse dukket opp på sosiale medier. Med videoer av Lee som markedsførte kryptoinvesteringer med garantert avkastning for en bedrift kalt Quantum AI.
Lee sa at videoene var deepfakes som la falsk lyd over en video av en tale han holdt tidligere i år.
«Dette er ekstremt bekymringsfullt: folk som ser videoen kan bli lurt til å tro at jeg virkelig sa de ordene,» sa Lee i et Facebook-innlegg den 2. juni. «Videoen er ikke ekte!»
10-dobbel økning
Episoden understreker de økende bekymringene for at kryptovalutasektoren er sårbar for svindel drevet av kunstig intelligens og deepfakes.
Hele 88% av deepfake-tilfellene skjedde i kryptovalutaindustrien i 2023, ifølge en rapport fra Sumsub, et verifiseringsselskap.
Globale deepfake-hendelser økte 10 ganger mellom 2022 og 2023, med Nord-Amerika og Asia-Stillehavsområdet på toppen av listen.
Svindlere bruker ofte offentlige personer som Elon Musk eller Taiwans tidligere president Tsai Ying-wen for å promotere tvilsomme investeringer.
Lee har lenge vært et mål for falske kryptovaluta-svindler.
I 2022 advarte politiet i Singapore mot en økning i falske artikler som antydet at Lee støttet investeringer i kryptovalutaer. Artiklene ble brukt som klikkagn for å lokke folk til investeringsplattformer.
Tredje gang
Dette er tredje gang det siste året at Lee har gitt en advarsel mot svindlere som utgir seg for å være ham. Problemet er at det blir stadig vanskeligere å skille ekte fra falskt.
«AI og deepfake-teknologi blir bedre for hver dag,» sa Lee.
Selv om Kina og Sør-Korea prøver å forby deepfakes. Jobber rettshåndhevelsesmyndigheter febrilsk med å utvikle og implementere teknologi for å identifisere dem.
Gruppen som bruker Lees bilde, Quantum AI, utga seg også for å være Musk tidligere i år for å antyde at han er involvert i prosjektet.
Hong Kong advarsel
Forrige måned utstedte Hong Kongs Securities and Futures Commission en advarsel mot plattformen. Quantum AI kunne ikke nås for kommentar.
I mellomtiden oppfordrer Lee investorer til å være forsiktige ettersom deepfakes blir mer utbredt. «Vennligst husk, hvis noe høres for godt ut til å være sant, vær forsiktig,» sa Lee.
«Hvis du ser eller mottar svindelannonser av meg eller noen annen offentlig tjenestemann i Singapore. Som promoterer et investeringsprodukt, vennligst ikke tro på dem.»
4o