Yapay zekânın yaygınlaşmasıyla artık her gün görmeye başladığımız deepfake görüntüler, ünlüleri taklit etmekten insanları dolandırmaya kadar birçok konuda kullanılabiliyor. Yakın zamanda Hong Kong’da yaşanan bir olay ise durumun ne kadar ciddi boyutlara ulaşabileceğini gösteriyor.
Hong Kong’daki ismi açıklanmayan bir finans şirketinde yaşanan olayda bir çalışan, deepfake görüntüler ile kandırıldı. Dolandırıcılar, yapay zekâyı kullanarak bir görüntülü görüşmede şirket yöneticisi gibi davrandı ve milyonlarca dolar çaldı.
Toplantıdaki kişileri gerçek sanan çalışan, dolandırıcılara 25,6 milyon dolar gönderdi
Hong Kong polisinin aktardığına göre dolandırıcılar, şirketin Birleşik Krallık’taki CFO’su (Finansal İşler Müdürü) da dahil bazı yöneticiler olduklarını söyleyerek çalışana ulaştı. Ardından da bir görüntülü görüşmeye girdi. Dolandırıcılar, bu görüşme sırasında deepfake görüntüler kullanarak CFO ve diğer yöneticiler gibi davrandılar. Başta şüpheli olan çalışan, görüntülerin sahte olduğunu anlayamadı ve onları gerçekten de yöneticileri sandı.
Dolandırıcılar, görüşme esnasında önce çalışanın kendini tanıtmasını istediler. Sonrasında ise acil bir durum olduğunu söyleyerek 5 banka hesabına 25,6 milyon dolar göndermesini talep ettiler. O da görüşme bittikten sonra parayı gönderdi. Çalışan, 1 hafta sonrasında şirket içinde kontroller yaptığında durumun farkına vardı. Dolandırıcılar, muhtemelen bu yöneticilerin video kliplerini kullanarak deepfake’leri oluşturabildi.
Polis, şu ana kadar olayla ilgili altı kişiyi tutukladıklarını açıkladı. Olaya karışanların, 2023’te 8 kimlik hırsızlığı yaptığı, 54 banka hesabı ve 90 kredi başvurusunda bulunduğu ortaya çıktı. Ayrıca en az 20 kez yüz tanıma yazılımlarını kandırmak için deepfake görüntüler kullandıkları da belirlendi.
Çalışanın karşısındaki insanların sahte olduklarını anlamaması deepfake görüntülerin ne kadar gerçekçi ve tehlikeli bir hâle geldiğinin göstergesi. Yakın zamanda ünlü şarkıcı Taylor Swift’in sahte müstehcen görüntülerinin sosyal medyada yayıldığını görmüştük. Yani bu tarz olaylar muhtemelen azalmadan devam edecek.
