Deepfakes, được tạo ra bởi trí tuệ nhân tạo (AI), có các ứng dụng hợp pháp trong nghiên cứu khoa học và giải trí. Tuy nhiên, công nghệ này ngày càng được những kẻ tội phạm sử dụng như một vũ khí. Sự lan rộng ngày càng tăng của nội dung giả mạo giống thật có thể ảnh hưởng đến quyết định về tài chính của mọi người, từ đó làm tăng rủi ro lừa đảo trên toàn cầu.
Mối đe không chỉ còn nằm trong việc bắt chước các bài phát biểu của những người có tầm ảnh hưởng. Các cuộc tấn công sử dụng Deepfake có thể được điều chỉnh để nhắm vào những cá nhân cụ thể dựa vào giá trị, sở thích và tâm lý của họ. Hiện nay, thị trường thiếu các biện pháp phù hợp để phòng ngừa và xử lý những mối đe dọa hiện đại này, cũng như chống lại tác động nghiêm trọng của các phương pháp tấn công phi kỹ thuật đang tận dụng những tiến bộ công nghệ mới nhất. Những tiến bộ này bao gồm học sâu (deep learning), căn chỉnh khuôn mặt và phát hiện gương mặt, mạng đối nghịch tạo sinh (GAN), bộ mã hóa tự động, mạng nơ-ron hồi quy (RNN), nhận dạng khuôn mặt và trích xuất tính năng, cũng như các kỹ thuật xử lý hình ảnh và video tinh vi.
Nguồn dữ liệu và phương pháp
Các chỉ số định lượng về gian lận liên quan đến deepfake là không đủ để đánh giá chính xác toàn bộ ảnh hưởng của công nghệ này đến bối cảnh kinh tế. Do đó, nghiên cứu này xác định vấn đề thông qua các số liệu tuyệt đối đại diện cho những thiệt hại mà nạn nhân phải gánh chịu. Do lĩnh vực tiền điện tử trước đây đã đánh giá thấp mối nguy hiểm mà deepfake gây ra nên dữ liệu từ 2017 đến 2021 là không đủ. Nghiên cứu này lấy dữ liệu từ 2022 và dự đoán xu hướng trong 24 tháng, từ Quý 1 năm 2022 đến Quý 1 năm 2024 để cung cấp một phân tích toàn diện.
Nghiên cứu tích hợp dữ liệu từ nhiều nguồn có thể truy cập công khai và những phát hiện từ những cuộc điều tra của Bitget trong chiến dịch Tháng chống lừa đảo của Bitget vào tháng 6 năm 2024. Nền tảng triển khai một phương pháp toàn diện, đa nguồn để phát hiện và phân tích các hoạt động liên quan đến deepfake. Báo cáo của người dùng và những nghi ngờ về các giao dịch bất hợp pháp chính là nền tảng cho phương pháp này. Thông tin được thu thập từ các đối tác và chuyên gia phát hiện giả mạo, cùng với kinh nghiệm từ các công ty tiền điện tử khác. Đặc biệt tập trung vào việc xác định các hoạt động lừa đảo khai thác nội dung marketing, những bài phát biểu của người có ảnh hưởng và video giáo dục không thực.
Nền tảng cũng theo dõi những đề cập trên mạng xã hội có sử dụng hashtag và từ khóa cụ thể để tổng hợp nên một bức tranh hoàn chỉnh hơn về tình hình. Các yêu cầu gửi đến cơ quan thực thi pháp luật và dữ liệu khả dụng công khai về gian lận đã được thu thập. Việc hợp tác với các bên dịch vụ kiểm tra tính xác thực đảm bảo tính chính xác của thông tin.
Các báo cáo thu thập được tổng hợp một cách có hệ thống thành một mẫu chuẩn, phân loại dữ liệu theo nội dung, nền tảng, thời gian báo cáo và thời gian phát hiện tội phạm. Chúng tôi đã nỗ lực kiểm tra sự trùng lặp dữ liệu cả trong quá trình tạo cơ sở dữ liệu và sau khi hoàn thành để tránh đếm trùng các trường hợp giống nhau. Bitget luôn cam kết duy trì quyền riêng tư của người dùng và tuân thủ nguyên tắc đặc quyền tối thiểu. Việc phân tích xu hướng và xác định các mẫu sử dụng thông tin ẩn danh.
Phân tích
Tác động của deepfake đối với lĩnh vực tiền điện tử
Thiệt hại từ các hoạt động lừa đảo tiền điện tử đã đến con số 79,1 tỷ USD kể từ đầu năm 2022. Phân tích động lực hàng năm từ năm 2022 đến 2023 cho thấy xu hướng giảm chung của những thiệt hại này (xem Hình 1). Những dữ liệu này phù hợp với nghiên cứu về tổng giá trị tiền điện tử mà các địa chỉ bất hợp pháp nhận vào 2018-2023 được thực hiện trước đó [1]. Kết luận sơ bộ về sụt giảm trong 2022-2023 đến từ một số ít giai đoạn khi xem xét theo năm. Nếu chúng ta nhìn vào mức cắt giảm hàng quý (Hình 2), thiệt hại trung bình trong giai đoạn không có xu hướng bằng 0.
Xem xét dữ liệu kĩ hơn cho thấy một xu hướng biến động với đỉnh đáng kể vào Quý 3 năm 2022, Quý 3 năm 2023 và Quý 1 năm 2024. Một số yếu tố góp phần vào sự biến động này:
● Sự không nhất quán giữa các nhóm lừa đảo;
● Sự trùng hợp của một số cuộc tấn công lớn;
● Biến động của thị trường tiền điện tử;
● Đột phá công nghệ tạo ra các công cụ mới cho những kẻ lừa đảo;
● Thái độ thay đổi của công chúng;
● Sự xuất hiện của các biện pháp bảo vệ mới;
● Thay đổi nhận thức của cộng đồng;
● Thay đổi lập pháp nhằm bảo vệ người dùng tiền điện tử.
Dù các cơ quan chính phủ và nền tảng blockchain đã thực hiện nhiều nỗ lực khác nhau, thiệt hại tài sản do những kẻ lừa đảo tiền điện tử gây ra gia tăng (Hình 3).
Lĩnh vực tiền điện tử đã bị ảnh hưởng nặng nề bởi xu hướng toàn cầu về số lượng deepfake tăng 245% so với năm 2023, điều này cũng ảnh hưởng đến bảo mật tài khoản của nạn nhân [2].
Sự gia tăng các giao dịch lừa đảo và thiệt hại tài chính cho thấy thiệt hại hàng quý có thể tăng lên mức trung bình 10 tỷ USD vào đầu năm 2025. Một mô hình tương tự xuất hiện trong các thiệt hại đến từ giao dịch bất hợp pháp liên quan đến deepfake: sau khi sụt giảm vào 2023, Quý 1 2024 báo hiệu khả năng xuất hiện lại của hoạt động lừa đảo (Hình 4). Nếu xu hướng này tồn tại trong ba quý tiếp theo thì có thể dẫn đến tổng số tiền hàng năm đạt 25,13 tỷ USD vào năm 2024 (Hình 5).
Thiệt hại từ hoạt động lừa đảo này có khả năng tiếp tục tăng nếu không có sự can thiệp của cơ quan quản lý (xem Hình 6 và Hình 7). Trong trường hợp đó, cả lĩnh vực tiền điện tử và ngành tài chính rộng lớn hơn có thể phải đối mặt với sự mất niềm tin của người dùng và cả thiệt hại tài chính.
Tỷ lệ tội phạm liên quan đến giả mạo kỹ thuật số không thể hiện sự thay đổi đáng kể theo quý (Hình 8) so với thiệt hại tài chính đến từ những tội phạm này (Hình 10). Mặc dù loại tội phạm này có ít biến động nhưng lại cho thấy xu hướng gia tăng ổn định. Đường trung bình động cho thấy sự gia tăng đáng kể trong hoạt động giao dịch bất hợp pháp vào giữa năm 2023 (Hình 9), sau đó là sự sụt giảm ngắn hạn trước khi tỷ lệ các vụ việc tiếp tục có xu hướng tăng. Mối liên hệ rõ ràng với tâm lý thị trường cho thấy mối tương quan tiềm tàng giữa việc sử dụng deepfake cho các hoạt động bất hợp pháp và biến động trong Chỉ số Sợ hãi và Tham lam [4].
Mối tương quan với Chỉ số Sợ hãi và Tham lam
Thiệt hại tăng đột biến trong giai đoạn thị trường tăng giá vào Quý 3 năm 2023 và Quý 1 năm 2024 (Hình 10) càng làm rõ hơn mối tương quan trực tiếp giữa tâm lý thị trường trong giai đoạn tăng trưởng và sự phấn khích xung quanh các sự kiện liên quan. Trong giai đoạn khả năng kiếm lợi nhuận tăng lên, người dùng tiền điện tử có xu hướng chấp nhận rủi ro để tận dụng điều kiện thị trường hiện tại. Một nghiên cứu của Cục Nghiên cứu Kinh tế Quốc gia Hoa Kỳ (NBER) đã xác nhận quan điểm này và cho thấy các nhà đầu tư tự tin thái quá có xu hướng giao dịch và sở hữu các tài sản rủi ro cao, khiến họ dễ trở thành nạn nhân của những vụ lừa đảo trong giai đoạn tham lam [3].
Sau giai đoạn mùa đông tiền điện tử, hầu hết các tài sản tiền điện tử đều chứng kiến sự tăng trưởng vào năm 2023. Để mang lại góc nhìn rõ hơn hiện tượng này, nghiên cứu đã so sánh nó với Chỉ số Sợ hãi và Tham lam của Bitcoin (Hình 11), với ảnh hưởng chi phối của đồng tiền này [4] [5].
Mối tương quan tinh tế trong sáu tháng qua được thể hiện bằng cách xếp chồng các biểu đồ từ Hình 10 và 11. Sau khi sự quan tâm đối với Bitcoin tăng vào Quý 3 năm 2023, số tiền thiệt hại mà các nạn nhân của những vụ lừa đảo phải gánh chịu cũng tăng đáng kể. Sau đợt suy thoái đầu năm 2024. một mô hình tương tự đã xuất hiện, cho thấy mối tương quan mạnh mẽ. Tuy nhiên, hành vi không đồng bộ vào năm 2022 và đầu năm 2023 lại không thể xác minh rằng các chỉ số này có mối liên kết chặt chẽ với nhau. Nguyên nhân của sự khác biệt này được cho là mối quan hệ gián tiếp và bản chất phức tạp của các tội phạm liên quan đến công nghệ. Tần suất thiệt hại đến từ các hoạt động phạm tội liên quan đến giả mạo kỹ thuật số góp phần vào thiệt hại chung từ các hoạt động lừa đảo tiền điện tử, có xu hướng leo thang trong giai đoạn mà các chủ sở hữu tiền điện tử liều lĩnh hơn.
Kết nối với sự phát triển công nghệ
Công nghệ deepfake phát triển không ngừng, tận dụng những đột phá khoa học trong thập kỷ qua Một cuộc cách mạng về công nghệ đã bắt đầu vào năm 2014 với nghiên cứu về hệ thống nhận dạng khuôn mặt dựa trên học sâu. Face2Face (công nghệ thay thế giọng nói và khuôn mặt) đã tạo ra video giả mạo phổ biến đầu tiên, gây ra sự phẩn đổi của công chúng và thu hút sự chú ý của các cơ quan chức năng về sự nguy hiểm của deepfake [7]. Kể từ đó, deepfake đã được ứng dụng rộng rãi trong nhiều lĩnh vực khác nhau, bao gồm chính trị, marketing và giải trí.
Sự hiểu biết của mọi người về các thuật toán ngày càng được nâng cao và các phương pháp thay thế khuôn mặt tự động đã trở nên phổ biến với sự ra đời của DeepFaceLab [8]. Đến năm 2018, nhiều nỗ lực đã được thực hiện để tìm và giới thiệu các phương pháp xác minh tính xác thực của video, thúc đẩy các tổ chức truyền thông chống lại việc lan truyền nội dung giả mạo. Dù các giải pháp phát hiện deepfake của công ty đã được giới thiệu vào năm 2022, nhưng những người dùng thông thường thiếu kiến thức và kỹ năng cần thiết vẫn dễ bị ảnh hưởng bởi công nghệ này [9]. Cuộc chiến về sự tinh vi giữa những kẻ lừa đảo và các nhà cung cấp giải pháp bảo mật vật tồn tại cho đến ngày nay.
Trò mèo vờn chuột diễn ra khi những kẻ tấn công khai thác điểm yếu trong phần mềm phát hiện, tận dụng các lỗ hổng để trục lợi trước khi bản cập nhật tiếp theo ra mắt. Động lực này giải thích mô hình thiệt hại bất thường được quan sát hàng quý (Hình 10).
Cấu trúc tội phạm liên quan đến deepfake
Khi phân tích tội phạm tiền điện tử liên quan đến việc sử dụng deepfake, chúng ta có thể xác định các loại sau:
● Trộm cắp danh tính và mạo danh;
● ID giả mạo do DeepFake tạo cho mạng bot;
● Lừa đảo và âm mưu gian lận;
● Thao túng thị trường;
● Lừa đảo đầu tư;
● Tiền chuộc và tống tiền;
● Trốn tránh quy định và vi phạm tuân thủ;
● Tấn công phi kỹ thuật;
● Khai thác lỗ hổng công nghệ;
● Cung cấp thông tin sai lệch;
● Thao túng giao dịch tự động;
● Chiếm đoạt tài khoản và nhồi nhét thông tin xác thực;
● Đánh cắp tiền điện tử;
● Thông báo pháp lý hoặc quy định sai sự thật;
● Tấn công cộng đồng;
● Gây quỹ bất hợp pháp;
● Mạo danh trong thực tế ảo và metaverse;
● Trọng tài giả mạo;
● Giao dịch chợ đen.
Một cấu trúc tổng quát hơn với việc hợp nhất các phần bao gồm:
● Gian lận danh tính và mạo danh;
● Lừa đảo, gian lận và giả mạo;
● Thao túng và khai thác thị trường;
● Tống tiền trên mạng và vi phạm quy định.
Tỷ lệ của mỗi loại dao động trong thời gian nghiên cứu (Hình 12), nhưng một số xu hướng chiếm ưu thế rõ rệt. Tương tự như năm 2022, thiệt hại do lừa đảo, gian lận và giả mạo tiếp tục chiếm ưu thế, mặc dù tỷ lệ của loại này đã giảm từ 57,91% xuống 53,32% vào Quý 1 năm 2024. Những hoạt động bất hợp pháp này bao gồm việc tạo ra các dự án giả mạo, tấn công lừa đảo và mô hình Ponzi. Loại tội phạm này phổ biến không đến từ số lượng âm mưu lớn mà là do khả năng nhắm đến hàng nghìn nạn nhân cùng một lúc. Công nghệ deepfake được sử dụng trong các kế hoạch này để thu hút các nhà đầu tư tiền điện tử. Những âm mưu này mạo danh những nhân vật có tầm ảnh hưởng để tạo ấn tượng về độ uy tín và nguồn tài trợ lớn cho các dự án, từ đó trục lợi từ các khoản đầu tư đáng kể từ những nạn nhân không thực hiện thẩm định kỹ lưỡng.
Việc phản ứng nhanh nhạy với tin tức là điều quan trọng trong thị trường tiền điện tử, và những nhà đầu tư có khả năng thích ứng tốt nhất thường gặp hát được phần thưởng lớn nhất. Một tuyên bố từ người có tầm ảnh hưởng, nhận xét từ người đưa tin hoặc cập nhật về tình trạng tài chính của dự án có thể đóng vai trò là chất xúc tác cho sự biến động giá trị tài sản. Ví dụ: tận dụng deepfake để thổi phồng khối lượng giao dịch có thể ngay lập tức làm tăng sức hấp dẫn của token, từ đó trục lợi.
Tần suất thiệt hại do các loại tội phạm này gây ra ngày càng tăng khi thị trường phát triển, chiếm 28,85% tổng thiệt hại vào năm 2023 (Hình 13). Sự xuất hiện của các phương pháp bảo vệ mới vẫn chưa ngăn chặn được những kẻ tấn công liên tục tạo ra các âm mưu lừa đảo mới, ví dụ như ‘stream-jacking’. Nghiên cứu chỉ ra bằng chứng về sự kết hợp giữa deepfake, hoạt động trí tuệ nhân tạo và hack tài khoản YouTube [10].
Ứng dụng deepfake phổ biến nhất là giả mạo danh tính, đứng thứ ba về số tiền thiệt hại (Hình 13). Hoạt động này liên quan đến việc tạo ra các danh tính không thực để thiết lập các tài khoản giả và giành quyền truy cập trái phép vào các tài khoản khác. Dù phổ biến nhưng hoạt động này không chiếm vị trí hàng đầu trong bảng xếp hạng, nguyên nhân là do số tiền bị đánh cắp trong mỗi vụ việc không nhiều. Những tội phạm này cũng tận dụng công nghệ bot và kỹ thuật lừa đảo xã hội để mở rộng hoạt động phạm tội. Tỷ lệ của những hoạt động lừa đảo này tăng 3,2 trong năm 2023, đạt 14,21% vào Quý 1 năm 2024.
Tống tiền có thể tốn nhiều thời gian và không phải lúc nào nạn nhân cũng có thể thông báo cho cơ quan thực thi pháp luật hoặc nền tảng giao dịch. Điều này giải thích cho xu hướng giảm trong 2022-2023, vì có thể mất vài năm để phát hiện tội phạm. Nghiên cứu về việc phát hiện deepfake nhấn mạnh tính chất phức tạp của nỗ lực này, vì những người quan sát thiếu kinh nghiệm hầu như không thể phân biệt được hoạt động giả mạo này [9]. Một nghiên cứu của công ty phân tích blockchain Chainanalysis cho thấy rằng, tùy thuộc vào mức độ phức tạp của vụ việc và mức độ tham gia thực thi pháp luật quốc tế, các cuộc điều tra có thể kéo dài từ vài tuần đến vài năm [11]. Trong thời gian nghiên cứu, thiệt hại do loại gian lận này được ước tính trị giá khoảng 2,03 tỷ USD, chiếm tỷ trọng nhỏ nhất trong mỗi giai đoạn được kiểm tra (Hình 14, Hình 15, Hình 16).
Số liệu thấp hơn của năm 2024 được mô tả trong hình 13 cho thấy mức độ thiệt hại mà nạn nhân của lừa đảo tin tức giả mạo phải đối mặt đã giảm đi. Tuy nhiên, cần lưu ý rằng đây chỉ mới tính quý đầu tiên của 2024. Nếu thiệt hại từ Quý 2 đến Quý 4 trở nên đáng kể, chúng ta có thể dự đoán mô hình tương tự như được trình bày trong Hình 17. Theo các nghiên cứu trước đó, số lượng deepfake được phát hiện trên toàn thế giới đã tăng gấp 10 lần từ năm 2022 đến năm 2023 [12]. Các biện pháp bảo mật tiền điện tử trước đây đã hạn chế tác động đến ngành công nghiệp, nhưng tình hình có thể thay đổi đáng kể vào năm 2024 (Hình 17).
Điều này cho thấy rằng thiệt hại từ lừa đảo, gian lận và giả mạo có thể lên tới 13,40 tỷ USD, tương đương với tổng thiệt hại vào năm 2022 từ các hoạt động lừa đảo liên quan đến deepfake trong lĩnh vực tiền điện tử (13,81 tỷ USD).
Dự đoán thiệt hại từ gian lận danh tính và mạo danh sẽ tăng gấp 2,26 lần so với năm trước, đạt 3,57 tỷ USD so với 1,57 tỷ USD (Hình 18). Bên cạnh đó, thiệt hại từ thao túng và khai thác thị trường sẽ tăng 0,69 tỷ USD so với 2022 và 2023.
Kết luận
Giai đoạn được phân tích ghi nhận xu hướng tăng về khối lượng thiệt hại do lừa đảo tiền điện tử gây ra, với tổng giá trị 79,1 tỷ USD. Đồng thời, các tội phạm liên quan đến deepfake gia tăng đáng kể, với tổng thiệt hại đạt 6,28 tỷ USD vào Quý 1 năm 2024, gần một nửa con số cho cả năm 2022 (13,81 tỷ USD). Phân tích hàng quý về những thay đổi trong số lượng thiệt hại cho thấy xu hướng tăng dần với những biến động (Hình 2 và Hình 3).
Việc điều chỉnh khung pháp lý và nâng cao năng lực của các công ty trong ngành là điều cần thiết để ngăn chặn xu hướng này. Tuy nhiên, hợp tác quốc tế là cách duy nhất để mang lại sự thay đổi đáng kể. Nếu không, chúng ta có khả năng sẽ chứng kiến sự dịch chuyển về mặt địa lý của các nạn nhân, vì các hoạt động bất hợp pháp có thể dễ dàng di chuyển từ quốc gia này sang quốc gia khác.
Nếu không có các biện pháp hiệu quả, tỷ lệ tội phạm deepfake trong lĩnh vực tiền điện tử có thể đạt 70% vào đầu năm 2026 (Hình 22). Một số yếu tố góp phần vào xu hướng đáng lo ngại này:
● Tiến bộ trong công nghệ deepfake;
● Sự xuất hiện của phương pháp mới để mở rộng quy mô tội phạm sử dụng danh tính giả;
● Biến động thị trường, cả tăng và giảm;
● Nhà đầu tư tiền điện tử đưa ra quyết định nhanh chóng;
● Sự phát triển không ngừng của tấn công phi kỹ thuật;
● Tầm ảnh hưởng của mạng xã hội gia tăng.
Tâm lý thị trường, được phản ánh qua khẩu vị rủi ro của các nhà đầu tư, gây ra rủi ro đáng kể cho những người tiếp nhận thông tin chưa được xác minh một cách thiếu thận trọng (Hình 10 và Hình 11). Việc phát triển các kỹ thuật mới để xác định ảnh, video và tài liệu âm thanh giả mạo có thể giúp giảm thiểu thiệt hại đến từ lừa đảo sử dụng deepfake trong giai đoạn thị trường tăng giá. Các phương pháp nhận dạng dễ truy cập sẽ đóng vai trò quan trọng, vì nạn nhân của các vụ lừa đảo không chỉ có tập đoàn fintech lớn mà còn cả cá nhân có mức độ giàu có và nhận thức khác nhau về công nghệ blockchain.
Tỷ lệ thiệt hại đến từ công nghệ deepfake cho thấy rằng hầu hết các vụ lừa đảo tiền điện tử có thể tận dụng công nghệ này ở một mức độ nào đó. (Hình 4 và Hình 8). Nhóm tội phạm tin tức giả gây thiệt hại lớn nhất bao gồm các vụ lừa đảo, gây quỹ trái phép, trọng tài giả mạo, tấn công phi kỹ thuật, tung tin sai lệch và thông báo giả mạo (Hình 12). Nếu không có biện pháp đối phó phù hợp, 2024 có thể chứng kiến một kỷ lục mới về các vụ lừa đảo sử dụng deepfake, có khả năng vượt qua tổng thiệt hại của năm 2022 và 2023 (Hình 17).
Nghiên cứu sâu hơn
Một phân tích chuyên sâu về sự phân bố địa lý của các nạn nhân bị ảnh hưởng bởi các hoạt động bất hợp pháp sử dụng kỹ thuật deepfake trong lĩnh vực tiền điện tử có thể tiết lộ những lỗ hổng pháp lý ở một vài quốc gia. Hơn nữa, nó có thể giúp làm sáng tỏ các chiến lược để từ đó giảm thiểu tác động của công nghệ này đối với sự an tâm và ổn định tài chính của người dân tại những khu vực này. Mối tương quan giữa các số liệu này có thể được thể hiện thông qua việc đánh giá hậu quả của sự gia tăng trong các hoạt động lừa đảo liên quan đến hình ảnh, video, tài liệu âm thanh giả mạo đối với tâm lý của nhà đầu tư và các doanh nghiệp blockchain. Những thông tin này có thể tạo cơ sở vững chắc để phân bổ thêm nguồn tài trợ nhằm phát triển các biện pháp đối phó. Bên cạnh đó, việc thu thập và phân tích dữ liệu về nhận thức của người dùng đối với các phương pháp phát hiện và chống lừa đảo thông qua giả mạo kỹ thuật số có thể làm rõ các lỗ hổng mà những kẻ tấn công lỗ hổng, từ đó đưa ra các biện pháp đối phó để ngăn chặn những nỗ lực tống tiền.