Một giám đốc công ty năng lượng tại Anh cứ tưởng mình đang nghe điện thoại với sếp của mình ở công ty mẹ có trụ sở tại Đức, qua đó ông đòi chuyển khoản hơn 200 ngàn Đô tới một tài khoản của bên thứ 3 tại Hungary. Thật ra đó là một kẻ lừa đảo, dùng công cụ AI Deepfake để giả giọng vị CEO ở Đức để chiếm đoạt tiền. Vừa rồi Euler Hermes Group, phía chịu trách nhiệm bảo hiểm cho công ty nói trên đã tiết lộ câu chuyện này cho Wall Street Journal, nhưng không đề cập cụ thể công ty nào.

Chuyên gia về lừa đảo của Euler Hermes, Rüdiger Kirsch nói với WSJ rằng vị giám đốc đen đủi nọ nghe được giọng từ phần mềm Deepfake tạo ra, với ngữ điệu tiếng Đức không khác gì của vị CEO cấp trên. Hắn gọi cho công ty ở Anh ba lần. Lần thứ nhất là đòi chuyển 220.000 Euro (243.000 USD) vào tài khoản một công ty ở Hungary. Thấy ngon ăn, hắn gọi lại nói rằng khoản tiền trên đã bị hoàn trả và đòi chuyển lại, rồi gọi thêm lần thứ ba để đòi thêm một khoản tiền khác. 

Dù vẫn dùng công cụ Deepfake, nhưng số điện thoại đến từ Áo và thông tin khoản tiền hoàn trả không hiện lên, nhờ đó công ty và vị giám đốc ở Anh nảy sinh nghi ngờ và không chấp nhận chuyển thêm tiền.

Khoản tiền 220.000 Euro nói trên sau khi được chuyển sang Hungary đã nhanh chóng được chuyển sang tài khoản ở Mexico, rồi chia nhỏ sang nhiều tài khoản ở nhiều nước khác nhau. Hiện vẫn chưa xác định được kẻ lừa đảo. Đây là lần đầu tiên Euler Hermes Group phải đối mặt với dạng lừa đảo công nghệ cao như thế này, và tỏ ra lo ngại rằng khi AI ngày càng hoàn thiện, chỉ cần vài giây giọng nói của một người, phần mềm cũng có thể tạo ra những câu nói với ngữ điệu và phát âm giống hệt như người thật, không thể phân biệt được.