Clip do kênh YouTube "Golpadak" đăng tải mở đầu với hình ảnh một người đàn ông mặc áo mưa màu vàng đứng trước cung điện Gyeongbokgung nói: “Mưa kinh khủng quá… Gyeongbokgung ngập hoàn toàn rồi.” Tiếp đó là cảnh người dân múc nước bằng xô và... một con hải cẩu trượt qua sân cung điện. Dù chi tiết có phần phi lý, đoạn video vẫn khiến nhiều người tin là thật do trùng thời điểm với đợt mưa kỷ lục tại Seoul.
Cảnh ngập lụt tại cung điện Gyeongbokgung được tạo nên từ AI. (Ảnh cắt từ Video, nguồn Youtube)
Video được xác nhận là sản phẩm từ Veo 3 – công cụ AI tạo video tiên tiến mới nhất của Google. Nó cho phép tạo hình ảnh sống động và lời thoại sát thực tế. Nhiều người bày tỏ sự phẫn nộ trước video này, cho rằng người tạo cần bị xử lý vì cố tình tung tin sai sự thật.
Hàng chục video giả tương tự về lũ lụt cũng xuất hiện trên YouTube, kéo theo phản ứng mạnh từ truyền thông và chuyên gia. Họ cảnh báo về việc công chúng đang dễ bị đánh lừa bởi các nội dung được tạo bằng AI – ngay cả khi chi tiết trong video có phần vô lý.
Đáng chú ý, trước đó một video giả mô phỏng dung nham tràn qua trung tâm Seoul cũng từng gây hiểu lầm cho người xem. Người tạo ra video, YouTuber “Ddalgak”, cho biết mục đích là châm biếm sự dễ dãi của người dùng mạng với nội dung trực tuyến. Anh cũng thừa nhận dùng Veo 3 để tạo ra video, lấy cảm hứng từ một vụ lừa đảo liên quan đến deepfake Elon Musk.
AI xuất hiện phổ biến trong đời sống tại Hàn Quốc. (Nguồn: Shutterstock)
Trước làn sóng deepfake lan rộng, Hàn Quốc đã ban hành “Đạo luật Cơ bản về AI”, có hiệu lực từ tháng 1/2026. Luật này bắt buộc tất cả video AI phải gắn watermark để người xem dễ nhận biết. Tuy vậy, giới chuyên môn lo ngại các watermark có thể bị xóa hoặc chỉnh sửa dễ dàng, khiến biện pháp này thiếu tính răn đe.
Ông Choi Byung-ho, chuyên gia tại Viện Nghiên cứu AI Đại học Korea, nhận định: “ Việc các hãng AI phát triển công nghệ giúp nhận diện nội dung giả sẽ giảm chi phí xã hội và hiệu quả hơn các biện pháp hành chính. ”
Không chỉ trong giải trí, deepfake đang trở thành công cụ cho các hành vi vi phạm: Từ tạo nội dung phản cảm không đồng thuận, lừa đảo tài chính, đến thao túng chính trị. Trong kỳ bầu cử Quốc hội năm ngoái, cơ quan bầu cử quốc gia đã phát hiện và xử lý hơn 120 hình ảnh và video AI giả mạo. Điều này dẫn đến yêu cầu công khai rõ ràng khi sử dụng AI trong nội dung tranh cử.