ByteDance ra mắt mô hình deepfake “chân thực nhất cho đến nay”
VOV.VN - Khả năng tạo video giả về khuôn mặt con người (deepfake) đã lên một tầm cao mới thông qua sản phẩm trí tuệ nhân tạo vừa được ByteDance giới thiệu.
Công ty mẹ của TikTok, ByteDance, vừa giới thiệu mô hình AI mới có tên OmniHuman-1, có khả năng sản xuất video deepfake gần như không thể phân biệt với video thật đối với người xem thông thường.
OmniHuman-1 có thể tạo ra các video giả mạo chỉ từ một bức ảnh và một đoạn âm thanh. Người dùng có thể điều chỉnh các yếu tố như tỷ lệ khung hình và cử động cơ thể. Hệ thống này thậm chí có khả năng chỉnh sửa các video hiện có, thay đổi chuyển động và cử chỉ một cách chân thực đến rùng rợn. Tuy nhiên, không phải lúc nào kết quả cũng hoàn hảo khi một số tư thế có thể trông hơi kỳ quặc, như khi một nhân vật cầm ly rượu vang.
Dù vậy, chất lượng tổng thể của video do OmniHuman-1 tạo ra vẫn vượt trội hơn so với các công nghệ deepfake trước đây. Hệ thống này đã được đào tạo trên 18.700 giờ dữ liệu video, sử dụng phương pháp “omni-conditions” cho phép nó học từ nhiều nguồn đầu vào như văn bản, âm thanh và tư thế cơ thể cùng một lúc. Các nhà nghiên cứu của ByteDance cho biết dữ liệu đào tạo phong phú này giúp AI “giảm đáng kể tình trạng lãng phí dữ liệu” so với các mô hình deepfake cũ.
Mối nguy hại từ mô hình deepfake của ByteDance
Tuy nhiên, sự phát triển này cũng đặt ra nhiều lo ngại. Deepfake đã được sử dụng trong các chiến dịch thông tin sai lệch, gian lận và nhiều mục đích xấu khác trong những năm qua. Trong bối cảnh bầu cử năm 2024, đã có nhiều vụ việc liên quan đến việc phát tán âm thanh và video deepfake nhằm đánh lừa cử tri. Năm ngoái, các vụ lừa đảo tài chính liên quan đến deepfake đã khiến hàng tỷ USD bị thiệt hại, trong đó có một trường hợp nổi bật khi một kẻ lừa đảo sử dụng AI để giả mạo Brad Pitt để lừa một phụ nữ chuyển 850.000 USD.
Trước những rủi ro này, hàng trăm chuyên gia về đạo đức AI đã kêu gọi ban hành các quy định về deepfake. Một số tiểu bang của Mỹ đã thông qua luật chống lại deepfake độc hại, nhưng vẫn chưa có luật liên bang bao quát. California đang xem xét một đạo luật cho phép các thẩm phán yêu cầu gỡ bỏ deepfake và áp dụng hình phạt cho những người đăng tải chúng, nhưng dự luật này vẫn đang bị đình trệ.
Hiện tại, ByteDance chưa phát hành OmniHuman-1 cho công chúng, tuy nhiên thông tin chi tiết về mô hình này đã được công bố trong một bài báo chuyên ngành.
Các “ông lớn” công nghệ bắt tay chống thông tin giả mạo do Deepfake
VOV.VN - Các “ông lớn” công nghệ, trong đó có Meta, Microsoft, Google và Open AI đang đàm phán 1 Hiệp ước toàn cầu, nhằm ngăn chặn các hành vi lừa đảo thông qua ứng dụng Deepfake.
