YouTube chính thức cho phép người dùng tạo deepfake AI của chính mình

YouTube đang thử nghiệm một công cụ mới cho phép người dùng tạo ra phiên bản deepfake AI của chính họ, nhưng chỉ dành cho một số nhóm người dùng cụ thể.

Nền tảng video thuộc sở hữu của Google đang tung ra một tính năng có tên là “Dream Screen”, cho phép người dùng tạo video và hình ảnh nền bằng AI. Một phần của tính năng này là công cụ “Dream Track”, cho phép người dùng tạo đoạn nhạc ngắn bằng giọng hát AI của các nghệ sĩ nổi tiếng.

Tuy nhiên, theo thông báo mới nhất, YouTube đang mở rộng thử nghiệm một công cụ khác cho phép người dùng tạo ra một phiên bản AI của chính họ. Công cụ này, hiện chưa có tên chính thức, sẽ cho phép một số người sáng tạo nội dung nhất định tạo ra mô hình AI mô phỏng hình ảnh và giọng nói của họ.

YouTube cho biết trong một bài đăng trên blog rằng họ đang hợp tác với một nhóm nhỏ các nhà sáng tạo để phát triển công cụ này. Mục tiêu là cho phép họ “kết nối với người hâm mộ ở quy mô lớn hơn” bằng cách tạo ra nội dung cá nhân hóa, chẳng hạn như chúc mừng sinh nhật hoặc trả lời bình luận, thông qua mô hình AI của chính họ.

YouTube muốn kiểm soát deepfake AI

Động thái này diễn ra trong bối cảnh công nghệ deepfake AI ngày càng trở nên phổ biến và dễ tiếp cận, dẫn đến nhiều lo ngại về việc sử dụng sai mục đích, như tạo ra nội dung khiêu dâm trái phép hoặc thông tin sai lệch.

YouTube dường như đang cố gắng kiểm soát xu hướng này bằng cách cung cấp một công cụ chính thức, được quản lý chặt chẽ. Công ty nhấn mạnh rằng họ sẽ yêu cầu sự đồng ý rõ ràng từ các nhà sáng tạo trước khi tạo mô hình AI của họ và sẽ triển khai các biện pháp bảo vệ.

“Chúng tôi đang tiếp cận vấn đề này một cách thận trọng,” YouTube viết. “Chúng tôi sẽ tiếp tục hợp tác với cộng đồng sáng tạo, các đối tác âm nhạc và các chuyên gia trong ngành để đảm bảo chúng tôi phát triển công nghệ này một cách có trách nhiệm.”

Hiện tại, chỉ một số ít người sáng tạo được mời tham gia thử nghiệm công cụ này. YouTube cho biết họ có kế hoạch mở rộng quyền truy cập cho nhiều người sáng tạo hơn trong tương lai.

Phản ứng từ cộng đồng

Thông báo này đã nhận được nhiều phản ứng trái chiều. Một số người hoan nghênh khả năng tương tác mới mẻ với người hâm mộ, trong khi những người khác bày tỏ lo ngại về hậu quả tiềm ẩn.

Trên mạng xã hội X (trước đây là Twitter), một số người dùng đã chỉ trích động thái này, cho rằng nó có thể làm trầm trọng thêm vấn đề thông tin sai lệch và đánh cắp danh tính. Một người dùng viết: “Đây có phải là một ý tưởng tồi không? Có vẻ như là một ý tưởng tồi.”

Trong khi đó, một số nhà sáng tạo tham gia thử nghiệm ban đầu tỏ ra lạc quan. Nhà sáng tạo Amber Jourdain cho biết cô “rất hào hứng được thử nghiệm các công cụ AI mới này và xem chúng có thể giúp tôi kết nối với khán giả của mình như thế nào.”

YouTube khẳng định họ sẽ tiếp tục cập nhật các chính sách và biện pháp bảo vệ khi công nghệ phát triển, đồng thời nhấn mạnh tầm quan trọng của việc ghi nhãn nội dung được tạo ra bởi AI một cách rõ ràng.