Mạng xã hội X đã phải chặn tìm kiếm Taylor Swift sau khi những hình ảnh deepfake khiêu dâmcủa nữ ca sĩ lan truyền chóng mặt. Khi tìm kiếm về Taylor Swift trên nền tảng X,ẢnhAIkhiêudâmTaylorSwifttrànngậtrận đấu bundesliga người dùng sẽ nhìn thấy tin nhắn báo lỗi và đề nghị tải lại trrang. Joe Benarroch – Giám đốc vận hành kinh doanh của X – cho biết đây là hành động sơ bộ và thực hiện một cách thận trọng.

Hình ảnh khiêu dâm của Taylor Swiftdo AI tạo ra bắt đầu lan truyền trên X từ ngày 24/1, khiến người hâm mộ của nữ ca sĩ phải đăng hàng loạt ảnh thật của ngôi sao nhằm “dìm” ảnh deepfake. Họ cũng yêu cầu X mạnh tay hơn để xóa những bức ảnh này, đồng thời báo cáo những tài khoản chia sẻ ảnh giả mạo. Khẩu hiệu “protect Taylor Swift” (bảo vệ Taylor Swift) cũng lọt top xu hướng trên nền tảng.

Một ngày sau, những tài khoản bị báo cáo đã bị đình chỉ hoặc hạn chế, dù vậy vẫn dễ dàng tìm được ảnh nóng AI trên X.

Trong tuyên bố hồi cuối tuần, X khẳng định họ cấm chia sẻ hình ảnh do đồ họa tạo ra mà không có sự cho phép của chủ thể và áp dụng chính sách không khoan nhượng đối với những nội dung như vậy. Tuyên bố không nhắc đến tên của Swift.

“Đội ngũ của chúng tôi đang tích cực xóa bỏ tất cả những hình ảnh đã được xác định và có hành động thích hợp đối với những tài khoản đăng tải chúng. Chúng tôi sẽ giám sát chặt chẽ tình hình để bảo đảm bất kỳ vi phạm nào tiếp theo đều được xử lý ngay lập tức và nội dung bị gỡ bỏ”, X cho biết.

Những tiến bộ trong AI tạo sinh đã khiến việc làm giả hình ảnh khiêu dâm của người khác trở nên dễ dàng hơn. Với X, sau khi về tay Elon Musk năm 2022, nhiều quy định kiểm duyệt được nới lỏng, trong khi ông sa thải hàng nghìn nhân sự để ổn định tài chính.

Theo NBC News, không rõ những hình ảnh deepfake của Taylor Swift xuất phát từ đâu, nhưng chúng bị đóng dấu, thể hiện đến từ một trang web nổi tiếng với việc phát tán ảnh khiêu dâm giả của các ngôi sao. Website còn có một mục riêng dành cho AI deepfake. Những ảnh giả mạo của Swift được xem hơn 27 triệu lượt và được hơn 260.000 lượt thích sau 19 giờ đăng tải.

Sau sự cố, CEO Microsoft Satya Nadella kêu gọi đặt thêm hàng rào để quản lý AI. Trong cuộc phỏng vấn với NBC News, ông lập luận chúng ta phải có trách nhiệm giám sát công nghệ mới nổi này để sẽ có nhiều nội dung an toàn được sản xuất hơn.

Trả lời câu hỏi về deepfake của Swift, người đứng đầu Microsoft nói: "Đúng, chúng ta phải hành động. Tôi cho rằng tất cả chúng ta đều được hưởng lợi khi thế giới trực tuyến an toàn. Tôi không nghĩ mọi người sẽ mong muốn một thế giới trực tuyến hoàn toàn mất an toàn cho cả các nhà sáng tạo nội dung và người tiêu thụ nội dung. Vì thế, tôi nghĩ chúng ta cần phải hành động nhanh về vấn đề này".

Theo 404 Media, một nhóm chat trên Telegram cho biết đã dùng công cụ AI tạo sinh Designer của Microsoft để làm giả ảnh của Taylor. Ông Nadella không bình luận trực tiếp về thông tin của 404 Media, song trong tuyên bố gửi đến trang tin này, Microsoft chia sẻ đang điều tra báo cáo và sẽ có hành động phù hợp để xử lý.

Chính quyền Tổng thống Mỹ Joe Biden gọi việc lan truyền deepfake khiêu dâm của Taylor Swift là “đáng báo động” và kêu gọi các công ty mạng xã hội kiểm tra “vai trò quan trọng” của họ trong việc thực thi quy định nhằm ngăn chặn phát tán thông tin sai sự thật, hình ảnh nhạy cảm không có sự đồng thuận.

Vào tháng 10/2023, Tổng thống Biden đã ký một sắc lệnh hành pháp về AI tập trung vào việc quản lý công nghệ mới nổi và rủi ro của nó.

(Theo The Hill, WSJ)