| Kẻ thủ ác đã chuẩn bị rất kỹ lưỡng để vụ việc xuất hiện trên tất cả các mạng xã hội lớn, có thể được chia sẻ nhiều nhất. |
Facebook cho biết họ đã chặn khoảng 1,2 triệu bản sao trên nền tảng của mình ngay khi chúng còn chưa hiện lên cho người dùng. Tuy nhiên vẫn còn tới 300.000 bản sao khác lọt khỏi bộ lọc và về sau mới bị xóa. Vào giai đoạn cao điểm, cứ 1 giây lại có 1 video được tải lên, theo lời kể của Giám đốc sản phẩm YouTube Neal Mohan.
Trong vụ việc này, sự quyết tâm của con người đã vượt qua máy móc, và hậu quả là mọi người trên khắp thế giới phải xem hình ảnh dã man.
Washington Post.
Cách hoạt động của những bộ lọc chạy bằng AI của YouTube là ban đầu chúng phải “học” để nhận biết với dữ liệu sẵn có, như các khẩu hiệu của khủng bố hay phim khiêu dâm trẻ em. Nếu sau đó phát hiện các video có nội dung tương tự, chúng có thể nhận biết và loại bổ ngay.
Tuy nhiên với những clip chưa bao giờ thấy, các bộ lọc AI sẽ rất vất vả nhận biết. Đó là chưa kể những người tải clip lên còn có thể thực hiện một số thao tác đánh lừa bộ lọc như thay đổi kích thước, tốc độ clip hoặc lật ngược clip lại.
“Việc chặn video như vậy giống như chơi trò đập chuột chũi. Nhiều người rất giỏi những trò như thế này. Họ sẽ tìm ra cách để vượt qua bộ lọc”, Rasty Turek, CEO của công ty cung cấp công nghệ nhận biết bản quyền Pex chia sẻ.
Facebook, YouTube từng phải ra điều trần trước quốc hội Mỹ về vấn đề bộ lọc video bạo lực, kinh dị. Họ đã hứa sẽ cải thiện bộ lọc, nhưng cuối cùng vẫn chưa thể đối phó những video livestream như vụ việc vừa qua.
.jpg) |
| Facebook đã xóa ngay lập tức hơn 1 triệu video về vụ xả súng, nhưng vẫn còn hàng trăm nghìn video tồn tại đủ để người khác xem được. Ảnh: Mashable. |
Không dừng ở trách nhiệm khi vụ việc xảy ra, mạng xã hội đúng ra đã có thể nhận biết những vấn đề của tên Tarrant từ trước đó. Hai ngày trước vụ xả súng, hắn đăng một loạt ảnh súng đạn lên Twitter đính kèm tên của những kẻ giết người hàng loạt. Hắn cũng thường xuyên nhắc tới những câu khẩu hiệu đề cao người da trắng thượng đẳng hay những dấu hiệu của phát xít.
Trước đó nhiều tuần, hắn đã đăng tải những video đầy tính phân biệt chủng tộc lên Twitter. Bản thông báo dài 87 trang cũng được đăng lên Twitter nhiều giờ trước khi vụ xả súng diễn ra. Không một hành động nào trong số này được nhận biết là có vấn đề. Tài khoản Twitter của kẻ giết người vẫn còn tồn tại tới sau vụ xả súng mới bị xóa.
Giới hạn của tự do và kiểm soát
Nếu như Tarrant là một người Mỹ, tài khoản Twitter của hắn sẽ được bảo vệ bởi quyền tự do ngôn luận trong hiến pháp. Dù vậy, những bức ảnh súng đạn của hắn có thể là đủ khiến cơ quan bảo vệ pháp luật để ý.
“Nếu một kẻ đăng ảnh súng, đạn với tên của những tên giết người hàng loạt đính kèm, Twitter cần phải kiểm tra xem hắn viết về những gì và báo với cơ quan bảo vệ pháp luật”, Robert Evans, nhà báo tại Bellingcat chia sẻ.
Sau vụ tấn công, Twitter đã xóa tài khoản của Tarrant, nhưng nhiều người dùng YouTube đã đăng tải lại những hình ảnh, thông báo và cả video truyền trực tiếp của hắn. Đến lúc này, một nhà mạng đã phải can thiệp. Vodafone New Zealand đã chặn các kết nối tới các website ủng hộ thuyết da trắng thượng đẳng để tránh sự lan truyền.
“Đây là hành động chưa từng có. Tuy nhiên Vodafone không bao giờ bỏ qua những hành động khủng bố”, ông Jason Paris, CEO của Fodafone New Zealand cho biết.
.jpg) |
| Thủ tướng New Zealand, bà Jacinda Ardern đã lên tiếng chỉ trích Facebook trước quốc hội nước này vì thiếu trách nhiệm trong vụ việc vừa qua. Ảnh: Getty. |
Những nền dân chủ trên thế giới đều không muốn can thiệp quá sâu vào nội dung trên mạng, bởi họ lo sợ kiểm soát thái quá có thể khiến đất nước giống như Trung Quốc. Dù vậy, vẫn có những giới hạn. Bộ Nội vụ New Zealand cho biết chia sẻ video vụ xả súng ngày 15/3 là phạm tội. Ngày 19/3, 1 thanh niên 18 tuổi đã bị bắt tại New Zealand vì chia sẻ video này.
Sau vụ xả súng, nhiều nhà làm luật đã lên tiếng về việc kiểm soát các công ty công nghệ, để họ kiểm soát lại nội dung được chia sẻ trên mạng xã hội.
“Dù mục đích là để bảo vệ công dân khỏi những điều xấu trên mạng chứ không phải để kiểm soát, thì những người theo trường phái tiến bộ sẽ rất khó khăn để cân bằng giữa tự do và lựa chọn cắt đức các dịch vụ như YouTube, Facebook”, ông Ari Ezra Waldman, giáo sư về luật công nghệ tại đại học luật New York cho biết.
Tại chính nước Mỹ, những điều luật về kiểm soát nội dung vẫn chưa được thông qua. Hiện tại, điều luật duy nhất bắt các mạng xã hội chịu trách nhiệm về nội dung chia sẻ trên mạng là liên quan đến các nội dung về mua bán, trao đổi nô lệ tình dục.
.JPG) |
| Người đứng đầu ủy ban an ninh nội địa của hạ viện Mỹ, ông Bennie Thompson đã yêu cầu Facebook, YouTube điều trần trước hạ viện về các hành động của họ sau vụ việc ở New Zealand. Ảnh: Getty. |
Những gã khổng lồ công nghệ Mỹ, do vậy, còn gặp khó khăn nhiều hơn ở nước ngoài. Năm 2018, Liên minh châu Âu thông qua đạo luật GDPR, yêu cầu các công ty phải tôn trọng dữ liệu riêng tư của người dùng. Những nhà làm luật châu Âu cũng đã nhắc tới việc kiểm soát về nội dung sau sự việc ở New Zealand.
“Hôm nay, những nền tảng mạng xã hội đã mất kiểm soát. Họ trở thành nạn nhân của một vụ tẩn công khủng bố tệ hại, nhưng không cho thấy khả năng và trách nhiệm. Chúng ta không thể tiếp tục thế này. Hôm nay, chúng ta phải giành lại sự kiểm soát từ những kẻ đầu sỏ thiếu trách nhiệm ở thung lũng Silicon”, ông Tom Watson, phó lãnh đạo đảng Lao động của Anh bày tỏ.
“Vào thời điểm nào đó, chúng ta buộc phải kiểm soát. Trách nhiệm của mỗi chính phủ là bảo vệ công dân, và nếu chúng tôi thấy anh là một mối nguy, chúng tôi sẽ kiểm soát”, ông Frans Timmermans, phó chủ tịch liên minh châu Âu cũng nêu quan điểm tương tự tại Diễn đàn chính sách thế giới, ngày 18/3.
Tại New Zealand, thủ tướng Jacinda Ardern cũng chỉ trích Facebook trước quốc hội vào ngày 19/3.
“Họ là nhà xuất bản chứ không chỉ là đơn vị trung gian. Không thể có chuyện luôn được hưởng lợi mà không phải chịu trách nhiệm gì”, bà Ardern cho biết.
.JPG) |
| Có lẽ Facebook, YouTube chỉ cảm thấy sức ép khi các hãng rút quảng cáo, như P&G và Disney đã làm với YouTube. Ảnh: Getty. |
Dù vậy, sức ép lớn nhất đối với những gã khổng lồ công nghệ có thể đến từ đối tác. Tại Mỹ, những công ty như Proter & Gamble hay Walt Disney chi hàng trăm triệu USD mỗi năm cho YouTube. Họ đều đã cắt bớt hợp đồng quảng cáo khi những nội dung khủng bố xuất hiện trên nền tảng này.
“Những công ty này đều hoạt động với mục đích lớn nhất là lợi nhuận. Thuật toán của họ không được tối ưu để cắt giảm nội dung độc hại. Lợi nhuận là trước tiên”, ông Henry Fernandez, nhà nghiên cứu tại Center for American Progress chia sẻ.
“Khi những người trẻ tuổi hơn được bầu lên, họ sẽ sử dụng mạng xã hội thường xuyên như một kênh giao tiếp. Tôi hy vọng lúc đó họ sẽ hiểu được sâu sắc hơn về cách sử dụng luật pháp để kiểm soát mạng xã hội”, ông Fernandez nói.
Nhưng đến lúc đó, mạng xã hội sẽ làm gì để tránh xảy ra thảm họa tiếp theo?
Momo xuất hiện trong video hoạt hình YouTube, dọa giết người xem Thử thách Momo khiến trẻ em có nguy cơ tự sát vừa bị phát hiện ẩn chứa bên trong các video tưởng chừng vô hại trên YouTube. Momo xuất hiện ở phút 01:49.
">