26 nhà lập pháp bị trí tuệ nhân tạo đánh dấu là tội phạm

26 nhà lập pháp California bị nhận nhầm là tội phạm

Bức ảnh các nhà lập pháp California (Mỹ) được chạy qua chương trình nhận diện gương mặt để đối chiếu với cơ sở dữ liệu 25.000 tên tội phạm. Theàlậpphápbịtrítuệnhântạođánhdấulàtộiphạbảng xếp hạng vilicho Liên đoàn Tự do dân sự Mỹ (ACLU), chương trình đánh dấu 26 nhà lập pháp là tội phạm. ACLU công bố kết quả kiểm tra nhằm thúc đẩy thông qua dự luật cấm công nghệ nhận diện gương mặt trong camera cảnh sát.

Theo ông Phil Tang, một trong những người bị đánh dấu nhầm, thí nghiệm một lần nữa cho thấy phần mềm nhận diện gương mặt chưa sẵn sàng để sử dụng rộng rãi.

Vài năm gần đây, hệ thống nhận diện gương mặt trở nên phổ biến và được dùng tại sân bay, trường học, nhà ở, thậm chí cả rạp hát. Công nghệ cũng giúp nhân viên pha chế biết được ai đang đứng chờ tới lượt. Nó hoạt động bằng cách xác định gương mặt của mọi người từ video và ảnh, sau đó so sánh đặc điểm gương mặt với cơ sở dữ liệu.

Tuy nhiên, ACLU lo ngại công nghệ thể hiện sự thiên vị, không chính xác, đặc biệt đối với phụ nữ và người da màu.

Ông Ting cùng với ACLU đã đồng tài trợ cho AB 1215, dự luật cấm sử dụng nhận diện gương mặt và bất kỳ hệ thống giám sát sinh trắc học nào trên camera được cảnh sát mang theo. Hiện nay, chưa có thành phố nào tại California áp dụng công nghệ này trên camera của cảnh sát.  

Theo ACLU, một nửa các nhà lập pháp bị nhầm là tội phạm là người da màu. Năm 2018, tổ chức cũng thực hiện bài kiểm tra tương tự và 28 thành viên Quốc hội bị nhầm lẫn tương tự. Trong các kết quả này, họ phát hiện chương trình sai nhiều hơn đối với phụ nữ và người da màu.

Theo Matt Cagle, Luật sư tự do dân sự và công nghệ của ACLU, camera cảnh sát kích hoạt nhận diện gương mặt sẽ là thảm họa cho cộng đồng và quyền công dân. Ngay cả khi công nghệ chính xác, chúng vi phạm nghiêm trọng quyền công dân của người California.