Trong thử nghiệm công nghệ nhận dạng khuôn mặt ở siêu thị Rotorua, một bà mẹ người Māori đã bị nhầm lẫn là người với cáo buộc trộm cắp trước đó và đã bị cấm cửa tại đây. Sự nhầm lẫn này khiến bà cảm thấy bị phân biệt chủng tộc và xấu hổ, nhất là vào đúng ngày sinh nhật của mình.
Siêu thị New World Westend đã thừa nhận lỗi sai này và cam kết sẽ gửi lời xin lỗi đến bà.
Cửa hàng này là một trong chuối 25 siêu thị thuộc hệ thống Foodstuffs ở đảo Bắc nơi đang diễn ra chương trình thử nghiệm công nghệ nhận dạng khuôn mặt kéo dài sáu tháng, dưới sự giám sát của Privacy Commissioner.
Công nghệ này hoạt động bằng cách quét khuôn mặt khách hàng và so sánh chúng với cơ sở dữ liệu về các đối tượng phạm nhân hoặc nghi phạm mà siêu thị đã lưu trữ.
Te Ani Solomon đã sống và làm việc tại Rotorua 12 năm qua, là khách hàng thường xuyên của New World. Bà kể lại vào tối ngày 2 tháng 4, ngày sinh nhật lần thứ 47 của bà, bà và con trai đã ghé siêu thị mua sườn để ăn cùng cơm chiên họ đã mua từ một tiệm đồ ăn Trung Quốc.
Bà đã bị hai nhân viên nam tiếp cận ở khu vực thịt, và một trong số họ đã tiếp cận bà và nói to: "Bà đã bị cấm vào đây và cần phải rời đi ngay."
Bà Solomon đã rất sốc và khẳng định với họ rằng họ đã nhận nhầm người, vì bà chưa từng bị cấm vào bất cứ đâu trong đời. Mặc dù đã cung cấp giấy tờ tùy thân có ảnh, những nhân viên này vẫn khăng khăng yêu cầu bà phải rời đi.
Khi bà đưa cho họ ba loại giấy tờ tùy thân, bà nhận thấy họ đang xem hình ảnh một phụ nữ Māori đội mũ trên điện thoại. Solomon đã nói với họ rằng đó không phải là bà và phản đối việc họ kết luận chỉ vì bà da đen và đội mũ.
Bà đã tức giận khi họ tiếp tục nghi ngờ về danh tính của mình và đã chỉ trích họ vì đã làm bà xấu hổ và gán cho bà cái mác kẻ trộm.
Cuộc tranh cãi kéo dài khoảng 10 phút trước khi bà và con trai rời khỏi cửa hàng mà không mua được thịt sườn. Bà đã bật khóc nức nở trong bãi đậu xe.
Bà Solomon cảm thấy bất lực và cho rằng sự việc này đã phá hỏng ngày sinh nhật vốn dĩ tuyệt vời của mình.
Bà hiểu rằng siêu thị thường xuyên phải đối mặt với tình trạng mất mát do trộm cắp, nhưng bà tin rằng không nên có bất cứ ai phải chịu đựng sự đe dọa và thiếu tôn trọng như thế.
Solomon không hề biết rằng cửa hàng đang tiến hành thử nghiệm nhận diện khuôn mặt và bà không muốn ai khác phải trải qua điều tương tự.
Bà cảm thấy mình đã bị phân biệt chủng tộc bởi những nhân viên nam và mô tả hành vi của họ là không thể chấp nhận được.
Bà cũng lo lắng rằng dù nhân viên đã được đào tạo cho thử nghiệm, họ vẫn mắc sai lầm. Nó khiến bà cảm thấy mình đang bị đe dọa mọi nơi bà đi, điều này rất đáng sợ.
Sau sự cố, siêu thị đã liên lạc với bà để sắp xếp một cuộc gặp mặt.
Một phát ngôn viên của Foodstuffs đã thừa nhận rằng vào ngày 2 tháng 4, một quản lý và đồng nghiệp đã tiếp cận một khách hàng họ tưởng là đã từng phạm tội tại cửa hàng. Đây là một sai sót từ phía nhân viên. Khi khách hàng bị tiếp cận, họ đã rất bức xúc, điều mà siêu thị hoàn toàn thông cảm và sẽ chịu trách nhiệm giải quyết.
Trước khi phản ứng với cảnh báo từ hệ thống nhận dạng khuôn mặt, hai nhân viên được đào tạo lẽ ra phải xác nhận hình ảnh trùng khớp hay không, có phải là hình ảnh của người đã được đăng ký trong hệ thống hay không. Trong trường hợp này, nhân viên không đủ thận trọng và đã mắc sai lầm.
Ưu tiên hàng đầu của siêu thị là an toàn của khách hàng và nhân viên, đặc biệt trong bối cảnh tội phạm bán lẻ ngày càng nghiêm trọng tại New World Westend, tính cả vụ tấn công gần đây khiến một quản lý phải nhập viện. Trong năm nay, siêu thị đã ghi nhận hơn 100 vụ vi phạm và cấm túc hơn 250 cá nhân mua sắm tại cửa hàng.
Michael Webster của Privacy Commissioner đã khởi xướng một cuộc điều tra vào tuần trước, nhằm đánh giá liệu thử nghiệm nhận dạng khuôn mặt của Foodstuffs có tuân thủ luật quyền riêng tư và có hiệu quả trong việc giảm bớt hành vi phạm tội tại các siêu thị hay không.
Một phát ngôn viên của văn phòng Ủy viên bày tỏ lo ngại về độ chính xác của công nghệ nhận dạng khuôn mặt, cho rằng nó chưa được chứng minh là công cụ hiệu quả để ngăn chặn hành vi xấu trong siêu thị.
Các nghiên cứu toàn cầu về phần mềm nhận dạng khuôn mặt cho thấy người da màu, đặc biệt là phụ nữ da màu, thường xuyên bị nhận dạng sai lầm nhiều hơn.
Phần mềm này cũng không được huấn luyện dựa trên dân số của New Zealand, điều này làm tăng nguy cơ nhận dạng sai và có thể dẫn đến việc người dân bị cáo buộc oan sai hoặc bị cấm vào siêu thị một cách không công bằng.
Jon Duffy, Giám đốc điều hành của Consumer New Zealand, đã chỉ trích việc sử dụng công nghệ này là quá xâm phạm đến quyền riêng tư, giống như dùng dao mổ trâu để giết gà.
Ông cũng bày tỏ lo ngại về độ tin cậy của công nghệ này và hậu quả của việc phân biệt đối xử với một số nhóm chủng tộc, nhất là khi đào tạo nhận dạng được thực hiện ở nước ngoài, có thể làm giảm khả năng phân biệt chính xác các cá nhân là người Māori và Pasifika.
Ông Duffy nhấn mạnh rằng việc bị cáo buộc phạm tội khi đi mua sắm là điều đáng xấu hổ và đáng sợ, và không phải là điều mà xã hội nên chấp nhận mạo hiểm.
Theo nzherald.co.nz - Tam Nguyen
