Một startup về nhận dạng khuôn mặt đang được sử dụng bởi hàng trăm cơ quan hành pháp tại Mỹ nhằm giải quyết các vụ phạm tội, nhưng điều kỳ lạ là chẳng mấy ai nắm được thông tin về phần mềm này - kể cả cộng đồng hành pháp vốn đang sử dụng nó mỗi ngày!
Theo tờ The New York Times, phần mềm mang tên Clearview AI là sản phẩm cộng tác giữa Tôn Thất Hoàn - một kỹ sư phần mềm người Úc gốc Việt, chuyển đến Mỹ sống vào năm 2007, và Richard Schwartz, cựu phụ tá cho cựu thị trưởng New York City là Rudy Giuliani.
Cả hai gặp nhau tại Viện Manhattan, một viện chính sách bảo thủ. Kirenaga Partners, một công ty tư nhân nhỏ trụ sở tại New York, cũng là một trong những nhà đầu tư ban đầu vào Clearview AI. Và bản thân Clearview AI còn nhận được nguồn vốn từ nhà đầu tư mạo hiểm Peter Thiel - nhà đầu tư lớn đầu tiên của Facebook, hiện vẫn đang năm trong Ban giám đốc của công ty mạng xã hội này.
Tôn Thất Hoàn - đồng sáng lập Clearview AI
Khi một người dùng upload ảnh lên ứng dụng, vốn đang được sử dụng bởi hơn 600 cơ quan hành pháp, Clearview AI sẽ quét để tìm ảnh trùng khớp từ catalogue chứa hàng tỷ bức ảnh mà nó thu thập được từ các website mạng xã hội - tất nhiên, đây là hành vi vi phạm các điều khoản dịch vụ của các website bị thu thập ảnh. Sau đó, nó sẽ hiển thị các kết quả cho bất kỳ ai đang thực hiện câu lệnh tìm kiếm.
Clearview không tiết lộ những cơ quan hành pháp nào đang sử dụng công cụ của mình. Bên cạnh hàng trăm cơ quan hành pháp, công ty còn cấp giấy phép sử dụng phần mềm cho các công ty tư nhân khác. Nhưng theo bài báo điều tra của tờ The Times, cả các cơ quan hành pháp quốc gia và địa phương đều xác nhận đã và đang sử dụng phần mềm này để giúp giải quyết các vụ phạm pháp, từ ăn cắp vặt trong các cửa hàng, đến giết người. Các cơ quan hành pháp cho biết họ hầu như không biết ai đã phát triển Clearview AI, hay cách phần mềm này vận hành!
Facebook cho biết đang điều tra Clearview AI sau bài báo của The Times.
Tờ The Times tiết lộ rằng các nhà sáng lập của ứng dụng bán dịch vụ cho các cơ quan hành pháp với giá thấp nhất là 2.000 USD. Các nhà sáng lập dựa vào các quan chức hiện tại và đã về hưu thuộc đảng Cộng hòa để tiếp cận các cơ quan hành pháp, thuyết phục họ sử dụng dịch vụ với giá ưu đãi, hoặc trong một số trường hợp là sử dụng thử miễn phí.
Khi phân tích, người ta phát hieenj ra rằng mã lệnh của ứng dụng được thiết kế để hoạt động với công nghệ thực tại tăng cường, có nghĩa là ai đó mang các loại kính đặc biệt sẽ có thể sử dụng Clearview AI để ngay lập tức xác định các chi tiết phía trước mặt, bao gồm danh tính và địa chỉ của một người. Tôn Thất Hoàn nói rằng công ty của anh phát triển công nghệ thực tại tăng cường chỉ để thử nghiệm và không có kế hoạch tung ra nó thị trường.
Trong một tuyên bố của mình, người phát ngôn Facebook cho biết công ty đang điều tra Clearview AI.
"Thu thập thông tin Facebook hoặc đưa thông tin Facebook vào một danh mục là điều bị cấm bởi chính sách của chúng tôi, do đó chúng tôi đang đánh giá những khẳng định về công ty và sẽ đưa ra hành động hợp lý nếu phát hiện thấy họ đang vi phạm các quy tắc".
Người phát ngôn này không bình luận về khoản đầu tư của Thiel vào startup, thay vào đó ông trích lại một phát biểu từ người phát ngôn của Thiel:
"Vào năm 2017, Peter đã trao cho một nhà sáng lập trẻ tài năng 200.000 USD, mà 2 năm sau đó đã biến thành vốn cho Clearview AI" - Jeremiah Hall, người phát ngôn của Thiel, tiết lộ. "Đó là đóng góp duy nhất của Peter; ông ấy không tham gia vào công ty.
Thiel là người đã tài trợ cho vụ kiện của Hulk Hogan khiến Gawker phá sản. Thiel và Tôn Thất Hoàn đều phải nhận những đánh giá tiêu cực liên quan Gawker.
Peter Thiel, nhà đầu tư của Clearview AI
Người phát ngôn của các nền tảng truyền thông xã hội khác bị Clearview AI tận dụng, như Twitter, YouTube, Instagram, và Venmo xác nhận rằng việc thu thập hình ảnh trên các website này là vi phạm chính sách công ty. Twitter chia sẻ sâu hơn rằng đó là hành động ngược với chính sách sử dụng hình ảnh từ nền tảng cho nhận dạng khuôn mặt.
Khi tờ The Times yêu cầu một cơ quan hành pháp chạy hình ảnh của phóng viên trong phần mềm, các đại diện của Clearview AI - những người từng bỏ qua đề nghị cung cấp thông tin của cô phóng viên này - đã liên hệ với các cơ quan hành pháp để tìm hiểu xem có phải họ đang nói chuyện với giới truyền thông hay không.
Chính điều này khiến The Times đưa ra kết luận rằng công ty đã theo dõi phóng viên Kashmir Hill, và Clearview AI có thể thấy những thứ lực lượng hành pháp đang tìm kiếm, và khi nào họ từng tìm kiếm trước đây.
Những quan ngại liên quan công nghệ nhận dạng khuôn mặt từ lâu đã là trung tâm của nhiều vấn đề bảo mật và những cáo buộc về tính phân biệt chủng tộc tiềm ẩn trong công nghệ. Vào tháng 12/2019, một nghiên cứu do Viện Tiêu chuẩn và Công nghệ Quốc gia tiến hành đã phát hiện ra rằng công nghệ nhận dạng khuôn mặt có tính phân biệt chủng tộc, chủ yếu là bởi nó nhận dạng người không phải da trắng và nữ giới kém hơn so với số còn lại.
Vào thứ 4 vừa qua, Dân biểu Alexandria Ocasio-Cortez thuộc đảng Dân chủ đến từ New York, đã bày tỏ những lo sợ về công nghệ nhận dạng khuôn mặt trong một cuộc họp của Ủy ban giám sát và cải cách thượng viện.
"Chúng ta đang thấy những thứ như Black Mirror ngoài đời thực" - Ocasio-Cortez nói, đề cập đến series bom tấn của Anh trên Netflix với nội dung xoay quanh những khía cạnh điên rồ của công nghệ.
Dân biểu Alexandria Ocasio-Cortez
Mặc cho những quan ngại liên quan công nghệ nhận dạng khuôn mặt, các cơ quan hành pháp trên toàn nước Mỹ được cho là đã tiếp nhận công nghệ gây tranh cãi này, tuy nhiên họ không thường sử dụng nó công khai vì bản chất của quá trình điều tra.
Nhưng bên cạnh những nguy cơ và tranh cãi thường gặp với việc sử dụng công nghệ nhận dạng khuôn mặt, Clearview AI còn cho thấy những nguy cơ mới, khi mà các hình ảnh nhạy cảm có khả năng bị lực lượng hành pháp chia sẻ cho phần mềm mà chẳng biết công ty sẽ xử lý dữ liệu của nó như thế nào.
Tờ The Times cho biết, các cơ quan cảnh sát đã sử dụng đến công nghệ nhận dạng khuôn mặt trong nhiều thập kỷ qua, tuy nhiên những công cụ như Clearview AI lại cho phép tìm kiếm ngoài các cơ sở dữ liệu chính phủ, vốn từ lâu đã là một hạn chế đối với các phần mềm nhận dạng khuôn mặt của lực lượng hành pháp.
Clearview AI cho biết phần mềm của hãng có tỉ lệ hiệu quả khoảng 75%, nhưng The Times nói rằng không thể xác định được số lượng kết quả sai mà dịch vụ này đưa ra, bởi nó chưa được thử nghiệm bởi bất kỳ bên thứ ba nào.
Tham khảo: BusinessInsider
