Chính quyền Trump cần một AI phân biệt chủng tộc để thi hành “Sáng kiến Giám định thắt chặt”

Chính quyền của Trump ngày càng lộ rõ sự thiếu hiểu biết của mình về công nghệ, hoặc thậm chí có thể sợ và ghét nó.  Để chuẩn bị cho chiến dịch bãi bỏ tính trung lập và nhiệm vụ xây dựng AI cho “Sáng kiến Giám định thắt chặt” dường như làm ta tin vào bất cứ nhận định nào về việc chúng ta đang được dẫn dắt bởi “Những người lạc hậu (Luddites)”.

Vào tháng sáu, Sở Di trú và Hải quan Hoa Kỳ (U.S. Immigration and Customs Enforcement – ICE) đã gửi đi một bức thư mô tả chi tiết sáng kiến “tìm kiếm một nhà cung cấp dịch vụ thỏa thuận để cho ra một hợp đồng giám định bao quát mà có thể tự động hóa, tập trung và định dạng quá trình giám định thủ công hiện tại đồng thời cũng đưa ra quyết định rằng dữ liệu thu được có sử dụng được không thông qua tự động hóa”.

Theo như lá thư, phương pháp hiện tại mà ICE buộc phải sử dụng không cung cấp đủ “các thông tin có giá trị hữu dụng cho các cuộc điều tra sau này hoặc hỗ trợ bất kì hàng động nào của ICE hoặc người ủy quyền của Hoa Kì nào trong các vấn đề về nhập cư hoặc tòa án liên bang.

Nói ngắn gọn, người ở ICE mong rằng một người nào đó trong ngành Công nghệ thông tin có thể tạo ra một hệ thống machine learning để tra ra được các thông tin có thể dùng để cho phép hoặc từ chối nhập cứ của di dân: một quan điểm lệch lạc hết sức điển hình về AI.

Nỗ lực này sẽ phải bao gồm một mạng lưới học thuật chuyên sâu để có thể tìm ra tương quan giữa các bộ dữ liệu khác nhau. Để có thể đào tạo được hệ thống như vậy, đó có thể là một cơ hội tốt để DHS hoặc ICE đặt ra một mục tiêu cụ thể – một số lượng người mục tiêu ở các khu vực mà họ muốn tiến hành mở rộng “giám định thắt chặt”.

Một nhóm 54 nhà khoa học và kĩ sư từ nhiều ngành ngày nay đã gửi đi một lá đơn khác đến Bộ An ninh Quốc gia khẩn cầu bộ loại bỏ AI ra khỏi kế hoạch kiểm định nhập cư của họ. Trong thư hội đồng đã nhấn mạnh:

“Đơn giản là, không có phương pháp dựa trên máy tính nào có thể cung cấp được sự đánh giá đáng tin hoặc khách quan được như cái mà ICE tìm kiếm để đánh giá.”

Đối với kiến thức hiện tại của chúng ta, không một máy móc nào có thể xác định được người nào có vẻ có như có xu hướng phạm tội, hay một AI nào có thể xác định được ý định của con người thông qua việc thu thập các dữ liệu trên social media.

Bộ phim “Minority Report” vẫn chỉ là một kiệt tác viễn tưởng

Trên thực tế, bài “Machine Bias” của ProPublica đã đạt giải Pulitzer, có giải thích:

“Dọc xuyên đất nước có sử dụng phần mềm để dự đoán các loại tội phạm trong tương lai. Và nó có xu hướng kì thị đối với người da đen.

Mọi thứ sẽ trở nên hợp lí nếu như hiểu rằng việc tạo nên một AI tương tự để xác định xem một người có được phép nhập cư vào một quốc gia thì chả khác gì mấy so với việc tạo nên một AI như vậy để xác định xem người Da đen có nên nhận những lời chỉ trích gay gắt hơn không.

Chúng tôi đã liên hệ với Liên đoàn Tự do Dân sự Mỹ (American Civil Liberties Union – ACLU) và họ có nhận định:

“ICE có chỉ ra rằng việc này sẽ dùng các phương pháp machine learning để xác định xem, có hay không việc một người có thể là một thành viên của xã hội hay đạt các tiêu chuẩn quốc gia, và việc họ có thể dính dáng đến “các tội hình sự hoặc khủng bố sau khi nhập cưu vào Hoa Kì”. Đầu tiên, chuyên gia đã nói rằng không có phương pháp dựa trên máy tính nào có thể cung cấp được sự đánh giá đáng tin về những đối tượng này. Thứ hai, sự giám sát các hành vi con người này trên internet và mạng xã hội có vẻ sẽ làm mọi người hoảng sợ về việc hạn chế các hoạt động của mình và từ đó cũng tại nên hiệu ứng không tốt lên việc tự do ngôn luận. Thứ ba, các chương trình và chính sách như đã được dùng để thực thi việc giám sát đã sử dụng các thuật ngữ mơ hồ tương tự liên quan đến khủng bố, dẫn đến việc phân biết đối xử và bất công đối với cộng đồng người đạo Hồi, Arab, Trung Đông và Nam Á. Ý tưởng này rõ ràng nhắm đến một các cá nhân cụ thể khi nó gắn liền với lời kêu gọi không ngừng của Tổng thống về “đơn căn cứ nhận dạng” và “giám định thắt chặt” trong khi liên tiếp lấy ví dụ về con người và tôn giáo đạo Hồi.

Từ những thông tin trên, chúng ta hoàn có thể thấy họ như những người “không não” khi rõ ràng cộng đồng công nghệ chắc chắn sẽ hợp tác đoàn kết chống lại kiểu ứng dụng AI này.

56 nhà khoa học và nghiên cứu đã kí vào lá đơn gửi đến DHS là một nhóm các tri thức và chuyên gia từ các công ty như Google và Microsoft.

Công ty IBM, có đại diện tham gia vào hội nghị hồi tháng 6 với các nhân viên chính phủ cũng với nhóm nhiều công ty khác, đã được nêu tên trên tờ Reuters ngày nay, nhưng khi 1 năm về trước phía công ty có trả lời với tờ The Hill rằng:

“Chúng tôi biết rõ về giá trị của mình. Chúng tôi rất phản đối nạn phân biết đối xử và sẽ không góp tay cản trở việc gia nhập của những người Mỹ-Hồi.”

Và một việc đáng quan tâm khác đó là khi CEO của IBM – Virginia Rometti đã góp công trong việc giải thể hội đồng các thủ lĩnh công nghệ của Trump. Trong lá thư gửi đến nhân viên của mình, cô ấy có viết:

“Chúng ta đã làm việc với tất cả các đời Tổng thống từ thời của Woodrow Wilson. Chúng ta đã kiên quyết không chia đảng phái – chúng ta không dính líu đến bất kì đảng phái chính trị nào. Và ta luôn tin tưởng rằng cuộc đối thoại đó là khách quan để tiến hành, đó là lý do tại sao tôi tham dự Diễn đàn của Tổng thống hồi đầu năm.

Thế nhưng, hội đồng này đã không còn phục vụ cái mục đích tốt đẹp đã đề ra trước đó nữa. Đầu ngày hôm nay tôi đã nói chuyện với các thành viên khác của Diễn đàn, và chúng tôi đã đồng ý giải thể hội đồng.”

Đây có thể là một nước đi an toàn khi IBM quyết định không dính líu đến việc này nữa.

Không nên có một công ty công nghệ nào nên phát triển hệ thống mà chuyên gia đã nhận định sẽ gây ra phân biết đối xử giữa người và người. Nó sẽ đi ngược lại với mục đích của nghiên cứu và tiến bộ khi ai đó sử dụng AI để cố ý làm lu mờ hoặc thậm chí vi phạm đến quyền dân chủ chảu con người, bất kể cho dù màu da hay đất nước xuất xứ của họ.

Chúng tôi có phỏng vấn đại diện của ACLU về những gì họ sẽ nói với công ty có ý định kí hợp đồng với chính phủ để tạo ra hệ thống AI phục vụ cho “Sáng kiến Giám định thắt chặt” và họ đã nói:

 “Chúng tôi mong các công ty hãy suy xét kĩ lưỡng về việc tham gia vào việc thi hàng này, kể cả khi họ muốn trở thành một phần của các nỗ lực mơ hồ về khoa học, đe dọa quyền căn bản của con người và dẫn đến đe dọa nhắm đến công đồng người nhập cư.”

Source: The Next Web