Công nghệ nhận dạng khuôn mặt – đã đến lúc cần có một chế tài nghiêm túc

Luật nhận dạng khuôn mặt hiệu quả sẽ phải giải quyết một số vấn đề cùng một lúc. Nhiều thuật toán nhận dạng khuôn mặt vẫn cho thấy tỷ lệ lỗi cao hơn cho người Mỹ gốc Phi, phụ nữ và thanh niên, thể hiện những thành kiến ​​xã hội kéo dài. Ngoài sự thiên vị, sức mạnh tuyệt đối của nhận dạng khuôn mặt như một công cụ giám sát đã khiến một số nhóm kêu gọi lệnh cấm sử dụng cảnh sát. Và giờ đây, công nghệ này có thể truy cập được với bất kỳ ai có tài khoản nhà phát triển trên đám mây, các vấn đề về quyền riêng tư cần phải được quan tâm hơn.

Điều đó đặt ra câu hỏi cho các nhà cải cách: làm thế nào chúng ta có thể xử lý những bất cập nhận diện khuôn mặt? Chúng tôi đặt câu hỏi cho năm nhân vật hàng đầu trên cả hai mặt của cuộc chiến chính sách.

Đã đến lúc quản lý nhận diện khuôn mặt

Alvaro Bedoya, giám đốc điều hành Trung tâm bảo mật và công nghệ tại Công ty Luật Georgetown - Dự án Sản phẩm vĩnh viễn của Trung tâm bao gồm hóa đơn mẫu để điều chỉnh nhận dạng khuôn mặt, tập trung vào việc hạn chế quyền truy cập của cảnh sát đối với giấy phép lái xe và cơ sở dữ liệu ảnh căn cước, cho biết:

Chúng tôi điều chỉnh quyền riêng tư bằng một số công nghệ nào khác. Chúng tôi cũng quản lý thẻ tín dụng, hồ sơ sức khỏe điện tử, thói quen sử dụng truyền hinh cáp, thói quen thuê video. Vì vậy, ý tưởng này thực chất là một công nghệ, chúng tôi không nên điều chỉnh vì không phù hợp với toàn bộ bối cảnh bảo mật của Hoa Kỳ. Không thể tranh luận với Quốc hội rằng “Ồ, đây là một công nghệ. Nó chỉ là những số 1 và số 0. Bạn không nên thực sự điều chỉnh nó. ”Và nó đã được quy định cho 1 trong số 8 người Mỹ. Ở Illinois và Texas, quy tắc là được phép. Vì vậy, có tiền lệ cho nó cả trong cách chúng tôi điều chỉnh quyền riêng tư thương mại trong quá khứ và cách chúng tôi đã điều chỉnh nhận diện khuôn mặt ngày hôm nay. Và tôi nghĩ rằng quy tắc đơn giản để nhận được sự cho phép của mọi người tạo ra rất nhiều ý nghĩa.

Ngoài ra, tôi muốn xem các quy tắc về thử nghiệm độ thiên vị và độ chính xác. Bạn có thể muốn bảo vệ trẻ em. Công nghệ này không nên dùng cho trẻ từ 18 tuổi trở xuống. Công nghệ có lẽ không nên sử dụng ở  các khu vực nhạy cảm như bệnh viện hoặc phòng khám hoặc trường học, nơi ngay cả khi có ai đó đồng ý, bạn vẫn không nên sử dụng nó.

Nhìn vào camera giám sát. Bạn thường không có camera giám sát trong phòng tắm. Bạn có thể sắm camera ở khắp cửa hàng ở lối vào, lối ra, trong lối đi, ở quầy thanh toán. Nhưng bạn không lắp trong phòng tắm bởi vì tất cả chúng ta đều hiểu rằng đó là ý tưởng tồi.

Brian Brackeen, Giám đốc điều hành của công ty nhận diện khuôn mặt Kairos, một người ủng hộ quy định kiểm soát.

Tôi không thể chờ đợi quy định. Chúng tôi là những người ủng hộ quy định, quay lại nhóm làm việc của NTIA. Cần có quy định trong không gian này, bao gồm thực thi pháp luật và thậm chí cả các công ty tư nhân trong các trường hợp sử dụng nhất định. Chúng tôi cũng không phản đối yêu cầu chấp thuận. Đặc biệt trong sử dụng khu vực tư nhân, có một mối quan hệ giữa khách hàng của chúng tôi và cá nhân, vì vậy họ sẽ có thể nhận được sự đồng ý. Trong trường hợp của chúng tôi, chúng tôi có rất nhiều khách hàng ngân hàng. Chúng tôi đang xác minh giao dịch bằng cách sử dụng khuôn mặt của khách hàng. Có một mối quan hệ rõ ràng ở đó, và mang lại giá trị cho khách hàng vì không phải là đối tượng gian lận. Vì vậy, đối với trường hợp của chúng tôi, không có gì ngạc nhiên khi nhận được sự đồng ý. Nhưng nếu là Facebook hoặc Amazon và bạn đang sử dụng công nghệ này cho chính phủ hoặc cố gắng lừa bịp từ những tấm ảnh đang có, đó lại là một điều khác. Và đó là lý do tại sao họ chống lại.

Những gì chúng ta cần là quá trình NTIA với một đe trên đầu. Chúng tôi cần phải nói, "Chúng tôi sẽ thực hiện quy định trong quý IV. Đây là quý đầu tiên, vì vậy bạn có một năm để cung cấp cho chúng tôi các phương pháp hay nhất. ”Vì vậy, hãy để mọi người trong phòng làm việc thông qua những vấn đề này với yêu cầu đó trên đầu của chúng tôi. Tôi nghĩ có sự đồng thuận của cả hai phía, đảng Cộng hòa và Dân chủ.

Evan Selinger, giáo sư triết học tại Viện Công nghệ Rochester. Cùng với giáo sư luật Woodrow Herzog, Selinger đã kêu gọi cấm hoàn toàn việc sử dụng nhận diện khuôn mặt, cả công cộng và tư nhân, vì lo ngại rằng công nghệ đang được chuẩn hóa.

Câu hỏi quan trọng cần đặt ra là: cần phải làm gì để phổ biến công nghệ nhận diện khuôn mặt? Câu trả lời là bình thường hóa. Giúp mọi người sử dụng công nghệ mọi lúc. Đừng chỉ làm cho họ cảm thấy thoải mái với công nghệ nhận dạng khuôn mặt, hãy hiện thực hóa mong muốn đó. Tạo thói quen khiến mọi người tin rằng họ không thể sống mà không có công nghệ nhận dạng khuôn mặt trong cuộc sống của họ. Đây là những gì mà phía người tiêu dùng của công nghệ nhận dạng khuôn mặt đang làm: làm cho nó có vẻ như không đáng kể và không đáng lo ngại. Bằng cách khiến mọi người nhìn thấy công nghệ nhận dạng khuôn mặt như không có gì đặc biệt, một lập luận về giá trị và rủi ro đang được thực hiện.

Benji Hutchinson, phó chủ tịch hoạt động liên bang tại NEC America. Một nhà cung cấp hàng đầu cho các hợp đồng nhận dạng khuôn mặt liên bang, NEC đã phản đối các cuộc gọi về các hạn chế liên bang về công nghệ này.

Chúng tôi không tin vào một lệnh cấm hoàn toàn về công nghệ, và chúng tôi không tin rằng có một nhu cầu khắt khe về pháp lý quá mức. Rất nhiều vị trí mà chúng ta đang thấy đến từ các công ty công nghệ mới đến không gian. Và tôi cho rằng những công ty lớn này có đôi chút khó khăn. Họ đang cố gắng làm tất cả những gì họ có thể làm để đảm bảo rằng họ không bị mất hợp đồng mà họ có và làm điều đúng đắn. Tôi không hoàn toàn sai lầm, nhưng tôi không nhất thiết phải đồng ý với cách tiếp cận này.

Mọi người quên đi những lợi ích. Đây là một công nghệ cực kỳ thành công được sử dụng để ngăn chặn các cuộc tấn công khủng bố. Nó đã được sử dụng để tống bọn tội phạm ra khỏi đường phố. Nó cho phép chúng tôi có chuyến đi không cần giấy tờ, không có giấy tờ khi chúng tôi đi qua các sân bay. Sẽ không còn cảnh xếp hàng dài chờ đợi. Nó làm cho cuộc sống của mọi người tốt hơn.

Cảnh sách có nên sử dụng công nghệ nhận dạng khuôn mặt

Kade Crockford, Giám đốc Chương trình Công nghệ Tự do tại ACLU Massachusetts. ACLU đã kêu gọi lệnh cấm sử dụng nhận diện khuôn mặt của chính phủ.

Mối quan tâm chính của chúng tôi là các chính sách ở Hoa Kỳ không cần giám sát hoặc trách nhiệm giải trình hiệu quả. Có một sự thiếu hụt thực sự của niềm tin. Và trong hệ sinh thái đó, thật khó để thấy được bất kỳ yêu cầu pháp lý nào có thể được áp dụng theo cách thực sự sẽ bảo vệ con người.

Nếu cảnh sát muốn nghe trộm, họ phải được sự chấp thuận của thẩm phán, là sự đảm bảo chắc chắn. Và họ lấy lệnh gọi cho một công ty điện thoại. Theo luật liên bang, công ty điện thoại không được phép tiết lộ thông tin nếu không có lệnh nghe lén của tòa án. Vì vậy, đó là một loại bảo vệ tích hợp sẵn. Công ty điện thoại có thể phải chịu trách nhiệm nếu họ cho phép cảnh sát nghe lén mà không có lệnh, và cơ sở hạ tầng thực sự tạo điều kiện cho việc giám sát không thuộc sở hữu của cơ quan thực thi pháp luật. Nó thuộc về bên thứ ba này, công ty điện thoại. Vì vậy, cần phải kiểm tra.

Chúng tôi không có hệ thống giám sát khuôn mặt song song. Những gì thực thi pháp luật muốn, và có vẻ như Amazon đang cố gắng thiết lập công nghệ này trong sở cảnh sát trên toàn quốc. Chúng tôi không có xã hội dân sự hoặc cơ sở hạ tầng của chính phủ để đảm bảo rằng thực thi pháp luật sẽ không lạm dụng điều đó.

Brackeen: Cảnh sát có cả câu hỏi và câu trả lời. Khi tôi đang làm các ứng dụng ngân hàng và thương mại, khách hàng của tôi không có cơ sở dữ liệu về ảnh của mọi người, vì vậy họ không thể chỉ đặt máy ảnh ở phía trước cửa hàng và biết mọi người đang đi qua. Nhưng nếu tôi là Thành phố Orlando và tôi có bằng lái xe của mọi người cộng với quyền truy cập vào cơ sở dữ liệu của FBI, thì tôi có thể đặt camera trên Main Street và biết mọi người đang đi bộ. Vì vậy, chính phủ có khả năng vượt xa những người khác.

Sau đó, có vấn đề thiên vị. Nếu bạn có một công cụ như một khẩu súng và tôi đã nói với bạn rằng khẩu súng chỉ dành cho phụ nữ, thì bạn sẽ không cho phép cảnh sát sử dụng nó, vì những lý do hiển nhiên. Các công cụ lập chính sách cần phải được công bằng trên tất cả mọi người và điều đó đúng với AI nói chung. Tôi muốn đến một nơi mà cảnh sát có thể sử dụng một công cụ như thế này và có được sự công bằng. Nhưng tôi vẫn không khuyến khích việc sử dụng đó.

Công nghệ nhận dạng khuôn mặt có thể xóa bỏ phân biệt chủng tộc

Bedoya: Ý tưởng rằng công nghệ này đang được sử dụng để bắt những tên trộm đồ khi nó không hoạt động hiệu quả với người trẻ hay với người Mỹ gốc Phi. Mỗi nhà nghiên cứu nhìn vào điều này thấy rằng có sự thiên vị của một số loại. Thật điên rồ trong bối cảnh thực thi pháp luật, nhưng nó vẫn còn khá điên rồ trong bối cảnh khu vực tư nhân. Vì vậy, đó là một điều quan trọng tôi muốn thấy.

Brackeen: Đây không phải là vấn đề khó hiểu. Đó là vấn đề về dữ liệu, không phải là vấn đề với công nghệ. Chúng tôi đang cập nhật các thuật toán của mình và chúng tôi có thể loại bỏ sai lệch, ít nhất là đến một điểm. Tôi nghĩ rằng sự phẫn nộ hiện tại là, chúng tôi là một công ty nhỏ, nhưng chúng tôi đang làm công việc cần thiết để trở nên tốt hơn. Một công ty như Amazon luôn có nguồn lực để làm tốt hơn. Nhưng, trên thực tế, họ không, và họ đang bán thông tin cho chính phủ.

Hutchinson: Nếu bạn nói với công ty lớn về nhận diện khuôn mặt, tất cả họ sẽ nói rằng chúng tôi có phương pháp kiểm tra rất nghiêm ngặt. Và điều đó bao gồm các cá nhân cộng đồng thiểu số trong một cơ sở dữ liệu không đồng nhất. Chúng tôi tìm kiếm sự đa dạng, và chúng tôi thử nghiệm nó trong các thuật toán của chúng tôi. Chúng tôi chi hàng triệu đô la một năm để tìm tỷ lệ lỗi xảy ra với các loại khuôn mặt khác nhau. Và những loại khuôn mặt khác nhau có thể có nghĩa là rất nhiều thứ khác nhau. Những người có nguồn gốc khác nhau, từ các vùng khác nhau trên thế giới, các sắc thái khác nhau, chúng tôi thực hiện tất cả các thử nghiệm đó. Chúng tôi không xuất bản nhiều kết quả, nhưng hoàn toàn là vì lợi ích tốt nhất của chúng tôi để đảm bảo rằng đó là thuật toán lỗi thấp. Thực tế là, toán học không thiên vị, nó không phải là phân biệt chủng tộc. Nếu một số công ty có thuật toán cấp thấp hơn và họ không đưa R & D vào đó và họ có tỷ lệ lỗi cao hơn với các nhóm sắc tộc nhất định, đó có thể chỉ là vấn đề của thuật toán kém.

Crockford: Đã xảy ra sự cố với thuật toán và dữ liệu đào tạo bị thiên vị, nhưng đó không phải là vấn đề duy nhất với thiên vị trong công nghệ này. Một vấn đề khác là cảnh sát đang sử dụng các tập tin ảnh căn cước như là cơ sở dữ liệu so sánh, và bản thân các bức ảnh căn cước đã có sự thiên vị vì mức độ chính sách đã được ban hành một cách không cân xứng trong suốt lịch sử và cho đến hiện tại.

Chúng ta thấy sự bắt giữ bất hợp pháp người da đen và màu nâu trong hầu hết lỗi phạm tội nhỏ, như lái xe với giấy phép bị đình chỉ hoặc hết hạn, sử dụng ma túy, ăn cắp vặt, xâm phạm, hành vi vô trật tự. Sự thiên vị trong việc bắt giữ đối tượng sử dụng cần sa đáng kinh ngạc. 90% người bị bắt vì tội phạm cần sa ở New York là người da đen hoặc nâu. Trong khi người da trắng vẫn hút thuốc ở nơi công cộng ở thành phố New York. Chỉ vì người da trắng gần như không bao giờ bị bắt vì tội đó. Vì vậy, đó là một sự thiên vị, và bằng cách sử dụng cơ sở dữ liệu đó và giả vờ đó là một công nghệ trung lập, nó mã hóa sự thiên vị đó.