Đạo luật AI của EU có tác động gì đến doanh nghiệp?

Các thành viên của Nghị viện Châu Âu (MEP) đã bỏ phiếu với kết quả là 523 phiếu thuận, 46 phiếu chống, và 49 phiếu trắng, thông qua một văn bản luật đã được 27 quốc gia thành viên Liên minh châu Âu (EU) đồng ý về nguyên tắc vào tháng 12/2023.

Theo văn bản được thông qua, quy định này nhằm mục đích thúc đẩy “sự phát triển của AI đáng tin cậy và lấy con người làm trung tâm, đồng thời đảm bảo mức độ bảo vệ cao về sức khỏe, an toàn, các quyền cơ bản và bảo vệ môi trường trước tác hại của hệ thống AI”.

Đạo luật này cũng hỗ trợ sự đổi mới.

Hình phạt khắc nghiệt

Luật sẽ áp dụng cho bất kỳ công ty nào kinh doanh tại EU và cho phép phạt tới 7% doanh thu toàn cầu hoặc 35 triệu euro, tùy theo mức nào cao hơn, đối với những công ty không kiểm soát việc sử dụng AI của mình.

Phần lớn các cuộc tranh luận công khai liên quan đến đạo luật AI xoay quanh các giới hạn mà nó áp đặt đối với việc sử dụng hệ thống nhận dạng sinh trắc học của cơ quan thực thi pháp luật, nhưng các ứng dụng AI thương mại lại phải đối mặt với lệnh cấm khi ai đó muốn sử dụng AI để thao túng hoặc khai thác các lỗ hổng của người dùng.

Đạo luật này cũng quy định về quyền của người tiêu dùng, được khiếu nại việc doanh nghiệp (DN) sử dụng AI không phù hợp, và các quyết định của AI ảnh hưởng đến quyền lợi của họ.

Đạo luật AI của châu Âu cũng định nghĩa, AI là “một hệ thống dựa trên máy, được thiết kế để hoạt động với các mức độ tự chủ khác nhau và có thể thể hiện khả năng thích ứng sau khi triển khai. Đối với các mục tiêu rõ ràng hoặc tiềm ẩn, từ đầu vào mà nó nhận được, sẽ suy ra cách thực hiện, tạo ra các kết quả đầu ra như dự đoán, nội dung, đề xuất hoặc quyết định có thể ảnh hưởng đến môi trường vật lý hoặc ảo".

Các nhà lập pháp đã áp dụng cách tiếp cận dựa trên rủi ro, dẫn đến một số hành vi bị cấm trong văn bản luật. Việc AI thu thập hình ảnh khuôn mặt từ Internet hoặc CCTV (camera quan sát) để tạo cơ sở dữ liệu nhận dạng khuôn mặt, và chấm điểm xã hội nhằm thao túng hành vi của con người hoặc khai thác lỗ hổng của con người sẽ bị cấm.

Các lĩnh vực sử dụng AI có rủi ro cao khác bao gồm cơ sở hạ tầng trọng yếu (như nhà máy điện, nhà máy cung cấp nước sinh hoạt, bệnh viện, các cơ sở quân sự v.v...), giáo dục và đào tạo nghề, việc làm, các dịch vụ thiết yếu như chăm sóc sức khỏe hoặc ngân hàng, cũng như thực thi pháp luật, di cư và quản lý biên giới...

Hạn chế về AI tại nơi làm việc

Do “sự mất cân bằng quyền lực”, các điều khoản cũng được đặt ra rõ ràng để đảm bảo sự bảo vệ tốt hơn cho người lao động. Hệ thống AI sẽ không thể được sử dụng để nhận biết cảm xúc của con người ở nơi làm việc, hoặc trong giáo dục.

Theo đạo luật AI của EU: “Bản chất xâm phạm của các hệ thống này… có thể dẫn đến sự đối xử bất lợi hoặc không công bằng đối với một số thể nhân hoặc toàn bộ một nhóm người. Do đó, việc đưa ra thị trường, đưa vào sử dụng, hoặc sử dụng các hệ thống AI nhằm mục đích phát hiện trạng thái cảm xúc của các cá nhân trong các tình huống liên quan đến nơi làm việc và giáo dục nên bị cấm. Luật cấm này không nên áp dụng đối với các hệ thống AI được đưa ra thị trường vì lý do y tế hoặc an toàn, chẳng hạn như các hệ thống dành cho mục đích trị liệu”.

MEP chịu trách nhiệm để đạo luật này được Ủy ban Thị trường Nội bộ và Bảo vệ Người tiêu dùng (một ủy ban của Nghị viện châu Âu) thông qua. Đồng báo cáo viên Brando Benifei, cho biết, “Người lao động và công đoàn sẽ phải được thông báo về việc sử dụng AI đối với họ, và tất cả nội dung do AI tạo ra sẽ được chỉ định rõ ràng. Cuối cùng, công dân sẽ có quyền được giải thích và sử dụng quy trình khắc phục chung, trong khi những người triển khai sẽ có nghĩa vụ đánh giá tác động của hệ thống AI đối với các quyền cơ bản của những người bị ảnh hưởng.”

Sự quan tâm của những tập đoàn công nghệ lớn

Tuy nhiên, không phải tất cả đều hài lòng. Nhóm MEP cánh tả cho biết, quy định này được đưa ra gấp rút và luật “ưu tiên lợi ích của Big Tech hơn sự an toàn của người dân”, chỉ ra rằng thiếu các hạn chế có ý nghĩa đối với những gì DN có thể làm.

“Các công ty sẽ phải tự đánh giá xem hệ thống AI mà họ đưa ra thị trường có rủi ro cao hay không. Quy định về AI cần được cải thiện sâu sắc để đặt lợi ích của người dân lên hàng đầu trước khi nói đến các sản phẩm nguy hiểm”, nhóm MEP cánh tả bày tỏ ý kiến.

Đạo luật được thông qua bao gồm các biện pháp hỗ trợ các DN nhỏ và vừa (SME) đổi mới, chẳng hạn như "sandbox" quy định và thử nghiệm trong thế giới thực sẽ được thiết lập ở cấp độ quốc gia, giúp các DN và công ty khởi nghiệp có thể tiếp cận được, để phát triển và đào tạo AI.

Kateřina Konečná - một MEP cánh tả cảnh báo: “Quy định này cho phép các công ty phát triển hệ thống AI tự do thử nghiệm sản phẩm của họ, trong những điều kiện nhất định, trong môi trường thực tế như trên đường phố hoặc trực tuyến. Do đó, quy định này đã đặt sự an toàn của người dân sang một bên và đặt lợi ích của những người siêu giàu làm trung tâm,” bà nói.

Để trở thành một đạo luật của EU, các điều luật này vẫn cần được Hội đồng châu Âu, gồm các nguyên thủ quốc gia hoặc chính phủ của 27 quốc gia thành viên EU, chính thức thông qua. Đạo luật này sau đó sẽ có hiệu lực sau 20 ngày kể từ khi được công bố trên Công báo Chính thức của EU. Tuy nhiên, không phải tất cả các điều khoản của nó sẽ có hiệu lực ngay lập tức. Các hành vi bị cấm sẽ có hiệu lực sau 6 tháng; các quy tắc thực hành là 9 tháng; quy tắc AI cho mục đích chung, 12 tháng sau; và nghĩa vụ đối với các hệ thống có rủi ro cao, 36 tháng sau.

Tạm thời, một “Văn phòng AI” (AI Office) đặc biệt sẽ được thành lập để hỗ trợ các công ty bắt đầu tuân thủ các quy tắc trước khi chúng có hiệu lực./.