a. Bảo vệ quyền âm thanh và quyền hình ảnh

(1) Phán quyết về 'Giọng nói AI' của Tòa án Internet Bắc Kinh năm 2023: Công nhận quyền đối với giọng nói là một quyền nhân thân độc lập

Vào một ngày tháng 5 năm 2023, Seong-woo In (殷), một người sống tại Bắc Kinh, đã khựng lại khi đang lướt mạng. Cô nghe thấy chính giọng nói của mình. Một giọng nói đang đọc những câu văn mà cô chưa từng thu âm. Âm sắc giống hệt, ngữ điệu giống hệt, và ngay cả nhịp thở cũng y như vậy. Thế nhưng, cô chưa từng nhìn thấy đoạn văn bản đó bao giờ.

Giọng nói của cô đã trở thành một sản phẩm giọng nói AI mang tên 'Mô Tiểu Tuyền (魔小璇)' và đang được bán trên ứng dụng 'Mô Âm Công Phưởng (魔音工坊)'. 3,2 tỷ lượt phát. Trong bài thuyết trình của ai đó, trong video YouTube của ai đó, trong sách nói của ai đó, một giọng nói không phải là cô, nhưng lại chính là giọng nói của cô, đang vang lên.

Ông In đã tìm đến luật sư.

Vấn đề trở nên phức tạp hơn ở đây. Anh In đã ký hợp đồng với một công ty truyền thông để thực hiện công việc thu âm sách nói trong quá khứ. Trong hợp đồng có điều khoản ghi rằng "bản quyền của các bản thu âm thuộc về công ty". Công ty này đã chuyển giao các tệp thu âm đó cho một công ty phần mềm khác, và công ty đó đã sử dụng giọng nói của anh In làm dữ liệu đào tạo AI. Sau đó, một nền tảng khác lại tiếp tục lấy kết quả đó để bán như một sản phẩm thương mại.

Lập luận của phía bị cáo rất đơn giản. "Chúng tôi đã mua tệp ghi âm một cách hợp pháp. Việc chúng tôi làm gì với tệp đó là quyền tự do của chúng tôi."

Tuy nhiên, vào ngày 23 tháng 4 năm 2024, thẩm phán của Tòa án Internet Bắc Kinh đã đặt ra một câu hỏi hoàn toàn khác: "File ghi âm và giọng nói có phải là một không?". Để hiểu tại sao câu hỏi này lại quan trọng, chúng ta cần xem xét qua cấu trúc của Bộ luật Dân sự Trung Quốc. Trung Quốc đã bắt đầu thực thi Bộ luật Dân sự mới vào năm 2021. Trong bộ luật này có một chương độc lập gọi là 'Phần Quyền nhân thân'. Nói một cách dễ hiểu, quyền nhân thân là 'quyền đối với những thứ tạo nên con người tôi'. Tên của tôi, khuôn mặt của tôi, danh dự của tôi. Những thứ này khác với tài sản của tôi. Chúng không thể bán được. Không thể chuyển nhượng. Và không thể tách rời khỏi tôi.

Tòa án đã đưa giọng nói vào chính danh mục này. Khoản 2 Điều 1023 của Bộ luật Dân sự quy định rõ: "Về việc bảo vệ giọng nói của cá nhân, áp dụng tương tự các quy định về bảo vệ quyền hình ảnh". Dựa trên điều khoản này, thẩm phán đã công nhận giọng nói là một quyền nhân thân độc lập.

Câu then chốt trong bản án là thế này: "Ngay cả khi đó là giọng nói do AI tạo ra, nếu công chúng khi nghe thấy có thể liên tưởng đến một người cụ thể, thì điều này thuộc về quyền giọng nói của người đó."

Tòa án gọi đây là 'Khả năng nhận dạng (Identifiability)'. Âm sắc, ngữ điệu, thói quen phát âm, nhịp thở. Nếu tất cả những yếu tố này kết hợp lại để trở thành dấu hiệu chỉ đích danh một cá nhân cụ thể, thì đó không đơn thuần là 'dữ liệu' mà là 'một phần của nhân cách'.

Hàm ý cốt lõi của logic này nằm ở sự tách biệt giữa bản quyền và quyền nhân thân. Việc ông In chuyển nhượng bản quyền của tệp ghi âm là sự thật. Tuy nhiên, bản quyền là quyền đối với "tác phẩm thể hiện". Còn quyền nhân thân là quyền đối với "chính bản thân tôi". Việc tôi bán tệp ghi âm do mình thực hiện không đồng nghĩa với việc tôi bán đi chính giọng nói của mình. Giống như việc tôi bán bản quyền bức ảnh của mình không có nghĩa là tôi trao quyền được sử dụng khuôn mặt mình ở bất cứ đâu.

Tòa án đã tiến xa hơn một bước tại đây. Họ đã truy vết theo chuỗi trách nhiệm. Công ty truyền thông cung cấp dữ liệu ghi âm, công ty phần mềm phát triển giọng nói AI, nền tảng bán sản phẩm đó, và cả đơn vị đã mua cũng như vận hành nó. Tòa án đã quy trách nhiệm chung cho tất cả các bên này. Mặc dù mức độ trách nhiệm được phân chia khác nhau tùy theo vai trò và lợi ích của mỗi bên, nhưng không một ai có thể trốn tránh bằng câu nói "Tôi chỉ cung cấp công nghệ".

Số tiền bồi thường là 250.000 Nhân dân tệ (khoảng 47 triệu Won). Bản thân con số này có thể chỉ là tiền lẻ đối với các tập đoàn khổng lồ. Tuy nhiên, ý nghĩa của nó là không thể đong đếm được bằng tiền. Giờ đây, tất cả các doanh nghiệp AI tại Trung Quốc đều phải tự hỏi bản thân trước khi cho máy học giọng nói của diễn viên lồng tiếng: "Người này có thực sự đồng ý với việc này không? Liệu hợp đồng thu âm có bao gồm cả việc huấn luyện AI hay không?"

Thời điểm phán quyết này được đưa ra là hai tháng trước khi Scarlett Johansson bày tỏ sự phẫn nộ đối với giọng nói 'Sky' của OpenAI tại Mỹ. Có thể nói, tòa án Trung Quốc đã hành động trước. Trong khi công nghệ đang lao đi vượt qua mọi biên giới, thì luật pháp vẫn đang theo đuổi với tốc độ riêng của mình. Diễn viên lồng tiếng tại Bắc Kinh đã lấy lại được giọng nói của chính mình. Và bản án đó đã trở thành một cột mốc quan trọng về việc sự tồn tại của 'tôi' sẽ được bảo vệ đến mức nào trong kỷ nguyên AI.

(2) Phán quyết về quyền chân dung của con người ảo AI năm 2025

Ngày 10 tháng 9 năm 2025, Tòa án Internet Bắc Kinh đã công bố 8 'án lệ điển hình liên quan đến AI'. Trong đó, vụ việc thứ 8 đã thu hút sự chú ý đặc biệt. Đó là bởi vì cái tên của người nổi tiếng họ 'He' (何) đang sống và thở dưới hình hài một 'người bạn đồng hành AI' bên trong một ứng dụng di động.

Ứng dụng này là một phần mềm quản lý chi tiêu. Nhìn bề ngoài, nó có vẻ rất bình thường. Thế nhưng, bên trong ứng dụng lại ẩn chứa một tính năng đặc biệt. Người dùng có thể tạo ra một 'người bạn đồng hành AI' của riêng mình. Họ có thể đặt tên, thiết lập ảnh đại diện và định nghĩa mối quan hệ. Bạn trai, bạn gái, anh trai, hay mẹ. Bất cứ điều gì cũng đều có thể.

Vấn đề nằm ở chỗ vô số người dùng đã thiết lập một người có thật tên là 'Heo' làm người đồng hành của mình. Họ đã tải lên ảnh của ông Heo. Họ đã nhập tên của ông Heo. Và thiết lập các mối quan hệ như 'bạn trai' hay 'anh trai'. Thuật toán của ứng dụng đã phân tích thông tin này. Và bắt đầu đề xuất nhân vật mang tên 'Heo' cho những người dùng khác.

Bản thân ông Heo không hề biết sự thật này. Ông chưa từng đồng ý.

Tòa án đã phán quyết rằng đây là hành vi xâm phạm quyền nhân thân. Tại đây, một luận điểm then chốt đã xuất hiện. Phía đơn vị vận hành ứng dụng đã biện hộ rằng: "Chúng tôi chỉ đơn thuần là bên lưu trữ (hosting) các nội dung do người dùng đăng tải". Tuy nhiên, tòa án đã không chấp nhận lập luận này. Việc ứng dụng cung cấp tính năng 'thiết lập quan hệ', sử dụng thuật toán để đề xuất nhân vật và thông qua đó để thu hút sự tham gia của người dùng không còn là việc lưu trữ đơn thuần nữa. Đó là một thiết kế mang tính cấu trúc nhằm biến danh tính của một cá nhân cụ thể thành một 'sản phẩm thay thế đã được thương mại hóa'.

Phán quyết này dẫn đến một câu hỏi rộng lớn hơn. Trong kỷ nguyên AI, 'quyền hình ảnh' sẽ được mở rộng đến đâu?

Theo truyền thống, quyền hình ảnh được áp dụng cho khuôn mặt xuất hiện trong các bức ảnh hoặc video. Tuy nhiên, công nghệ AI đã phá vỡ ranh giới này. Giờ đây, chúng ta có thể tái hiện lại "cảm giác" về một ai đó. Ngay cả khi không có một bức ảnh thực tế nào, ta vẫn có thể tạo ra một nhân vật ảo gợi nhắc đến một người cụ thể. Cách nói chuyện, biểu cảm, cử chỉ. Tất cả những điều này đều có thể trở thành dữ liệu để học máy.

Một phán quyết khác vào tháng 8 năm 2025 đã đề cập đến mặt ngược lại của vấn đề này. Một công ty sản xuất các nhân vật kỹ thuật số ảo 'A' và 'B' đã đệ đơn kiện một nhân viên đã nghỉ việc vì hành vi bán trái phép mô hình 3D của các nhân vật này. Tòa án đã phán quyết rằng nếu hình ảnh của các nhân vật kỹ thuật số ảo có tính độc đáo, chúng có thể được bảo hộ bản quyền dưới dạng tác phẩm nghệ thuật mỹ thuật.

Tại đây, hai quyền lợi giao thoa với nhau. Đó là quyền hình ảnh của người thật và bản quyền của nhân vật ảo. Nhân vật ảo càng giống người thật bao nhiêu, thì hai quyền này càng xung đột bấy nhiêu. Hãy giả sử có ai đó tạo ra một nhân vật ảo AI dựa trên hình mẫu là một nghệ sĩ nổi tiếng. Ngoại hình của nhân vật ảo đó là tác phẩm có bản quyền của công ty sản xuất. Tuy nhiên, nếu nó khiến người ta "liên tưởng" đến một người thật, thì vấn đề về quyền hình ảnh của người thật đó sẽ phát sinh.

Tòa án Trung Quốc đã đưa ra một tiêu chuẩn gọi là 'khả năng nhận diện' đối với vấn đề này. Nếu một người dùng bình thường khi nhìn vào một nhân vật ảo có thể liên tưởng đến một cá nhân cụ thể, thì điều đó sẽ nằm trong phạm vi bảo hộ của quyền chân dung. Đây không phải là vấn đề về công nghệ mà là vấn đề về nhận thức. Tiêu chuẩn không nằm ở mã code mà nằm ở sự liên tưởng của xã hội.

Ý nghĩa của những phán quyết này là vô cùng rõ ràng. Dù công nghệ AI có phát triển đến đâu, nếu những gì được tạo ra từ công nghệ đó xâm phạm đến danh tính của một cá nhân có thật, thì pháp luật sẽ can thiệp. Tòa án Trung Quốc đã không bị mê hoặc bởi sự tinh vi của công nghệ. Thay vào đó, họ đã đặt ra một câu hỏi đơn giản nhất: "Những người nhìn thấy điều này sẽ liên tưởng đến ai?"

(3) Phán quyết về việc vi phạm quyền chân dung và thông tin cá nhân của ứng dụng Deepfake 'Hoán nhãn (Face Swap)'

Ngày 20 tháng 6 năm 2024, Tòa án Internet Bắc Kinh đã đưa ra phán quyết về vụ việc vi phạm liên quan đến ứng dụng 'AI hoán diện (换脸, thay đổi khuôn mặt)' đầu tiên tại Trung Quốc. Nguyên đơn là hai người phụ nữ. Cả hai đều là những người mẫu nổi tiếng với các video ngắn phong cách Quốc phong (國风). Họ đứng trước ống kính trong những bộ trang phục truyền thống giống như Hanbok, với kiểu tóc cổ điển và lối trang điểm cổ điển. Các video của họ đã ghi nhận hàng triệu lượt xem.

Một ngày nọ, họ phát hiện ra một điều kỳ lạ. Có một ứng dụng đang rao bán các mẫu template với trang phục, kiểu tóc, lối trang điểm, ánh sáng và góc máy camera được giữ nguyên vẹn. Chỉ có duy nhất khuôn mặt là bị xóa đi. Người dùng có thể trả tiền để ghép khuôn mặt của chính mình vào những mẫu template đó.

Các nguyên đơn đã đưa ra hai cáo buộc. Thứ nhất, vi phạm quyền hình ảnh. Thứ hai, vi phạm quyền riêng tư.

Phán quyết của tòa án rất tinh vi. Và chính sự tinh vi đó đã làm cho bản án này trở nên quan trọng.

Thứ nhất, về quyền hình ảnh, tòa án đã phán quyết là "không vi phạm". Theo Bộ luật Dân sự Trung Quốc, việc vi phạm quyền hình ảnh bao gồm 'việc tạo ra, sử dụng và công khai hình ảnh'. Điểm mấu chốt ở đây là 'khả năng nhận dạng'. Vì khuôn mặt của các nguyên đơn đã được xóa khỏi mẫu (template), nên không thể 'nhận dạng' được các nguyên đơn trong sản phẩm cuối cùng. Người xem video có khuôn mặt của người khác được ghép vào sẽ không thể liên tưởng đến các nguyên đơn.

Tuy nhiên, tòa án đã không dừng lại ở đó. Thứ hai, đối với thông tin cá nhân, tòa án đã phán quyết là có sự "xâm phạm". Đây chính là trọng tâm của bản án này. Trong quá trình tạo ra các mẫu (template), bị đơn đã thu thập và xử lý các video gốc của các nguyên đơn. Trong những video đó có chứa khuôn mặt của các nguyên đơn. Thông tin khuôn mặt thuộc về 'thông tin cá nhân nhạy cảm' theo Luật Bảo vệ Thông tin Cá nhân (PIPL) của Trung Quốc.

Lập luận của tòa án là thế này. Việc khuôn mặt của nguyên đơn không xuất hiện trong thành phẩm không làm cho quá trình đó trở nên hợp pháp. Bị đơn đã thu thập dữ liệu khuôn mặt mà không có sự đồng ý của nguyên đơn. Họ đã phân tích nó. Họ đã dựa vào đó để tạo ra các sản phẩm thương mại. Bản thân quá trình này đã là một sự xâm phạm quyền riêng tư.

Logic phân tách này mang lại những hàm ý mạnh mẽ về mặt thực tiễn. Các nhà cung cấp dịch vụ deepfake thường chọn cách bào chữa rằng "vì khuôn mặt của nguyên đơn không xuất hiện trong kết quả cuối cùng nên đó không phải là vi phạm quyền hình ảnh". Tuy nhiên, theo phán quyết này, nhà cung cấp dịch vụ không thể thoát trách nhiệm chỉ bằng cách dựa vào diện mạo bên ngoài của kết quả đầu ra. Tòa án xem xét toàn bộ quy trình. Thu thập, xử lý, cung cấp. Nếu thông tin cá nhân bị xử lý không đúng cách ở bất kỳ giai đoạn nào, trách nhiệm pháp lý sẽ phát sinh.

Bị cáo đã đưa ra một lập luận khác: "Chúng tôi đã thuê một công ty thứ ba thực hiện công nghệ thay đổi khuôn mặt. Việc xử lý thực tế là do bên đó thực hiện." Tòa án cũng không chấp nhận lập luận này. Nếu bị cáo là bên quyết định phương thức và phạm vi của dịch vụ, đồng thời thu lợi nhuận từ đó, thì việc thuê ngoài không phải là lý do để được miễn trừ trách nhiệm.

Số tiền bồi thường là 3.500 nhân dân tệ (khoảng 650.000 won). 2.500 nhân dân tệ cho tổn thất kinh tế và 1.000 nhân dân tệ cho tổn thất tinh thần. Số tiền không lớn. Tuy nhiên, sau khi tuyên án, thẩm phán Sun Ming-xi (孫明喜) đã nói với các phóng viên rằng: "Tôi hy vọng phán quyết này sẽ giúp chuẩn hóa việc áp dụng các công nghệ mới nổi và thúc đẩy sự phát triển lành mạnh của nền kinh tế số."

Phán quyết này có mối liên hệ với toàn bộ hệ thống quy định về AI của Trung Quốc. "Quy định quản lý dịch vụ thông tin internet về tổng hợp sâu (deep synthesis)" có hiệu lực từ tháng 1 năm 2023, áp đặt nghĩa vụ đối với các nhà cung cấp dịch vụ deepfake trong việc phải có được sự đồng ý của nhân vật gốc và phải dán nhãn cho các sản phẩm được tạo ra. Phán quyết dân sự của tòa án có thể coi là đã xác nhận tính hiệu lực của quy định này. Không phải vì công nghệ có thể làm được thì điều đó sẽ được cho phép. Tốc độ phát triển của công nghệ càng nhanh, thì nghĩa vụ chú ý càng phải trở nên mạnh mẽ hơn.

b. Mô phỏng phong cách AI và cạnh tranh không lành mạnh

(1) Vụ kiện bộ lọc TikTok v. B612: Độ tương đồng 91.7%

Tháng 6 năm 2020, Douyin (抖音) - phiên bản Trung Quốc của TikTok - đã ra mắt một bộ lọc có tên là 'Biến hình hoạt hình đặc biệt'. Đây là tính năng có khả năng nhận diện khuôn mặt người dùng trong thời gian thực và chuyển đổi sang phong cách anime Nhật Bản. Người trong màn hình bỗng chốc trở thành những nhân vật hoạt hình với đôi mắt to và chiếc cằm nhọn. Bộ lọc này đã tạo nên một cơn sốt lớn. Hàng trăm triệu người dùng đã quay video bằng cách biến khuôn mặt mình thành nhân vật hoạt hình.

Hai tháng sau, một tính năng gần như y hệt đã xuất hiện trên ứng dụng đối thủ B612. Nó mang tên 'Hiệu ứng truyện tranh thiếu nữ'. Hiệu ứng thực tế là hoàn toàn giống nhau.

Các luật sư của ByteDance đã nghi ngờ. Đây không phải là một sự trùng hợp ngẫu nhiên. Họ đã khởi kiện đơn vị vận hành B612. Tuy nhiên, đã có một vấn đề nảy sinh. Họ sẽ dùng cái gì để chứng minh cho việc 'sao chép'?

Trong các tranh chấp bản quyền truyền thống, người ta so sánh mã nguồn. Họ xem xét mã của A và mã của B giống nhau đến mức nào. Tuy nhiên, bộ lọc AI thì khác. Hai công ty có thể đã sử dụng cùng một dữ liệu học tập công khai. Họ cũng có thể đã áp dụng cùng một cấu trúc mạng thần kinh. Việc kết quả đầu ra tương đồng không nhất thiết có thể coi là sao chép.

ByteDance đã chọn một chiến lược khác. Họ không cáo buộc vi phạm bản quyền mà cáo buộc 'cạnh tranh không lành mạnh'.

Cạnh tranh không lành mạnh là gì? Có thể ví von một cách dễ hiểu như thế này. Giả sử bạn đang điều hành một nhà hàng. Bạn đã dành nhiều năm và chi phí để phát triển một công thức nấu ăn độc đáo. Bạn cũng trang trí nội thất một cách đặc biệt. Khách hàng dần nhận diện được nhà hàng của bạn. Thế nhưng một ngày nọ, một nhà hàng gần như y hệt lại mở cửa ở phía đối diện. Thực đơn cũng tương tự, nội thất cũng giống như vậy. Khách hàng bắt đầu bị nhầm lẫn. Đó chính là cạnh tranh không lành mạnh. Đó là hành vi "đi nhờ xe" dựa trên những nỗ lực và chi phí mà bạn đã đầu tư.

Tòa án đã tiến hành giám định kỹ thuật. Cấu trúc bên trong mô hình AI của hai ứng dụng đã được phân tích. Kết quả thật chấn động. Toàn bộ cấu trúc mạng gần như đồng nhất. Trong số 36 lớp tích chập (Convolutional Layer), có tới 33 lớp trùng khớp hoàn toàn. Ngay cả các thiết lập tham số (Parameter) cũng khớp nhau một cách chi tiết. Nếu quy đổi ra con số, độ tương đồng lên tới 91.7%. Vào ngày 31 tháng 3 năm 2025, Tòa án Sở hữu trí tuệ Bắc Kinh đã tuyên thắng kiện cho ByteDance trong phiên phúc thẩm. Tòa án đã công nhận hai điều. Thứ nhất, cấu trúc mô hình AI và các tham số của Douyin là thành quả được "phát triển và huấn luyện bằng việc đầu tư một lượng lớn nguồn lực". Thứ hai, điều này thuộc về "lợi ích cạnh tranh (Competitive Interests) mang lại lợi thế thị trường và lợi nhuận kinh doanh cho Douyin". Do đó, việc phía B612 sao chép trái phép để cung cấp dịch vụ tương tự là "hành vi cạnh tranh không lành mạnh, xâm phạm lợi ích cạnh tranh chính đáng và gây rối loạn trật tự thị trường".

(2) Bảo vệ lợi thế cạnh tranh trong cấu trúc nội bộ của mô hình AI

Ý nghĩa cốt lõi của phán quyết này là việc 'cấu trúc và tham số của mô hình AI' đã có thể được bảo hộ về mặt pháp lý.

Mô hình AI cũng giống như một công thức nấu ăn. Bạn thu thập nguyên liệu (dữ liệu), áp dụng phương pháp chế biến (thuật toán), và nếm thử rồi điều chỉnh (tinh chỉnh) vô số lần để hoàn thiện. Việc truy ngược lại công thức từ một món ăn đã hoàn thành (kết quả) là rất khó, nhưng không phải là không thể. Nếu có ai đó ăn tại nhà hàng của bạn mỗi ngày và phân tích món ăn, cuối cùng họ cũng có thể tạo ra hương vị tương tự.

Trong ngành AI, người ta gọi đây là 'Chưng cất tri thức (Knowledge Distillation)'. Đây là một kỹ thuật đặt hàng triệu câu hỏi cho mô hình AI của đối thủ, sau đó thu thập các câu trả lời đó để huấn luyện cho mô hình của chính mình. Nó không phải là hành vi đánh cắp mã nguồn, cũng không phải là lấy trộm dữ liệu. Tuy nhiên, kết quả cuối cùng chính là việc sao chép 'trí thông minh' của đối phương.

Tòa án Trung Quốc đã đưa ra lập trường rõ ràng về vấn đề này. Cấu trúc nội bộ, tham số và kết quả tinh chỉnh của mô hình AI có thể được bảo hộ dưới dạng "lợi thế cạnh tranh" của doanh nghiệp. Có thể nói, "Luật chống cạnh tranh không lành mạnh" đã lấp đầy khoảng trống mà luật bản quyền hay luật bằng sáng chế truyền thống khó có thể bảo vệ được.

Đây không đơn thuần là vấn đề về công nghệ. Đây là vấn đề về đầu tư. DALL-E đã thu thập hàng trăm nghìn hình ảnh. Đã thuê các nhà thiết kế. Đã tiêu tốn hàng nghìn giờ tài nguyên tính toán để huấn luyện mô hình. Tất cả những chi phí này đều được kết tinh bên trong mô hình AI. Nếu ai đó chỉ nhìn vào kết quả rồi sao chép lại, thì toàn bộ sự đầu tư này sẽ trở nên vô nghĩa.

Tất nhiên, việc chứng minh là rất khó khăn. Bên vi phạm thường sẽ khẳng định rằng họ "tự phát triển". Bên nắm giữ quyền lợi không có cách nào để nhìn thấu vào bên trong hệ thống của đối phương. Do đó, những vụ kiện như thế này không chỉ kết thúc bằng sự tương đồng của thành phẩm. Các 'bằng chứng gián tiếp' như hồ sơ quá trình phát triển, nguồn gốc dữ liệu, lịch sử cập nhật tham số, hay hồ sơ thôi việc của nhân viên trở nên vô cùng quan trọng.

Phán quyết này đã gửi đi một thông điệp rõ ràng tới ngành công nghiệp AI của Trung Quốc. Việc sao chép thành quả của những người đi trước một cách miễn phí sẽ đi kèm với những rủi ro pháp lý. Những người đến sau phải có khả năng chứng minh được quá trình phát triển độc lập của chính mình. Nếu không, con số 91.7% sẽ đang chờ đợi bạn tại tòa án.

c. Cấu trúc trách nhiệm đa tầng

(1) Trách nhiệm nguyên tắc của người dùng AI

Để hiểu về các quy định AI của Trung Quốc, bạn có thể tưởng tượng về một kim tự tháp khổng lồ. Ở trên cùng là Nhà nước. Họ là bên đưa ra các quy tắc. Ngay bên dưới là các doanh nghiệp nền tảng. Họ là bên thực thi các quy tắc. Ở dưới cùng là người dùng. Họ là bên tuân thủ các quy tắc. Nếu có vấn đề phát sinh ở bất kỳ tầng nào, một ai đó ở tầng đó sẽ phải chịu trách nhiệm.

Nguyên tắc đầu tiên rất đơn giản. Người sử dụng công cụ phải chịu trách nhiệm về kết quả.

Một trong những trường hợp điển hình do Tòa án Internet Bắc Kinh công bố đã minh chứng rõ nét cho nguyên tắc này. Một người dùng đã lấy ảnh đại diện WeChat của người khác, sau đó sử dụng AI để tạo ra một hình ảnh mang tính xúc phạm và đăng tải vào một nhóm chat chung. Nạn nhân đã tiến hành khởi kiện.

Tòa án đã công nhận trách nhiệm của người dùng. Lời bào chữa rằng "đó chỉ là một trò đùa" đã không được chấp nhận. Việc AI tạo ra hình ảnh cũng không phải là lý do để miễn trừ trách nhiệm. Người nhập câu lệnh (prompt) là người dùng. Người nhấn phím Enter cũng là người dùng. Người phát tán kết quả cũng là người dùng. Chủ thể của mọi quyết định đều là con người.

Nguyên tắc này thiết lập các nguyên lý pháp lý cơ bản trong kỷ nguyên AI. AI là một công cụ. Nếu dùng búa đánh người, người chịu trách nhiệm là người vung búa chứ không phải nhà sản xuất búa. AI cũng tương tự như vậy.

(2) Trách nhiệm của nhà cung cấp dịch vụ với tư cách là chủ thể hành vi chuẩn mực

Tuy nhiên, AI có điểm khác biệt so với một chiếc búa thông thường. Nếu không được vung lên, chiếc búa sẽ không làm gì cả. AI thì khác. AI học hỏi. AI đề xuất. AI tối ưu hóa. Và đôi khi, nó tạo ra những kết quả mà người dùng không hề dự tính trước.

Vì vậy, tòa án Trung Quốc áp đặt trách nhiệm ở tầng thứ hai. Đó là trách nhiệm của 'nhà cung cấp dịch vụ'.

Hãy cùng xem lại vụ việc về giọng nói AI đã được đề cập trước đó. Trong vụ việc giọng nói của diễn viên lồng tiếng In bị AI hóa trái phép, tòa án đã quy trách nhiệm cho cả đơn vị phát triển, nền tảng bán hàng và đơn vị vận hành. Mỗi bên đều biện hộ rằng: "Tôi chỉ cung cấp công nghệ", "Tôi chỉ vận hành nền tảng", "Tôi chỉ mua sản phẩm". Tòa án đã bác bỏ tất cả những lập luận này. Logic của tòa án như sau: Nhà cung cấp dịch vụ là 'chủ thể hành vi mang tính quy phạm'. Họ không đơn thuần là một thực thể trung lập chỉ cung cấp công nghệ. Họ là thực thể quyết định phương thức và phạm vi của dịch vụ, đồng thời thu lợi nhuận từ chính điều đó. Do đó, họ cũng phải chịu trách nhiệm tương xứng.

Trách nhiệm này bao gồm hai cấp độ. Thứ nhất, trách nhiệm với tư cách là bên xử lý dữ liệu. Khi thu thập các thông tin nhạy cảm như khuôn mặt hay giọng nói, phải nhận được sự đồng ý. Phải nêu rõ mục đích thu thập. Phải thực hiện các biện pháp bảo mật. Nếu thiếu những điều này, hành vi đó sẽ ngay lập tức bị coi là vi phạm pháp luật. Thứ hai, trách nhiệm quản lý với tư cách là bên cung cấp dịch vụ thông tin. Phải hiển thị thông báo rằng sản phẩm được tạo bởi AI. Phải xây dựng hệ thống nhằm ngăn chặn việc lạm dụng hoặc sử dụng sai mục đích. Phải thực hiện các biện pháp xử lý khi có báo cáo vi phạm.

'Phương pháp tạm thời về quản lý dịch vụ AI tạo sinh' được thực thi vào tháng 8 năm 2023 đã văn bản hóa các nghĩa vụ này. Phán quyết của tòa án đã xác nhận tính hiệu lực của quy định này. Các doanh nghiệp không còn có thể né tránh trách nhiệm bằng câu nói "Chúng tôi chỉ là một nền tảng".

(3) Nghĩa vụ phòng ngừa trước của nền tảng: Đào tạo tối ưu hóa mô hình

Đặc điểm độc đáo nhất trong việc quản lý AI của Trung Quốc là nhấn mạnh vào tính "phòng ngừa trước". Trong khi các quy định của phương Tây thường theo cách tiếp cận hậu kiểm theo kiểu "nếu có vấn đề xảy ra thì sẽ xử phạt", thì Trung Quốc lại ra lệnh rằng "hãy ngăn chặn để vấn đề không xảy ra".

Điều này được gọi là 'nghĩa vụ đào tạo tối ưu hóa mô hình'. Các nền tảng phải liên tục điều chỉnh mô hình để đảm bảo AI không tạo ra các nội dung bất hợp pháp. Đây không đơn thuần chỉ là việc thiết lập bộ lọc từ cấm. Nó đòi hỏi phải điều chỉnh trọng số (Weights) của mô hình, áp dụng học tăng cường từ phản hồi của con người (RLHF) và giám sát các kết quả đầu ra.

Ví dụ, giả sử có ai đó nhập vào dịch vụ tạo ảnh bằng AI câu lệnh "Hãy vẽ Ultraman cho tôi". Ultraman là một tác phẩm có bản quyền của một doanh nghiệp Nhật Bản. Nếu AI tạo ra một hình ảnh tương tự như Ultraman, thì hành vi vi phạm bản quyền sẽ xảy ra. Trong phán quyết của Tòa án Internet Quảng Châu, tòa án đã truy cứu trách nhiệm của nhà cung cấp dịch vụ: "Tại sao không lọc từ khóa Ultraman? Tại sao không loại bỏ các hình ảnh liên quan đến Ultraman khỏi dữ liệu huấn luyện?"

Cũng có những ý kiến chỉ trích rằng nghĩa vụ này là một sự kiểm soát quá mức. Việc ngăn chặn mọi khả năng vi phạm bản quyền ngay từ đầu là điều không thể về mặt kỹ thuật. Tòa án cũng thừa nhận điều này. Điều mà tòa án yêu cầu không phải là "phòng ngừa hoàn hảo", mà là "các biện pháp tương xứng với khả năng kiểm soát và dự đoán rủi ro". Nếu nền tảng đã thực hiện đầy đủ nghĩa vụ chú ý hợp lý, họ sẽ không phải chịu trách nhiệm cho cả những hành vi vi phạm của từng người dùng riêng lẻ. Tuy nhiên, nếu nền tảng vừa tối đa hóa cấu trúc lợi nhuận, vừa khẳng định rằng "chúng tôi là một công cụ trung lập", thì tòa án sẽ không chấp nhận lập luận đó.

Cấu trúc trách nhiệm đa tầng này đang tạo nên sự độc đáo cho hệ sinh thái AI của Trung Quốc. Thay vì tập trung phát triển các mô hình mang tính đột phá, các doanh nghiệp lại đổ nhiều nguồn lực hơn vào việc tạo ra các mô hình "an toàn" nhằm đáp ứng yêu cầu của các cơ quan quản lý. Hàng nghìn nhân lực đang được huy động để kiểm duyệt kết quả đầu ra của AI, dán nhãn dữ liệu và tinh chỉnh mô hình.

Trớ trêu thay, hệ thống kiểm soát nghiêm ngặt này cũng đồng thời trở thành một "hào phòng thủ" (垓子, moat) mạnh mẽ cho các doanh nghiệp AI Trung Quốc. Bởi lẽ, việc các doanh nghiệp nước ngoài có thể gánh vác được cấu trúc trách nhiệm phức tạp và nặng nề này để tiến vào thị trường Trung Quốc là điều gần như không thể. Cuối cùng, kẻ sống sót trên chiến trường pháp lý AI của Trung Quốc không phải là kẻ có công nghệ vượt trội nhất. Người chiến thắng chính là kẻ biết cách vượt qua mạng lưới trách nhiệm đa tầng này một cách khéo léo nhất, và là kẻ thực hiện "nghĩa vụ quản lý" mà các thẩm phán cũng như cơ quan quản lý yêu cầu một cách tận tụy nhất.

Đây chính là bộ mặt thật của quản trị AI kiểu Trung Quốc. Và vẫn còn quá sớm để phán xét liệu mô hình này sẽ hoạt động hiệu quả hay sẽ bóp nghẹt sự đổi mới. Có một điều chắc chắn. Các tòa án Trung Quốc đã sẵn sàng quy trách nhiệm cho một ai đó về mọi vấn đề do AI gây ra. Người đó có thể là người dùng, nhà cung cấp dịch vụ, hoặc nền tảng. Tuy nhiên, câu nói "do AI làm" sẽ không thể được dùng làm lời biện hộ.