가. 음성권·초상권 보호

(1) 2023년 베이징 인터넷법원 'AI 음성' 판결: 음성권 독립적 인격권 인정

2023년 5월의 어느 날, 베이징에 사는 성우 인(殷)씨는 인터넷을 검색하다가 손이 멈췄습니다. 자신의 목소리가 들렸습니다. 그녀가 녹음한 적 없는 문장을 읽고 있었습니다. 음색도 같았고, 억양도 같았고, 숨을 쉬는 타이밍까지 같았습니다. 하지만 그녀는 그 텍스트를 본 적이 없었습니다.

그녀의 목소리는 '모샤오쉬안(魔小璇)'이라는 AI 음성 제품이 되어 '모인공방(魔音工坊)'이라는 앱에서 판매되고 있었습니다. 32억 회 재생. 누군가의 프레젠테이션에서, 누군가의 유튜브 영상에서, 누군가의 오디오북에서 그녀의 목소리 아닌 그녀의 목소리가 흘러나오고 있었습니다.

인씨는 변호사를 찾아갔습니다.

여기서 문제가 복잡해집니다. 인씨는 과거에 한 미디어 회사와 계약을 맺고 오디오북 녹음 작업을 했습니다. 계약서에는 "녹음물의 저작권은 회사에 귀속된다"는 문구가 있었습니다. 회사는 이 녹음 파일을 다른 소프트웨어 회사에 넘겼고, 그 회사는 인씨의 목소리를 AI 학습 데이터로 사용했습니다. 그리고 그 결과물을 또 다른 플랫폼이 상품으로 판매했습니다.

피고 측의 논리는 단순했습니다. "우리는 녹음 파일을 정당하게 구매했다. 그 파일로 무엇을 하든 우리 자유다."

하지만 2024년 4월 23일, 베이징 인터넷법원의 판사는 전혀 다른 질문을 던졌습니다. "녹음 파일과 목소리는 같은 것인가?" 이 질문이 왜 중요한지 이해하려면, 중국 민법전의 구조를 잠깐 살펴볼 필요가 있습니다. 중국은 2021년에 새로운 민법전을 시행했습니다. 이 법전에는 '인격권편'이라는 독립된 장(章) 이 있습니다. 인격권이란 쉽게 말해 '나를 나로 만드는 것들에 대한 권리'입니다. 내 이름, 내 얼굴, 내 명예. 이것들은 내 재산과는 다릅니다. 팔 수 없습니다. 양도할 수 없습니다. 나와 분리할 수 없습니다.

법원은 목소리를 바로 이 범주에 넣었습니다. 민법전 제1023조 제2항은 "자연인의 음성 보호에 관하여는 초상권 보호에 관한 규정을 준용한다"고 명시합니다. 판사는 이 조항을 근거로 음성을 독립적인 인격권으로 인정했습니다.

판결문의 핵심 문장은 이랬습니다. "AI가 생성한 음성이라 할지라도, 일반 대중이 그것을 듣고 특정인을 떠올릴 수 있다면, 이는 그 사람의 음성권에 해당한다."

법원은 이것을 '식별 가능성(Identifiability)'이라고 불렀습니다. 음색, 억양, 발음 습관, 숨쉬는 패턴. 이 모든 요소가 결합하여 특정인을 가리키는 표지가 된다면, 그것은 단순한 '데이터'가 아니라 '인격의 일부'입니다.

이 논리의 핵심적인 함의는 저작권과 인격권의 분리에 있습니다. 인씨가 녹음 파일의 저작권을 양도한 것은 사실입니다. 하지만 저작권은 '표현물'에 대한 권리입니다. 인격권은 '나 자신' 에 대한 권리입니다. 내가 녹음한 파일을 팔았다고 해서, 내 목소리 자체를 판 것은 아닙니다. 마치 내 사진의 저작권을 팔았다고 해서, 내 얼굴을 어디에나 쓸 권리를 준 것이 아닌 것처럼.

법원은 여기서 한 발 더 나아갔습니다. 책임의 사슬을 따라갔습니다. 녹음 데이터를 제공한 미디어 회사, AI 음성을 개발한 소프트웨어 회사, 그것을 판매한 플랫폼, 그것을 구매해 운영한 업체. 법원은 이들 모두에게 공동 책임을 물었습니다. 각자의 역할과 이익에 따라 책임의 비중을 달리 했지만, 누구도 "나는 기술만 제공했다"는 말로 빠져나갈 수 없었습니다.

배상액은 25만 위안(약 4,700만 원)이었습니다. 금액 자체는 거대 기업들에게 푼돈일 수 있습니다. 하지만 그 의미는 돈으로 환산할 수 없었습니다. 중국의 모든 AI 기업들은 이제 성우의 목소리를 학습시키기 전에 스스로에게 물어야 합니다. "이 사람이 정말로 이것에 동의한 것인가? 녹음 계약이 AI 학습까지 포함하는가?"

이 판결이 나온 시점은 미국에서 스칼렛 요한슨이 OpenAI의 'Sky' 음성에 분노를 표출하기 두 달 전이었습니다. 중국 법원이 먼저 움직인 셈입니다. 기술이 국경을 넘어 달리는 동안, 법은 각자의 속도로 따라가고 있었습니다. 베이징의 성우는 자신의 목소리를 되찾았습니다. 그리고 그 판결문은 AI 시대에 '나'라는 존재가 어디까지 보호받는지에 대한 하나의 이정표가 되었습니다.

(2) 2025년 AI 가상인간 초상권 판결

2025년 9월 10일, 베이징 인터넷법원은 8건의 'AI 관련 전형 사례'를 발표했습니다. 그중 8번째 사건은 특별한 주목을 받았습니다. 유명인 '허(何)' 씨의 이름이 모바일 앱 안에서 'AI 동반자'로 살아 숨쉬고 있었기 때문입니다.

해당 앱은 가계부 소프트웨어였습니다. 겉보기에는 평범했습니다. 하지만 앱 안에는 특별한 기능이 숨어 있었습니다. 사용자들은 자신만의 'AI 동반자'를 만들 수 있었습니다. 이름을 붙이고, 프로필 사진을 설정하고, 관계를 정의할 수 있었습니다. 남자친구, 여자친구, 형제, 어머니. 무엇이든 가능했습니다.

문제는 수많은 사용자들이 실존 인물 '허' 씨를 자신의 동반자로 설정했다는 점입니다. 그들은 허 씨의 사진을 업로드했습니다. 허 씨의 이름을 입력했습니다. 그리고 '남자친구'나 '오빠' 같은 관계를 설정했습니다. 앱의 알고리즘은 이 정보를 분석했습니다. 그리고 '허'라는 캐릭터를 다른 사용자들에게 추천하기 시작했습니다.

허 씨 본인은 이 사실을 몰랐습니다. 그는 동의한 적이 없었습니다.

법원은 이것을 인격권 침해로 판단했습니다. 여기서 핵심적인 논점이 등장합니다. 앱 운영사는 "우리는 사용자들이 올린 콘텐츠를 단순히 호스팅했을 뿐"이라고 항변했습니다. 하지만 법원은 이 논리를 받아들이지 않았습니다. 앱이 '관계 설정' 기능을 제공하고, 알고리즘으로 캐릭터를 추천하고, 이를 통해 사용자 참여를 유도한 것은 단순한 호스팅이 아니었습니다. 그것은 특정인의 정체성을 '상품화된 대체재'로 만드는 구조적 설계였습니다.

이 판결은 더 넓은 질문으로 이어집니다. AI 시대에 '초상권'은 어디까지 확장되는가?

전통적으로 초상권은 사진이나 영상에 찍힌 얼굴에 적용되었습니다. 하지만 AI 기술은 이 경계를 허물었습니다. 이제 누군가의 '느낌'을 재현할 수 있습니다. 실제 사진 한 장 없이도, 특정인을 연상시키는 가상 캐릭터를 만들 수 있습니다. 말투, 표정, 제스처. 이 모든 것이 데이터가 되어 학습될 수 있습니다.

2025년 8월의 또 다른 판결은 이 문제의 반대편을 다뤘습니다. 가상 디지털 인물 'A'와 'B'를 제작한 회사가, 퇴사한 직원이 이 캐릭터의 3D 모델을 무단으로 판매한 것에 대해 소송을 제기했습니다. 법원은 가상 디지털 인물의 이미지가 독창성을 갖춘다면 미술저작물로서 저작권 보호를 받을 수 있다고 판결했습니다.

여기서 두 개의 권리가 교차합니다. 실존 인물의 초상권과 가상 캐릭터의 저작권. 가상인간이 실존 인물을 닮을수록, 이 두 권리는 충돌합니다. 누군가가 유명 연예인을 모델로 AI 가상인간을 만들었다고 가정해 봅시다. 그 가상인간의 외형은 제작사의 저작물입니다. 하지만 그것이 실존 인물을 '연상'시킨다면, 그 실존 인물의 초상권 문제가 발생합니다.

중국 법원은 이 문제에 대해 '식별 가능성'이라는 기준을 제시했습니다. 평균적인 이용자가 가상 캐릭터를 보고 특정 자연인을 떠올릴 수 있다면, 그것은 초상권의 보호 범위 안에 들어옵니다. 이것은 기술의 문제가 아니라 인식의 문제입니다. 코드가 아니라 사회적 연상이 기준이 됩니다.

이 판결들이 시사하는 바는 명확합니다. AI 기술이 아무리 발전해도, 그 기술로 만들어진 것이 실존 인물의 정체성을 침해한다면, 법은 개입합니다. 중국 법원은 기술의 정교함에 현혹되지 않았습니다. 대신 가장 단순한 질문을 던졌습니다. "이것을 본 사람들은 누구를 떠올리는가?"

(3) 딥페이크 '환안(Face Swap)' 앱 초상권·개인정보 침해 판결

2024년 6월 20일, 베이징 인터넷법원은 중국 최초의 'AI 환안(换脸, 얼굴 바꾸기)' 앱 침해 사건에 대한 판결을 내렸습니다. 원고는 두 명의 여성이었습니다. 둘 다 중국풍(國风) 짧은 영상으로 유명한 모델이었습니다. 한복 같은 전통 의상을 입고, 고전적인 헤어스타일을 하고, 클래식한 메이크업을 한 채 카메라 앞에 섰습니다. 그들의 영상은 수백만 조회수를 기록했습니다.

어느 날, 그들은 이상한 것을 발견했습니다. 자신들의 의상, 헤어스타일, 메이크업, 조명, 카메라 앵글이 그대로인 템플릿이 한 앱에서 판매되고 있었습니다. 다만 얼굴만 지워져 있었습니다. 사용자들은 돈을 내고 그 템플릿에 자신의 얼굴을 합성할 수 있었습니다.

원고들은 두 가지를 주장했습니다. 첫째, 초상권 침해. 둘째, 개인정보 침해.

법원의 판단은 미묘했습니다. 그리고 바로 그 미묘함이 이 판결을 중요하게 만들었습니다.

첫째, 초상권에 대해 법원은 "침해 아님"이라고 판단했습니다. 중국 민법전에 따르면 초상권 침해는 '초상의 작성, 사용, 공개'를 포함합니다. 여기서 핵심은 '식별 가능성'입니다. 원고들의 얼굴이 템플릿에서 지워졌기 때문에, 최종 결과물에서 원고들을 '식별'할 수 없었습니다. 다른 사람의 얼굴이 합성된 영상을 본 사람은 원고들을 떠올리지 않습니다.

하지만 법원은 여기서 멈추지 않았습니다. 둘째, 개인정보에 대해 법원은 "침해"라고 판단했습니다. 이것이 이 판결의 핵심입니다. 템플릿을 만드는 과정에서 피고는 원고들의 원본 영상을 수집하고 처리했습니다. 그 영상에는 원고들의 얼굴이 담겨 있었습니다. 얼굴 정보는 중국 개인정보보호법(PIPL) 상 '민감 개인정보'에 해당합니다.

법원의 논리는 이랬습니다. 결과물에서 원고의 얼굴이 보이지 않는다고 해서, 그 과정이 적법해지는 것은 아닙니다. 피고는 원고의 동의 없이 얼굴 데이터를 수집했습니다. 그것을 분석했습니다. 그것을 기반으로 상업적 상품을 만들었습니다. 이 과정 자체가 개인정보 침해입니다.

이 분리 논리는 실무적으로 강력한 함의를 갖습니다. 딥페이크 서비스 제공자들은 흔히 "결과물에 원고의 얼굴이 없으니 초상권이 아니다"라는 방어를 택합니다. 하지만 이 판결에 따르면, 서비스 제공자는 결과물의 외형만으로 빠져나갈 수 없습니다. 법원은 전체 공정(公程) 을 봅니다. 수집, 처리, 제공. 어느 단계에서든 개인정보가 부적절하게 다뤄졌다면, 책임이 발생합니다.

피고는 또 다른 항변을 제기했습니다. "우리는 제3의 회사에 얼굴 바꾸기 기술을 외주 맡겼다. 실제 처리는 그쪽에서 했다." 법원은 이것도 받아들이지 않았습니다. 피고가 서비스의 방식과 범위를 결정했고, 그것으로 수익을 얻었다면, 외주는 면책 사유가 되지 않습니다.

배상액은 3,500위안(약 65만 원)이었습니다. 경제적 손실 2,500위안, 정신적 고통 1,000위안. 금액은 적었습니다. 하지만 판사 쑨밍시(孫明喜)는 판결 후 기자들에게 말했습니다. "이 판결이 신흥 기술의 적용을 규범화하고, 디지털 경제의 건전한 발전을 촉진하는 데 도움이 되기를 바란다."

이 판결은 중국의 AI 규제 체계 전체와 연결됩니다. 2023년 1월에 시행된 '인터넷 정보서비스 심도합성(深度合成) 관리규정'은 딥페이크 서비스 제공자에게 원본 인물의 동의 획득, 생성물에 대한 표시 의무를 부과합니다. 법원의 민사 판결은 이 규제의 실효성을 확인한 셈입니다. 기술이 가능하다고 해서 허용되는 것은 아닙니다. 기술의 발전 속도가 빠를수록, 주의의무는 더 강해집니다.

나. AI 스타일 모방과 부정경쟁

(1) TikTok v. B612 필터 사건: 91.7% 유사도

2020년 6월, 틱톡의 중국판 앱인 더우인(抖音)은 '변신만화특효'라는 필터를 출시했습니다. 사용자의 얼굴을 실시간으로 감지해 일본 애니메이션 스타일로 바꿔주는 기능이었습니다. 화면 속 사람은 갑자기 큰 눈과 뾰족한 턱을 가진 만화 캐릭터가 되었습니다. 이 필터는 대히트를 쳤습니다. 수억 명의 사용자가 자신의 얼굴을 만화로 바꾸며 영상을 찍었습니다.

두 달 뒤, 경쟁 앱 B612에 거의 똑같은 기능이 등장했습니다. '소녀만화특효'라는 이름이었습니다. 효과는 사실상 동일했습니다.

바이트댄스의 변호사들은 의심했습니다. 이것은 우연의 일치가 아니다. 그들은 B612 운영사를 제소했습니다. 하지만 문제가 있었습니다. 무엇을 가지고 '복제'를 증명할 것인가?

전통적인 저작권 분쟁에서는 소스코드를 비교합니다. A의 코드와 B의 코드가 얼마나 같은지를 봅니다. 하지만 AI 필터는 다릅니다. 두 회사가 같은 공개 학습 데이터를 사용했을 수도 있습니다. 같은 신경망 구조를 채택했을 수도 있습니다. 결과물이 비슷하다고 해서 반드시 복제라고 할 수 없습니다.

바이트댄스는 다른 전략을 택했습니다. 저작권이 아니라 '부정경쟁'을 주장했습니다.

부정경쟁이란 무엇인가? 쉽게 비유하면 이렇습니다. 당신이 레스토랑을 운영한다고 가정합시다. 수년간 비용을 들여 독특한 레시피를 개발했습니다. 인테리어도 특별하게 꾸몄습니다. 손님들이 당신의 레스토랑을 알아봅니다. 그런데 어느 날, 건너편에 거의 똑같은 레스토랑이 문을 엽니다. 메뉴도 비슷하고, 인테리어도 비슷합니다. 손님들이 헷갈립니다. 이것이 부정경쟁입니다. 당신이 투자한 노력과 비용에 무임승차하는 행위입니다.

법원은 기술 감정을 실시했습니다. 두 앱의 AI 모델 내부 구조를 분석했습니다. 결과는 충격적이었습니다. 전체 네트워크 구조가 거의 동일했습니다. 36개의 컨볼루션 레이어(Convolutional Layer) 중 33개가 정확히 일치했습니다. 매개변수(Parameter) 설정까지 세부적으로 일치했습니다. 수치로 환산하면 91.7%의 유사도였습니다. 2025년 3월 31일, 베이징 지식재산권법원은 항소심에서 바이트댄스의 손을 들어주었습니다. 법원은 두 가지를 인정했습니다. 첫째, 더우인의 AI 모델 구조와 파라미터는 "대량의 자원을 투입하여 개발하고 훈련시킨" 결과물이다. 둘째, 이것은 더우인에게 "시장 우위와 경영 수익을 가져다주는 경쟁적 이익(Competitive Interests)"에 해당한다. 따라서 B612 측이 이를 무단으로 모방하여 유사한 서비스를 제공한 것은 "정당한 경쟁 이익을 침해하고 시장 질서를 교란한 부정경쟁행위"다.

(2) AI 모델 내부 구조의 경쟁적 이익 보호

이 판결의 핵심적 의의는 'AI 모델의 구조와 파라미터'를 법적으로 보호할 수 있게 되었다는 점입니다.

AI 모델은 요리 레시피와 비슷합니다. 재료(데이터)를 모으고, 조리법(알고리즘)을 적용하고, 수없이 맛을 보며 조절(튜닝)해서 완성합니다. 완성된 요리(결과물)를 보고 레시피를 역추적하는 것은 어렵지만, 불가능하지는 않습니다. 누군가가 당신의 레스토랑에서 매일 식사를 하면서 요리를 분석한다면, 결국 비슷한 맛을 낼 수 있을 것입니다.

AI 업계에서 이것을 '지식 증류(Knowledge Distillation)'라고 부릅니다. 경쟁사의 AI 모델에 수백만 번의 질문을 던지고, 그 답변을 모아 자신의 모델을 학습시키는 기법입니다. 소스코드를 훔치는 것도 아니고, 데이터를 빼오는 것도 아닙니다. 하지만 결과적으로 상대방의 '지능' 을 복제하는 것입니다.

중국 법원은 이 문제에 대해 명확한 입장을 취했습니다. AI 모델의 내부 구조, 파라미터, 튜닝 결과물은 기업의 '경쟁적 이익'으로 보호받을 수 있습니다. 전통적인 저작권법이나 특허법으로 보호하기 어려운 영역을 '반부정경쟁법'이 메운 셈입니다.

이것은 단순히 기술의 문제가 아닙니다. 투자의 문제입니다. 더우인은 수십만 장의 이미지를 모았습니다. 디자이너를 고용했습니다. 수천 시간의 컴퓨팅 자원을 소비하며 모델을 훈련시켰습니다. 이 모든 비용이 AI 모델 안에 농축되어 있습니다. 누군가가 그 결과물만 보고 베낀다면, 이 모든 투자가 물거품이 됩니다.

물론 입증은 어렵습니다. 침해자는 대개 "독자 개발"을 주장합니다. 권리자는 상대방의 시스템 내부를 들여다볼 방법이 없습니다. 그래서 이런 소송은 결과물의 유사성만으로 끝나지 않습니다. 개발 과정의 기록, 데이터 출처, 파라미터 업데이트 이력, 직원의 이직 기록 같은 '정황 증거'가 중요해집니다.

이 판결은 중국 AI 산업에 명확한 메시지를 보냈습니다. 선발 주자의 성과를 무임승차로 복제하는 것은 법적 리스크를 수반합니다. 후발 주자는 독자적인 개발 과정을 증명할 수 있어야 합니다. 그렇지 않으면, 91.7%라는 숫자가 법정에서 당신을 기다리고 있을 것입니다.

다. 다층적 책임 구조

(1) AI 이용자의 원칙적 책임

중국의 AI 규제를 이해하려면 거대한 피라미드를 상상하면 됩니다. 맨 위에는 국가가 있습니다. 규칙을 정합니다. 그 아래 플랫폼 기업이 있습니다. 규칙을 집행합니다. 맨 밑에 사용자가 있습니다. 규칙을 따릅니다. 어느 층에서든 문제가 생기면, 그 층의 누군가가 책임을 집니다.

첫 번째 원칙은 단순합니다. 도구를 사용한 사람이 결과를 책임진다.

베이징 인터넷법원이 발표한 전형 사례 중 하나는 이 원칙을 명확히 보여줍니다. 한 사용자가 타인의 위챗 프로필 사진을 가져와 AI로 모욕적인 이미지를 만들었습니다. 그리고 그것을 단체 채팅방에 올렸습니다. 피해자는 소송을 제기했습니다.

법원은 사용자의 책임을 인정했습니다. "장난이었다"는 변명은 통하지 않았습니다. AI가 이미지를 만들었다는 사실도 면책 사유가 되지 않았습니다. 프롬프트를 입력한 것은 사용자입니다. 엔터 키를 누른 것도 사용자입니다. 결과물을 유포한 것도 사용자입니다. 모든 의사결정의 주체는 인간입니다.

이 원칙은 AI 시대의 기본 법리를 확립합니다. AI는 도구입니다. 망치로 사람을 때리면, 망치 제조사가 아니라 망치를 휘두른 사람이 책임을 집니다. AI도 마찬가지입니다.

(2) 서비스 제공자의 규범적 행위 주체 책임

하지만 AI는 일반 망치와 다른 점이 있습니다. 망치는 휘두르지 않으면 아무것도 하지 않습니다. AI는 다릅니다. AI는 학습합니다. 추천합니다. 최적화합니다. 때로는 사용자가 의도하지 않은 결과를 만들어냅니다.

그래서 중국 법원은 두 번째 층위의 책임을 부과합니다. '서비스 제공자'의 책임입니다.

앞서 살펴본 AI 음성 사건을 다시 보겠습니다. 성우 인씨의 목소리가 무단으로 AI화된 사건에서, 법원은 개발사, 판매 플랫폼, 운영 업체 모두에게 책임을 물었습니다. 각자는 "나는 기술만 제공했다", "나는 플랫폼만 운영했다", "나는 상품만 샀다"고 항변했습니다. 법원은 이 모든 항변을 기각했습니다. 법원의 논리는 이랬습니다. 서비스 제공자는 '규범적 행위 주체'입니다. 단순히 기술을 제공하는 중립적 존재가 아닙니다. 서비스의 방식과 범위를 결정하고, 그것으로 이익을 얻는 존재입니다. 그렇다면 그에 상응하는 책임도 져야 합니다.

이 책임에는 두 가지 층위가 있습니다. 첫째, 데이터 처리자로서의 책임. 얼굴이나 목소리 같은 민감 정보를 수집할 때는 동의를 받아야 합니다. 수집 목적을 명시해야 합니다. 보안 조치를 취해야 합니다. 이것이 결여되면 곧바로 위법입니다. 둘째, 정보 서비스 제공자로서의 관리 책임. 생성물에 AI 생성임을 표시해야 합니다. 오남용을 방지하는 시스템을 구축해야 합니다. 신고가 들어오면 조치를 취해야 합니다.

2023년 8월에 시행된 '생성형 AI 서비스 관리 잠정방법'은 이 의무들을 명문화했습니다. 법원의 판결은 이 규정의 실효성을 확인합니다. 기업들은 더 이상 "우리는 플랫폼일 뿐"이라는 말로 책임을 회피할 수 없습니다.

(3) 플랫폼의 사전 예방 의무: 모델 최적화 교육

중국 AI 규제의 가장 독특한 특징은 '사전 예방'을 강조한다는 점입니다. 서구의 규제가 대체로 "문제가 터지면 처벌한다"는 사후적 접근을 취하는 반면, 중국은 "문제가 터지지 않도록 막아라"고 명령합니다.

이것을 '모델 최적화 교육 의무'라고 부릅니다. 플랫폼은 AI가 불법적인 콘텐츠를 생성하지 않도록 모델을 지속적으로 조정해야 합니다. 단순히 금지어 필터를 거는 수준이 아닙니다. 모델의 가중치(Weights)를 조정하고, 강화 학습(RLHF)을 적용하고, 출력물을 모니터링해야 합니다.

예를 들어, 누군가가 AI 이미지 생성 서비스에 "울트라맨을 그려줘"라고 입력했다고 가정합시다. 울트라맨은 일본 기업의 저작물입니다. AI가 울트라맨과 유사한 이미지를 생성한다면, 저작권 침해가 발생합니다. 광저우 인터넷법원의 판결에서 법원은 서비스 제공자에게 책임을 물었습니다. "왜 울트라맨이라는 키워드를 필터링하지 않았는가? 왜 학습 데이터에서 울트라맨 관련 이미지를 걸러내지 않았는가?"

이 의무가 과잉 규제가 아니냐는 비판도 있습니다. 모든 저작권 침해 가능성을 사전에 막는 것은 기술적으로 불가능합니다. 법원도 이를 인정합니다. 법원이 요구하는 것은 '완벽한 예방'이 아니라 '통제 가능성과 위험 예견에 비례한 조치'입니다. 플랫폼이 합리적인 주의의무를 다했다면, 개별 사용자의 침해 행위에 대해서까지 책임을 지지 않습니다. 하지만 플랫폼이 수익화 구조를 극대화하면서 "우리는 중립적 도구"라고 주장한다면, 법원은 그 주장을 받아들이지 않습니다.

이 다층적 책임 구조는 중국 AI 생태계를 독특하게 만들고 있습니다. 기업들은 혁신적인 모델을 개발하는 것보다, 규제 당국의 요구에 맞는 '안전한' 모델을 만드는 데 더 많은 자원을 투입합니다. 수천 명의 인력이 AI 출력물을 검수하고, 데이터를 라벨링하고, 모델을 조정합니다.

아이러니하게도, 이 엄격한 통제 시스템은 중국 AI 기업들에게 강력한 '해자(垓子, 방어벽)'가 되기도 합니다. 외국 기업들이 이 복잡하고 무거운 책임 구조를 감당하며 중국 시장에 진입하기란 거의 불가능하기 때문입니다. 결국 중국의 AI 법률 전쟁터에서 살아남는 자는 기술이 가장 뛰어난 자가 아닙니다. 이 다층적인 책임의 그물망을 가장 잘 통과하는 자, 판사와 규제 당국이 요구하는 '관리 의무'를 가장 성실히 수행하는 자가 승리합니다.

이것이 중국식 AI 거버넌스의 민낯입니다. 그리고 이 모델이 작동하는지, 아니면 혁신을 질식시키는지는 아직 판단하기 이릅니다. 확실한 것은 하나입니다. 중국 법원은 AI가 만들어낸 모든 문제에 대해 누군가에게 책임을 물을 준비가 되어 있습니다. 그 누군가는 사용자일 수도 있고, 서비스 제공자일 수도 있고, 플랫폼일 수도 있습니다. 하지만 "AI가 했다"는 말은 변명이 되지 않습니다.