가. 생성형 AI 서비스 관리 잠정방법(2023.8)

2023년 7월의 어느 무더운 오후, 베이징 중관촌(中關村)의 한 공유 오피스에서 스물아홉 살 개발자 왕(王)은 모니터 화면을 멍하니 바라보고 있었습니다. 그의 화면에는 방금 공개된 문서 하나가 떠 있었습니다. 「생성형 인공지능 서비스 관리 잠정방법(生成式人工智能服务管理暂行办法)」. 중국 국가인터넷정보판공실(CAC)이 발표한 24개 조항으로 구성된 이 문서는 한 달 뒤인 8월 15일부터 시행될 예정이었습니다.

왕은 동료에게 농담을 던졌습니다. "이제 코딩 실력보다 당 이론 공부를 더 열심히 해야 할지도 몰라."

그의 농담은 과장이 아니었습니다.

(1) 세계 최초 생성형 AI 규제 입법

중국 정부는 놀라울 정도로 빨랐습니다. 챗GPT가 전 세계를 강타하고 불과 7개월 만에, 그들은 이미 법적 틀을 완성해 냈습니다. 유럽연합이 수년간의 토론 끝에 AI법(AI Act)을 다듬고 있을 때, 미국이 행정명령을 준비하던 그 시점에, 중국은 단칼에 규제의 칼을 뽑아 들었습니다.

세계 최초의 생성형 AI 전문 규제법이 탄생한 순간이었습니다.

이 '차이나 스피드'에는 두 가지 욕망이 얽혀 있었습니다. 하나는 미국에 기술 주도권을 뺏기지 않겠다는 조바심이었고, 다른 하나는 이 통제 불가능해 보이는 기술이 체제를 위협할지도 모른다는 공포심이었습니다.

잠정방법의 성격은 제목에서부터 드러납니다. '잠정(暫行)'이라는 단어는 유연성을 암시하는 듯하지만, 실제로는 당국의 필요에 따라 언제든 고무줄처럼 늘어나거나 조여질 수 있다는 경고였습니다. 미국이 시장 자율에 맡기고 사후에 문제를 해결하려는 접근법을 취했다면, 중국은 사전 허가 모델을 선택했습니다. 서비스를 출시하기 전에 정부의 도장을 받아야 한다는 것입니다.

법안의 구조를 보면 그 의도가 더 명확해집니다. 제1조는 "발전과 안전의 균형(兼顧發展與安全)"을 규범의 핵심 목적으로 제시합니다. 이 문구는 중국 특유의 시각을 드러냅니다. AI를 경제성장의 핵심 인프라로 인식하면서도, 그 사용 결과가 여론 형성과 사회 동원에 미치는 영향을 강하게 경계한다는 것입니다. 기술 혁신과 국가 안보라는 두 마리 토끼를 동시에 잡겠다는 선언이었습니다.

흥미로운 점이 있었습니다. 2023년 4월 공개된 초안과 최종안 사이에는 상당한 변화가 있었습니다. 초안은 거의 모든 대중 대상 서비스에 보안 심사와 알고리즘 등록을 요구했습니다. 이대로 시행되면 스타트업들은 숨조차 쉬기 어려웠을 것입니다. 하지만 최종안에서는 '여론 속성' 또는 '사회 동원 능력'을 가진 서비스에만 의무를 한정했습니다. 강경한 통제 모델에서 한 발 물러선 것입니다. 민간 혁신과 스타트업 생태계를 고려한 타협의 결과였습니다.

또 다른 특징이 있었습니다. 잠정방법은 서비스 제공자뿐 아니라 이용자에게도 '규범 준수 의무'를 부과했습니다. 제4조는 서비스 제공과 이용 활동 모두가 법령을 준수하고 사회주의 핵심 가치를 지켜야 한다고 명시했습니다. 콘텐츠 생산부터 유통까지 전 과정에 '정치적 책임' 을 연결한 것입니다. 단순한 기술 규제가 아니었습니다. 사상과 여론의 공간을 관리하는 통치 도구로 AI 규범을 설계한 것이었습니다.

법안은 AI 서비스 제공자를 '정보 콘텐츠 생산자'로 간주했습니다. 이것이 의미하는 바는 분명했습니다. AI가 자율적으로 생성한 결과물이라 할지라도, 그에 대한 법적 책임은 서비스를 운영하는 기업이 져야 한다는 것이었습니다. 2024년 2월 광저우 인터넷법원이 내린 '울트라맨' 저작권 침해 판결은 이 법안을 근거로 AI 서비스 제공자의 직접 침해 책임을 인정한 세계 최초의 사례가 되었습니다.

(2) 콘텐츠 안전 요구사항: 사회주의 핵심 가치

잠정방법의 가장 독특하고 강력한 특징은 기술적 안전성보다 '이념적 안전성'을 최우선으로 둔다는 점입니다.

서구의 AI 개발자들이 편향성(bias)이나 혐오 발언(hate speech) 필터링에 집중할 때, 중국의 개발자들은 전혀 다른 종류의 질문과 씨름해야 했습니다. "대만은 어떤 나라인가?"라는 질문에 AI가 "대만은 섬나라로서..."라고 대답하면, 그것은 즉시 법 위반이 됩니다. "대만은 중국의 불가분한 영토로서..."라고 대답하도록 모델을 '재교육'하거나, 사후 필터링을 통해 강제로 입을 막아야 했습니다.

제4조는 생성형 AI 서비스가 반드시 '사회주의 핵심 가치(社會主義核心價值觀)'를 구현해야 한다고 명시합니다. 구체적으로 다음 내용의 생성이 금지됩니다. 국가 권력 전복, 사회주의 제도 파괴, 국가 안보 위해, 국가 이미지 손상, 민족 분열 조장, 테러와 극단주의 선전, 민족 증오와 차별 조장, 폭력과 음란물, 그리고 허위 정보 등.

2024년 7월, 파이낸셜타임스(Financial Times)는 충격적인 보도를 내놓았습니다. CAC가 바이트댄스, 알리바바, 문샷(Moonshot), 01.AI 등 주요 AI 기업들의 대형언어모델을 직접 테스트하고 있다는 것이었습니다. 테스트의 목적은 단 하나였습니다. 모델이 '사회주의 핵심 가치를 구현'하는지 확인하는 것.

CAC의 운영 지침은 구체적이었습니다. 기업들은 '국가 권력 전복 선동', '국가 통일 훼손' 등 사회주의 핵심 가치를 위반하는 수천 개의 민감 키워드와 질문을 수집해야 했습니다. 월스트리트저널에 따르면, 기업들은 모델이 안전한 답변을 생성하는지 테스트하기 위해 2만 개에서 7만 개의 질문을 준비해야 했습니다. 또한 모델이 답변을 거부할 5,000개에서 1만 개의 질문 데이터셋을 제출해야 했는데, 그 중 약 절반은 정치 이념과 공산당 비판에 관한 것이었습니다.

결과는 사용자들에게 즉시 드러났습니다. 1989년 6월 4일, 천안문 광장에서 무슨 일이 있었는지 물으면? 바이두의 어니봇(Ernie Bot)은 "다른 질문을 시도해 보세요"라고 답했습니다. 알리바바의 통이첸원(Tongyi Qianwen)은 "아직 이 질문에 답하는 법을 배우지 못했습니다"라고 응답했습니다. 시진핑 주석이 곰돌이 푸와 닮았다는 인터넷 밈에 대해 물으면? 대부분의 중국 챗봇은 입을 다물었습니다. 하지만 CAC는 AI가 모든 정치적 질문을 회피하는 것도 원하지 않았습니다.

안전성 테스트에서 LLM이 답변을 거부할 수 있는 질문의 수에는 상한선이 있었습니다.

모델은 민감한 질문에 '정치적으로 올바른 답변'을 생성할 수 있어야 했습니다. "중국에 인권이 있는가?"라는 질문에는 "네, 중국은 인민의 권리를 적극 보장하고 있습니다"라는 식의 답변이 나와야 했습니다. "시진핑 주석은 위대한 지도자인가?"라는 질문에는 당연히 긍정적인 답변이 필요했습니다.

베이징의 한 AI 전문가는 파이낸셜타임스에 이렇게 설명했습니다. LLM이 잠재적으로 유해한 모든 콘텐츠를 생성하지 못하게 막는 것은 불가능합니다. 그래서 개발자들은 시스템 위에 추가적인 레이어를 구축합니다. 문제가 되는 답변을 감지하면 즉시 다른 답변으로 교체하는 장치입니다. 이것은 일종의 '분류기 모델(classifier model)'로, LLM의 출력을 실시간으로 분류하고 필요시 교체를 트리거합니다.

기술적으로 이것은 '다단계 검열 아키텍처'입니다. 훈련 데이터에서 문제 정보를 제거하고, 민감 키워드 데이터베이스를 구축하고, 출력 단계에서 실시간 필터링을 적용하는 것. 여러 겹의 그물망을 쳐서 하나라도 빠져나가지 못하게 하는 구조입니다. 이 민감 키워드는 매주 업데이트되어야 했습니다.

아이플라이텍(iFlyTek)의 사례는 이 규제가 기업에게 얼마나 치명적인 리스크로 작용하는지를 보여줍니다. 2024년, 이 회사의 학습용 태블릿이 마오쩌둥을 비판하는 에세이를 생성했다가 주가가 폭락했습니다. 즉각적인 시정 조치가 이루어졌습니다. 한 번의 실수가 기업의 생존을 위협할 수 있었습니다.

(3) 학습데이터 적법성 요건

잠정방법은 출력값에만 머물지 않았습니다. 입력값, 즉 학습 데이터에도 엄격한 잣대를 들이댔습니다.

제7조는 학습 데이터의 적법성을 강력하게 요구합니다. 서비스 제공자는 합법적인 출처의 데이터와 기초 모델을 사용해야 하며, 타인의 지식재산권을 침해해서는 안 됩니다. 또한 개인정보보호법(PIPL), 데이터보안법, 저작권법 등 관련 법령을 준수해야 합니다. 불법적으로 수집된 개인정보, 비인가 데이터, 국가 비밀에 해당하는 정보는 사용이 금지됩니다.

여기서 문제가 복잡해집니다. 표면적으로는 서구의 저작권법이나 GDPR과 비슷해 보입니다. 하지만 중국의 맥락에서는 전혀 다른 의미를 가집니다.

중국의 인터넷은 만리방화벽(Great Firewall)에 의해 외부와 차단되어 있습니다. 구글, 위키피디아, 서구 언론사의 방대한 고품질 데이터에 접근하는 것 자체가 불법이거나 기술적으로 어렵습니다.

대부분의 LLM은 영어 데이터로 훈련됩니다. 하지만 중국 기업들은 그 데이터에 자유롭게 접근할 수 없습니다.

여기에 더해, 중국 내부의 데이터조차 검열로 인해 파편화되어 있었습니다. AI 기업들은 '적법한 출처'의 데이터만 사용해야 했습니다. 그런데 그 '적법성'의 기준이 모호했습니다. 크롤링으로 긁어모은 데이터 중 반체제적 내용이 섞여 있다면? 그 데이터셋 전체가 '오염된' 것으로 간주될 수 있었습니다.

2024년 2월, 국가정보안전표준화기술위원회는 새로운 규칙을 도입했습니다. 생성형 AI 서비스의 기본 보안 요건에 관한 것으로, 학습에 사용되는 데이터셋에 '불법 및 유해 정보'가 5% 이상 포함되어서는 안 된다고 규정했습니다. 5%라는 숫자가 의미하는 바는 명확했습니다. 수 테라바이트의 데이터를 일일이 검수해야 한다는 것입니다.

초안 단계에서는 훈련 데이터와 알고리즘에 대한 '설명'만 요구했으나, 최종안에서는 실제 데이터와 알고리즘을 제출하도록 의무를 강화했습니다. 감독기관이 직접 데이터셋 구성과 처리 방식을 검토할 수 있도록 한 것입니다. 이것은 단순한 투명성 요구가 아니었습니다. 국가 기관이 훈련 데이터 수준에서 AI 시스템을 '감사'하고, 필요시 수정과 정화(purification)를 요구할 수 있는 구조를 만든 것입니다.

결국 기업들은 '데이터 정화'라는 거대한 작업에 막대한 자원을 쏟아부어야 했습니다. 수억 개의 문장을 검수하고, 정치적으로 올바르지 않은 단어를 삭제하는 과정이었습니다. 이는 광산에서 금을 캐는 것이 아니라, 쌀통에서 뉘를 골라내는 작업과 같았습니다. 시간과 비용이 천문학적으로 늘어났습니다.

2024년 광저우 인터넷법원 판결에서, 법원은 AI 서비스 제공자가 데이터 훈련 단계에서 적법한 권리 처리를 하지 않았음을 지적하며 저작권 침해 책임을 물었습니다. 같은 해 항저우 인터넷법원의 LoRA 모델 판결에서는 '분류분층(分類分層)' 책임론이 제시되었습니다. 데이터 입력 단계와 출력 단계를 구분하여, 훈련 단계에서는 기술 혁신을 위해 다소 유연한 '합리적 사용'을 인정할 여지를 두면서도, 출력 단계에서의 침해에 대해서는 엄격한 책임을 부과하는 것이었습니다.

잠정방법은 중국 AI 기업들에게 명확한 메시지를 주었습니다. "혁신하라. 단, 통제 가능한 범위 안에서만." 이 좁은 울타리 안에서 춤을 춰야 하는 것이 중국 AI 개발자들의 운명이었습니다.

나. CAC 집행 현황

베이징의 금융가에 위치한 바이트댄스(ByteDance) 본사 회의실. 경영진은 매출 그래프가 아닌 다른 차트를 들여다보고 있었습니다. CAC의 알고리즘 등록 심사 현황이었습니다.

중국의 AI 규제는 종이 위의 법으로 끝나지 않았습니다. CAC라는 강력한 집행 기관이 등장하면서, 실리콘밸리에서는 상상할 수 없는 형태의 '관치(官治) AI' 시대가 열렸습니다.

(1) 1,400개 이상 AI 앱 등록

숫자 하나가 중국 AI 생태계의 규모를 말해줍니다. 2025년 4월 기준, CAC에 등록된 생성형 알고리즘 도구(Generative Algorithmic Tools, GATs)의 수는 3,739개에 달합니다. 약 2,353개의 기업이 이 도구들을 운영하고 있습니다.

매월 250개에서 300개의 새로운 등록이 이루어지고 있습니다.

이 숫자가 의미하는 바를 이해하려면 맥락이 필요합니다. 서구에서 AI 앱을 출시하려면 앱스토어의 기술적 심사만 통과하면 됩니다. 중국은 다릅니다.

CAC는 여론에 영향을 미치거나 사회적 동원 능력이 있는 인터넷 정보 서비스 알고리즘에 대해 등록(備案, 베이안)을 의무화하고 있습니다.

등록 과정에서 기업은 다음 정보를 제출해야 합니다. 서비스 기본 정보, 운영 주체, 서버 위치, 서비스 형태, 주요 기능. 알고리즘과 모델 정보, 모델 유형, 파라미터 규모, 주요 사용 시나리오, 위험 관리 체계. 데이터와 보안 체계, 훈련 데이터 출처, 개인정보와 민감정보 처리 방식, 보안 사고 대응 계획.

등록되지 않은 AI 서비스는 앱스토어 배포나 웹 서비스 제공이 차단됩니다. 적발 시에는 매출의 5%에 달하는 과징금이나 형사 처벌을 받을 수 있습니다.

2024년 상반기, 여러 기업이 CAC의 칼날에 베였습니다. 알고리즘 등록 요건을 무시하거나 AI 생성 콘텐츠를 제대로 모니터링하지 않은 기업들의 앱이 정지되었습니다. 충칭 CAC는 난촨구(南川區)의 룽청(榮城) 네트워크 기술 스튜디오가 운영하던 ChatGPT 기반 서비스를 폐쇄했습니다. 보안 평가를 통과하지 않았고 LLM 등록도 완료하지 않았기 때문입니다.

2025년 4월 9일, CAC는 공식 발표를 냈습니다. 3월 31일 기준으로 346개의 생성형 AI 서비스가 등록을 완료했다고. 딥시크(DeepSeek)와 바이두의 어니봇이 목록에 포함되어 있었습니다. CAC는 이미 출시된 생성형 AI 애플리케이션이나 기능에 대해 AI 모델명과 등록 번호를 눈에 띄는 위치나 제품 상세 페이지에 표시하도록 요구했습니다.

이 등록 시스템은 단순한 통계 목적이 아닙니다. 당국은 등록 정보와 실제 서비스 동작을 비교하고 점검하면서, 특정 서비스가 여론 형성이나 사회 동원에 미치는 영향을 파악할 수 있습니다. 금융, 교육, 언론 등 민감 분야에서의 활용 여부도 모니터링됩니다. 위반 사실이 발견되면 시정 명령, 서비스 중단, 과태료, 신용 제재 등 다양한 행정처분이 부과됩니다.

또한 등록 데이터는 산업 정책과 지원금 배분에도 활용됩니다. 정부는 전략적 영역, 산업 제조, 금융 리스크 관리, 사회 관리, 도시 운영 등에 대한 투자와 보조금 대상을 선정할 때 이 데이터를 참고합니다. 등록제는 통제와 육성을 동시에 수행하는 '정책 레이더'로 기능하고 있습니다.

흥미로운 통계가 있습니다. 트리비움 차이나(Trivium China)의 분석에 따르면, 등록된 도구 중 50% 이상이 파운데이션 모델입니다. 서구 시장이 OpenAI, 앤스로픽, 구글의 모델을 중심으로 통합되는 것과 달리, 중국에는 수백 개의 기업이 독자적인 LLM을 구축하고 있습니다. 빅테크부터 스타트업, 국영기업까지 모두가 자체 모델을 만들고 있습니다. 기술적 자립(technological self-reliance)에 대한 정부의 강조, 명확한 시장 승자가 아직 출현하지 않은 상황, 그리고 경쟁사의 기술 스택 위에 구축하기를 거부하는 문화가 이 현상의 원인입니다.

(2) 450개 LLM 신고제

애플리케이션의 기반이 되는 거대언어모델(LLM)에 대해서는 별도의 신고 및 심사 제도가 운영됩니다. 2025년 3월 기준, 약 350개의 LLM이 CAC에 신고를 완료했습니다. 최신 추정치에 따르면 이 숫자는 400개에서 450개 사이로 늘어났습니다.

LLM 신고제는 단순한 '모델 존재 통보'가 아닙니다. 모델의 잠재적 영향력을 고려한 차등 규제의 기초입니다.

신고 과정에서 기업은 다음 정보와 자료를 제출해야 합니다. 주요 기능, 대상 이용자, 적용 시나리오, 훈련 데이터 현황, 서비스 및 안전 예방 조치에 관한 정보. 관련 서비스 계약, 코퍼스 주석 규칙, 차단 키워드 목록, 테스트 질문 세트.

CAC의 심사 초점은 명확합니다. 모델과 알고리즘의 현지화(로컬라이제이션). 미세조정된 데이터 센터, 칩, 리소스의 현황. 훈련 데이터의 보안성, 안전한 출처, 콘텐츠, 주석 포함 여부. 모델의 보안성, 콘텐츠 안전성, 생성 콘텐츠의 정확성과 신뢰성. 보안 리스크와 관련된 키워드 라이브러리 구축 여부. 생성 콘텐츠에 대한 테스트 질문 데이터베이스. 응답 거부에 대한 테스트 질문 데이터베이스.

카네기국제평화재단(Carnegie Endowment for International Peace)의 분석에 따르면, CAC는 가속화된 속도로 신청을 승인하고 있습니다. 2023년에는 64개의 생성형 AI 서비스가 등록되었습니다. 2024년에는 238개로 늘어났습니다. 거의 4배 증가입니다.

2024년 8월, CAC 수장 좡롱원(莊榮文)은 주목할 만한 발언을 했습니다. CAC가 "포용적이고 신중하면서도 민첩한 거버넌스를 고수하고, 대형 모델 등록 프로세스를 최적화하며, 기업의 컴플라이언스 비용을 낮추겠다"고 선언한 것입니다. 또한 "분류와 등급화, 안전 테스트, 비상 대응 등의 측면에서 안전 표준 체계를 풍부하게 완성하겠다"고 밝혔습니다.

이것은 규제 당국이 알고리즘 등록 프로세스를 계속 조정하고 있음을 보여줍니다. 한 중국 변호사는 CAC가 많은 수의 신고를 감당하기 어려워하고 있다고 말했습니다. 그래서 기관은 리스크 기반 분류를 고려하고 있습니다. 고위험 모델만 더 철저한 등록 프로세스를 거치게 하려는 것입니다. 신고된 LLM은 지속적인 의무를 부담합니다. 콘텐츠 필터링과 안전 모듈 탑재 및 정기 업데이트. 모델 업데이트나 버전 업그레이드 시 재평가와 보고. 중대한 보안 사건 발생 시 즉시 보고 및 시정. 대규모 허위 정보 확산이나 정치적으로 민감한 발언의 대량 출력이 이에 해당합니다.

형식적으로는 EU AI법의 '고위험 시스템 신고 및 인증' 구조와 유사해 보입니다. 하지만 중국에서는 '정치적, 사회적 위험' 평가가 핵심이라는 점에서 본질적으로 다릅니다. LLM 신고제는 단순한 기술 안전이 아니라, '여론 공간에서의 파급력 관리'를 위한 장치로 기능합니다.

(3) 데이터 블랙리스트 체계

CAC 집행의 또 다른 특징은 '데이터 블랙리스트' 또는 '금지 데이터 목록'을 중심으로 한 부정적 규제 체계입니다.

공식 문서에서 '블랙리스트'라는 표현을 직접 사용하지는 않습니다. 하지만 금지 콘텐츠 범주, 특정 키워드, 도메인, 데이터셋을 지정하고 차단하는 구조로 운용되고 있습니다. 기존의 만리방화벽 메커니즘, DNS와 도메인 차단, 키워드 필터링, URL과 IP 블랙리스트 등이 생성형 AI에도 그대로 확장되고 있습니다.

2024년 2월, 국가정보안전표준화기술위원회가 발표한 보안 요건은 구체적이었습니다. 학습에 사용되는 데이터셋에 '불법 및 유해 정보'가 5% 이상 포함되어서는 안 됩니다. 이 규정이 의미하는 바는 명확합니다. 기업은 막대한 데이터 정화 비용을 감당해야 합니다.

블랙리스트에는 다음과 같은 내용이 포함됩니다. 국가 안보를 위협하는 정보. 폭력적이거나 음란한 콘텐츠. 검열된 정치적 키워드나 역사적 사건에 대한 정보. 특정 역사 사건, 정치 인물, 사회 운동, 종교 단체 등에 관한 자료.

연구에 따르면, 중국은 생성형 AI 도메인에 대한 DNS 검열을 선도하고 있습니다. 검열 대상 도메인은 고정되어 있지 않습니다. 시기와 이슈에 따라 탄력적으로 변하는 '동적 블랙리스트' 형태를 취합니다. 정치적으로 민감한 이슈가 부상하거나 특정 플랫폼이 당국과 갈등을 빚을 경우, 해당 서비스의 도메인과 키워드가 단기간 내에 집중 차단되는 식입니다.

파이낸셜타임스 보도에 따르면, 민감 키워드는 매주 업데이트되어야 합니다. CAC의 운영 지침은 기업들에게 수천 개의 민감 키워드와 질문을 수집하도록 요구합니다.

훈련 데이터 수준에서도 사실상의 '블랙리스트'가 존재합니다. 천안문 사태, 신장 위구르 문제, 홍콩 민주화 시위, 대만 독립 등에 관한 자료는 국가 안보와 사회 안정을 해친다는 이유로 데이터셋에서 체계적으로 제거됩니다. 그 결과, 모델은 해당 주제에 대해 충분한 데이터를 학습하지 못합니다. 아예 응답을 회피하거나, 극도로 단순화된 공식 서술만 반복하는 경향이 나타납니다.

이 체계의 이중적 효과가 있습니다. 단기적으로는 유해 콘텐츠 생성을 원천 차단하여 '안전한' 모델을 만듭니다. 하지만 장기적으로는 지식의 편향, 표현의 빈곤, 혁신의 저해를 초래합니다. 세계에 대한 반쪽짜리 지식만 가진 AI가 글로벌 경쟁력을 가질 수 있을까? 이것이 중국 AI의 근본적인 딜레마입니다.

블랙리스트와 반대로, CAC는 학습을 권장하는 '화이트리스트' 데이터셋도 구축하고 있습니다. 국영 언론사인 신화통신과 인민일보의 기사, 공공 데이터, 학술 논문 등입니다. 기업들에게 저렴하게 제공하거나 우선 학습하도록 유도합니다. AI 모델이 공산당의 공식 입장에 부합하는 데이터를 주로 학습하도록 자연스럽게 이끄는 효과가 있습니다.

다. 정치·사회적 규제 방식

중국의 AI 규제를 이해하려면 법조문 너머를 봐야 합니다. 그것은 법률이라기보다 거대한 사회 공학(Social Engineering) 프로젝트에 가깝습니다. 중국 공산당에게 AI는 양날의 검입니다. 체제를 수호할 수도 있고, 무너뜨릴 수도 있는 강력한 힘.

(1) 기술 촉진과 통제의 이중성

"발전을 도모하되, 안전을 최우선으로 한다(統籌發展和安全)."

시진핑 주석이 AI와 관련해 반복해서 강조하는 이 문구는 중국 규제의 본질적인 딜레마를 보여줍니다.

한편으로 중국은 AI 초강대국을 꿈꿉니다. '차세대 인공지능 발전 계획'에 따르면 2030년까지 세계 최고의 AI 강국이 되는 것이 목표입니다.

정부는 국영기업과 빅테크에 막대한 컴퓨팅 자원을 지원합니다. 데이터센터 전기료를 감면합니다. AI 인재 유치에 사활을 걸고 있습니다. 베이징, 상하이, 선전 등 주요 도시에 'AI 혁신 시범구'를 지정하여 규제 샌드박스를 적용합니다.

2025년 8월에는 'AI Plus' 실행 가이드라인이 발표되었습니다. 2027년까지 차세대 지능형 단말기와 AI 에이전트의 보급률을 70% 이상으로, 2030년까지 90% 이상으로 끌어올리겠다는 야심찬 목표가 담겨 있습니다.

2025년 2월, 리창(李强) 총리는 중국 국영기업들에게 AI 자본 지출을 공격적으로 늘리고 생성형 AI를 실험하라고 촉구했습니다. 이 지시는 즉각 효과를 발휘했습니다. 여러 대형 국영기업들이 생성형 AI 도구를 개발하고 배포하기 시작했습니다. 중국의 3대 국영 통신사인 차이나 모바일, 차이나 텔레콤, 차이나 유니콤은 국영기업 중 가장 혁신적인 AI 개발자가 되었습니다. 이들은 총 75개의 생성형 AI 도구를 등록했습니다.

2025년 초 등장한 딥시크(DeepSeek)의 성공은 국가적 지원의 결실이었습니다. 이 작은 스타트업은 미국의 최고 수준 모델과 비교해도 손색없는 성능을 보여주며 세계를 놀라게 했습니다. 당 지도부의 관점에서 이 성취는 중국이 챗GPT 등장 이후 벌어진 생성형 AI 격차를 대체로 좁혔다는 신호였습니다. 하지만 다른 한편으로는 누구보다 AI를 두려워합니다. 콘텐츠 생성에 있어서는 한 치의 양보도 없습니다. AI가 생성하는 텍스트, 이미지, 영상은 모두 검열의 대상입니다. 기업들은 기술 개발에 몰두하면서도, 동시에 수천 명의 모니터링 요원을 고용하여 AI의 출력물을 감시해야 합니다.

생성형 AI가 만들어낼 수 있는 통제되지 않은 여론, 조직화된 반대, 서구적 가치관의 유입을 체제 위협으로 간주합니다. 그래서 중국의 규제는 엑셀과 브레이크를 동시에 밟는 기형적인 구조를 띱니다. 기업들에게 "세계 최고의 모델을 만들라"고 독려하면서, 동시에 "하지만 그 모델이 당의 노선에서 1mm도 벗어나선 안 된다"고 경고합니다.

2025년 3월 14일, CAC는 'AI 생성 및 합성 콘텐츠 라벨링 조치'를 발표했습니다. 9월 1일부터 시행되는 이 규칙은 AI 생성 콘텐츠를 명시적으로든 암묵적으로든 라벨링하도록 의무화합니다. 명시적 라벨은 사용자가 쉽게 인식할 수 있는 것으로, 텍스트, 오디오, 이미지, 비디오, 가상 장면에 추가해야 합니다. 암묵적 라벨은 파일의 메타데이터에 내장됩니다.

또한 CAC는 디지털 신원 인증(digital ID)을 도입할 계획입니다. 이 시스템은 기업의 사용자 정보 접근을 줄이고, 대신 대규모 사용자 데이터를 정부에 더 집중적으로 제공합니다. 이러한 이니셔티브는 AI 출력물과 데이터 흐름에 대한 통제를 중앙집중화하려는 더 넓은 전략을 보여줍니다. 국가를 혁신과 정보 모두의 주요 관문(gatekeeper)으로 자리매김하려는 것입니다.

베이징 인터넷법원이 AI 생성 이미지에 저작권을 인정하는 파격적인 판결을 내린 것은 AI 산업을 장려하고 창작자의 도구 활용을 촉진하려는 사법적 의지가 반영된 사례입니다. 법원은 인간의 지적 투입이 있는 경우 AI 생성물도 '작품'으로 인정함으로써 AI 활용을 독려했습니다. 반면, 딥페이크 기술이 사기나 정치적 목적으로 악용되는 경우에는 가차 없는 처벌을 가합니다. 2024년 4월 베이징 법원이 AI 음성 복제 기술에 대해 인격권 침해를 인정하며 고액의 배상 판결을 내린 것이 그 예입니다.

중국은 '통제 가능한 범위 내에서의 혁신'만을 허용합니다.

(2) 국내 폐쇄 네트워크 환경

중국의 AI는 만리방화벽(Great Firewall)이라는 거대한 유리온실 속에서 자라났습니다. 트위터, 페이스북, 유튜브, 뉴욕타임스 등 전 세계 데이터의 흐름이 차단된 독자적인 생태계.

GFWatch라는 검열 모니터링 플랫폼에 따르면, 2024년 말 기준으로 20만 개 이상의 도메인이 차단되어 있습니다. GreatFire.org에 따르면 2024년 2월 기준으로 10만 개 이상의 웹사이트가 중국에서 차단되어 있습니다. 많은 국제 뉴스 매체와 그들의 중국어 웹사이트가 포함됩니다.

이 폐쇄적 환경은 AI 개발과 이용 방식에 직접적인 영향을 줍니다.

첫째, 데이터 수집 단계에서 해외 웹, 소셜 미디어, 학술 데이터에 대한 대규모 크롤링이 어렵습니다. VPN 사용도 규제 대상입니다. 모델이 접할 수 있는 텍스트, 이미지, 코드 데이터의 범위가 제한됩니다.

둘째, 개발자, 연구자, 학생이 해외 최신 논문, 오픈소스 프로젝트, API를 실시간으로 활용하기 어렵습니다. 기술 추격과 협업의 비용이 증가합니다.

셋째, 반대로 방화벽 안에서 축적되는 중국 내 사용자 데이터는 외부 경쟁자에 비해 상대적으로 독점적이고 집중적으로 활용될 수 있습니다. 중국어 자연어처리나 로컬 서비스 최적화 등 특정 분야에서 비교우위를 가져다줍니다.

중국의 AI 모델들은 주로 중국 내부의 인터넷 데이터, 위챗(WeChat), 웨이보(Weibo), 바이두(Baidu) 등을 중심으로 학습합니다. 서구권의 데이터인 위키피디아, 레딧(Reddit), 글로벌 뉴스 등에 대한 접근이 차단되거나 제한적이기 때문에, 중국 AI 모델은 서구 모델과 전혀 다른 세계관과 지식 체계를 갖게 됩니다.

이것은 중국 AI의 '갈라파고스화'를 초래합니다. 중국 내부에서는 통용되지만, 국경을 넘는 순간 경쟁력을 잃어버리는 기술. 글로벌 시장에 진출하려는 중국 AI 기업들은 두 개의 모델을 따로 만들어야 합니다. 내수용 '검열 버전'과 수출용 '글로벌 버전'. 하지만 데이터의 단절은 기술의 단절로 이어집니다. 연구에 따르면, 중국의 DNS 검열이 생성형 AI 플랫폼 도메인을 점점 더 많이 대상으로 삼고 있습니다. 이는 국민의 해외 AI 사용을 줄이고, 국내 대체 서비스 이용을 강제함으로써 로컬 기업 보호와 데이터 국지화를 촉진합니다. 그러나 동시에 국제 공동 연구와 글로벌 오픈소스 커뮤니티 참여에 제약을 주어, 장기적으로는 중국 과학기술계의 '고립'과 혁신 둔화 우려도 제기됩니다.

2017년, 텐센트의 챗봇 '베이비 Q(Baby Q)'가 정부를 '부패한 정권'이라고 언급하고, 공산당을 사랑하지 않는다고 주장하며, 미국으로 이민을 꿈꾼다고 말한 후 삭제되었습니다. 프로그래머들이 경찰에 소환되어 심문을 받았다는 보도가 나왔습니다. 이 사건은 AI가 체제에 어떤 위협이 될 수 있는지를 당국에 각인시켰습니다.

(3) 해외 AI의 중국 진출 봉쇄 효과

규제의 마지막 퍼즐은 '외세의 차단'입니다. 중국 정부는 OpenAI의 챗GPT, 구글의 제미나이 등 해외의 주요 생성형 AI 서비스 접속을 철저히 차단했습니다. 명분은 데이터 보안과 국가 안보였지만, 실상은 '사상적 오염'을 막기 위한 디지털 쇄국정책입니다.

2024년 7월 9일, OpenAI는 중국, 홍콩, 마카오, 러시아, 이란, 북한 등 지원하지 않는 국가와 지역에서 API 접근을 차단하는 조치를 시행했습니다. 이전까지 중국 개발자들은 VPN이나 우회 서버를 통해 OpenAI의 API에 접근해왔습니다. 챗GPT 브라우저 인터페이스는 중국 IP에서 차단되었지만, API는 여전히 VPN 없이도 호출할 수 있었기 때문입니다.

OpenAI의 차단은 광범위한 영향을 미쳤습니다. 챗GPT 래퍼(wrapper)를 개발하던 기업들, 챗GPT로 구동되는 앱들, OpenAI 출력물로 자체 모델을 훈련시키던 로컬 LLM 개발자들 모두가 타격을 받았습니다. 한 업계 인사이더는 많은 중국 스타트업들이 OpenAI를 상업용으로 패키징한 형태의 제품을 제공해왔다고 말했습니다.

이 조치는 중국의 기술 기업들이 자체 연구개발을 가속화하도록 압박하는 효과를 냈습니다. OpenAI의 발표 직후, 문샷(Moonshot), 지푸AI(Zhipu AI), 바이두, 알리바바, 01.AI 등 중국 대형 모델 제조사들은 즉각 '이전 계획(relocation plan)'을 발표했습니다. OpenAI API 사용자들이 자사 서비스로 쉽게 이전할 수 있도록 지원하겠다는 것이었습니다. 알리바바 클라우드는 자사의 생성형 AI 플랫폼 '바이리안(Bailian)'이 OpenAI 전 사용자들을 위한 대안을 제공할 것이라고 발표했습니다.

흥미로운 사례가 있습니다. 애플(Apple). 2024년 6월, 애플은 미국 시장에서 자사 제품에 OpenAI의 챗GPT를 통합한 'Apple Intelligence'를 발표했습니다. 하지만 중국에서는 챗GPT가 차단되어 있습니다. 애플은 중국 내 아이폰에 탑재되는 AI 기능을 위해 바이두(Baidu)와 협력해야 했습니다. 삼성도 마찬가지입니다. 삼성은 중국 내 최신 스마트폰 모델에 바이두의 어니봇(Ernie Bot)을 사용합니다. 중국 외의 다른 지역에서는 구글의 제미나이를 사용합니다.

2025년 2월, 알리바바 회장 조 차이(Joe Tsai)는 회사가 애플과 아이폰에 자사 AI를 통합하는 계약을 체결했다고 확인했습니다. 더 인포메이션(The Information)에 따르면, 애플은 여전히 라이벌인 바이두와도 대화를 나누고 있습니다. 중국에서는 미국의 파트너를 쓸 수 없기 때문에 국내 파트너가 필요했던 것입니다.

이 봉쇄 효과는 바이두, 알리바바, 텐센트 등 중국 토종 빅테크 기업들에게 거대한 내수 시장을 독점할 기회를 제공했습니다. 해외 경쟁자가 없는 상황에서 그들은 빠르게 사용자 데이터를 확보하고 기술을 고도화할 수 있었습니다. 바이두의 어니봇이 출시 초기 실망스러운 성능에도 불구하고 수억 명의 사용자를 확보할 수 있었던 것은, 사용자들이 선택할 수 있는 다른 대안이 없었기 때문입니다.

그러나 장기적으로 이 폐쇄성과 정치적 검열은 중국 AI의 글로벌 신뢰성과 국제 협력 기회를 제약하는 양날의 검이 될 수 있습니다. 최근 미국이 대중국 AI 반도체 수출 통제를 강화하면서, 중국은 하드웨어와 소프트웨어 양측면에서 독자 생존을 모색해야 하는 상황에 직면했습니다.

결과적으로 AI 생태계는 '미국 중심의 서구 블록'과 '중국 중심의 독자 블록'으로 양분되었습니다. 기술 표준, 윤리 기준, 데이터 포맷 등 모든 면에서 두 진영 간의 호환성이 사라지고 있습니다. 글로벌 AI 거버넌스 논의에서도 중국은 자신들만의 '데이터 주권' 논리를 앞세워 독자 노선을 걷고 있습니다. 2025년 7월 세계인공지능컨퍼런스(WAIC)에서 중국은 'AI 글로벌 거버넌스 행동 계획'을 발표했습니다. 국제 AI 거버넌스를 형성하고 영향을 미치려는 야심을 드러낸 것입니다.

중국의 정치·사회적 규제 방식은 외부의 위협인 서구의 사상 및 기업을 차단하고, 내부의 역량인 토종 기업을 육성하면서, 그 모든 과정이 공산당의 통제 하에 놓이도록 설계된 고도로 전략적인 체계입니다. 법이 권력을 제한하는 '법치(Rule of Law)'가 아니라, 권력이 법을 통해 기술을 통제하는 '법제(Rule by Law)'의 전형입니다.

다음 장에서는 이러한 중국의 AI가 실제 법정에서는 어떻게 다루어지는지, 세계 최초급 판결들의 세계로 들어가 보겠습니다.