2025년 7월 10일, 브뤼셀의 유럽연합 AI 사무국에서 한 무더기의 서류가 공개되었습니다. 범용 AI 모델을 위한 행동강령. 284페이지. 그 안에는 세계에서 가장 똑똑한 기계들을 만드는 회사들이 지켜야 할 새로운 규칙이 담겨 있었습니다. OpenAI, Google DeepMind, Meta, Anthropic. 이들은 이미 그 문서에 서명했습니다.

같은 해 6월, 캘리포니아 북부지방법원에서는 정반대의 일이 벌어지고 있었습니다. 두 명의 판사가 각각 다른 법정에서, 거의 동시에 AI 기업들의 손을 들어주었습니다. Anthropic과 Meta는 저작권 침해 소송에서 승리했습니다. 공정이용이라는 200년 된 법리가 21세기 인공지능에도 적용된다는 판결이었습니다.

유럽은 규칙을 만들었습니다. 미국은 법정에서 싸우게 했습니다. 이것이 AI 규제 전쟁의 두 전선입니다. 그리고 그 사이에 중국이 있습니다. 중국은 자국만의 게임을 하고 있습니다.

저작권 관련 규제

2024년 12월 27일, 뉴욕타임스가 OpenAI를 제소한 지 정확히 1년이 지난 날, 캘리포니아의 한 법정에서 역사적인 질문이 제기되었습니다. AI가 책을 읽는 것은 도둑질인가, 공부인가?

미국의 접근: 법정에서 답을 찾아라2025년 6월 23일, 윌리엄 앨섭 판사는 Bartz v. Anthropic 사건에서 판결을 내렸습니다. 그의 결론은 명쾌했습니다. AI 학습을 위해 책을 사용하는 것은 "지극히 변형적인(spectacularly transformative)" 행위이며, 공정이용에 해당한다. 저자가 책을 쓴 목적은 사람이 읽도록 하는 것입니다. AI가 그 책으로 하는 일은 완전히 다릅니다. 단어들 사이의 통계적 관계를 배우는 것입니다. 마치 수천 권의 요리책을 읽고 자신만의 레시피를 만들어내는 요리사처럼.

하지만 앨섭 판사는 한 가지 중요한 선을 그었습니다. Anthropic이 해적판 사이트에서 수백만 권의 책을 무료로 다운로드한 행위. 이것은 공정이용이 아니었습니다. "연구를 위해 도서관을 짓는 것"과 "도둑질한 책으로 창고를 채우는 것"은 다르다고 판사는 썼습니다. 2025년 9월, Anthropic은 15억 달러에 합의했습니다. AI 저작권 분쟁 역사상 가장 큰 금액이었습니다.

이틀 뒤인 6월 25일, 빈스 차브리아 판사는 Kadrey v. Meta 사건에서 비슷하지만 다른 결론에 도달했습니다. Meta의 Llama 모델 학습도 공정이용이라고 인정했습니다. 하지만 차브리아 판사는 경고를 덧붙였습니다. 이 판결이 "Meta의 행위가 합법이라는 것을 의미하지 않는다. 다만 원고들이 잘못된 논거를 폈고, 올바른 논거를 뒷받침할 기록을 만들지 못했다는 것을 의미할 뿐이다."

미국의 규제 철학은 여기서 드러납니다. 의회는 새 법을 만들지 않습니다. 대신 판사들이 200년 된 저작권법을 한 줄씩 해석하며 새로운 규칙을 씁니다. 이것은 느리고 비용이 많이 듭니다. 하지만 미국인들은 그것을 선호합니다. 혁신이 먼저, 규제는 나중에.

유럽연합의 접근: 공짜 점심은 끝났다유럽은 다른 길을 택했습니다. EU AI Act는 2024년 8월 1일에 발효되어 단계적으로 시행되고 있습니다. 범용 AI 모델에 대한 규칙은 2025년 8월 2일부터 적용되기 시작했습니다.

핵심은 투명성입니다. 모든 범용 AI 모델 제공자는 학습에 사용한 콘텐츠의 상세 요약을 공개해야 합니다. 2025년 7월 24일, 유럽위원회는 그 요약서의 템플릿을 발표했습니다. 데이터의 출처, 라이선스 상태, 저작권 준수 여부. 모두 문서화해야 합니다.

더 중요한 것은 "옵트아웃(Opt-out)" 시스템입니다. 저작권자가 "내 것은 AI 학습에 쓰지 마" 라고 기계가 읽을 수 있는 방식으로 표시하면, AI 회사들은 이를 존중해야 합니다. 독일 법원의 GEMA v. OpenAI 판결은 이 원칙을 더욱 강화했습니다. 유럽에서 AI 사업을 하려면, 창작자들에게 거부권을 주어야 합니다.

위반 시 제재는 가혹합니다. 전 세계 연간 매출의 최대 7%까지 과징금이 부과될 수 있습니다. OpenAI의 경우, 수십억 달러에 해당할 수 있는 금액입니다.

중국의 접근: 두 개의 문중국은 이중적입니다. 2023년 8월 시행된 '생성형 AI 서비스 관리 잠정방법'은 학습 데이터가 타인의 지식재산권을 침해해서는 안 된다고 규정합니다. 하지만 동시에, 중국 법원들은 AI 생성물의 저작권을 적극적으로 인정하고 있습니다.

2023년 11월, 베이징 인터넷법원은 역사적인 판결을 내렸습니다. Stable Diffusion으로 만든 이미지에 저작권을 인정한 것입니다. 판사는 "인간이 프롬프트를 입력하고, 매개변수를 조정하고, 결과물을 선택하는 과정에서 지적이고 미학적인 기여를 했다면, 그것은 저작물이다"라고 판시했습니다. 이것은 미국 저작권청의 입장과 정반대입니다.

반면, 광저우 인터넷법원은 울트라맨 AI 이미지 사건에서 플랫폼에 책임을 물었습니다. AI가 원작 캐릭터와 유사한 이미지를 생성하게 했다면, 플랫폼은 저작권 침해의 2차적 책임을 집니다. 키워드 필터링, 워터마크 표시, 불만 처리 시스템. 이 모든 것을 갖추어야 합니다.

한국의 접근: 절충의 길2024년 12월 26일, 대한민국 국회는 AI 기본법을 통과시켰습니다. 아시아 태평양 지역 최초의 포괄적 AI 규제법입니다. 2026년 1월 22일부터 시행됩니다.

한국의 저작권 규제는 아직 구체화되지 않았습니다. 현행 저작권법은 연구·비영리 목적의 일시적 복제 예외를 인정하지만, 상업적 AI 학습에 대한 일반적 예외 규정은 부재합니다. 문화체육관광부와 한국저작권위원회는 텍스트·데이터 마이닝 가이드라인을 논의 중입니다. 창작자 단체들은 보상 체계를 요구하고, 기업들은 학습 예외를 원합니다. 그 사이 어딘가에서 타협점이 찾아질 것입니다.

개인정보 관련 규제

2023년 3월, 이탈리아 개인정보보호당국(Garante)은 ChatGPT를 차단했습니다. EU 회원국 중 최초였습니다. 그들의 질문은 단순했습니다. OpenAI는 어떤 법적 근거로 이탈리아인들의 개인정보를 수집했는가?

유럽연합: GDPR이라는 방패2024년 12월, Garante는 OpenAI에 1,500만 유로의 과징금을 부과했습니다. 생성형 AI에 대한 최초의 GDPR 제재였습니다. 위반 내용은 세 가지였습니다. ChatGPT 학습에 사용된 개인정보 처리에 대한 적법한 법적 근거 부재. 사용자들에 대한 투명성 의무 위반. 13세 미만 미성년자 보호를 위한 연령 확인 체계 미비.

과징금만이 아니었습니다. OpenAI는 6개월간 이탈리아 언론에 공익 캠페인을 진행해야 했습니다. ChatGPT가 어떻게 데이터를 수집하고 사용하는지, 사용자들의 권리는 무엇인지 알리는 캠페인. OpenAI는 "불균형적"이라며 항소할 뜻을 밝혔습니다. 그들의 주장에 따르면, 이 과징금은 같은 기간 이탈리아에서 벌어들인 수익의 거의 20배에 달합니다.

GDPR의 핵심 원칙들은 AI 시대에 새로운 의미를 얻고 있습니다. 목적 제한. 데이터는 수집 당시 밝힌 목적으로만 사용해야 합니다. 하지만 AI 학습은 그 목적에 포함되어 있었나요? 데이터 최소화. 필요한 것만 수집해야 합니다. 하지만 AI는 더 많은 데이터로 더 똑똑해집니다. 저장 기간 제한. 데이터는 영원히 보관할 수 없습니다. 하지만 일단 AI가 학습한 정보는 어떻게 삭제합니까?

이것이 "머신 언러닝(Machine Unlearning)"의 문제입니다. 사람의 기억을 지우는 것이 불가능하듯, AI 모델에서 특정 데이터의 영향을 완전히 제거하는 것도 기술적으로 어렵습니다. 하지만 GDPR의 '잊힐 권리'는 여전히 적용됩니다. 유럽에서 사업하려면, 기술적 한계는 변명이 되지 않습니다. 미국: 조각보처럼 이어진 규제미국에는 연방 차원의 포괄적 개인정보보호법이 없습니다. 대신 주(State)별로, 분야별로 다른 규칙이 적용됩니다.

일리노이주의 생체정보보호법(BIPA)은 가장 무서운 지뢰밭입니다. 동의 없이 안면 인식 데이터를 수집하면, 집단소송에 직면합니다. Clearview AI는 이 법으로 5,000만 달러 이상을 합의금으로 지불했습니다. Meta의 안면 인식 태그 기능 소송은 6억 5,000만 달러에 합의되었습니다.

캘리포니아의 소비자프라이버시법(CCPA/CPRA)은 또 다른 기준입니다. 소비자는 자신의 정보가 어떻게 수집되고 사용되는지 알 권리가 있습니다. AI가 그 정보로 무엇을 했는지 설명해야 합니다.

연방거래위원회(FTC)는 "알고리즘 환수(Algorithmic Disgorgement)"라는 강력한 무기를 사용합니다. 불법적으로 수집된 데이터로 학습한 모델은 폐기해야 합니다. 데이터만 지우는 것이 아닙니다. 그 데이터로 훈련된 알고리즘 자체를 없애야 합니다. Rite Aid 사건에서 FTC는 이 조치를 명령했습니다.

중국: 기업에는 엄격하게, 국가에는 예외로중국의 개인정보보호법(PIPL)은 표면상 GDPR과 유사합니다. 동의 요건, 목적 제한, 국외 이전 통제. 모두 갖추고 있습니다. 2023년 '딥합성 관리 규정'은 딥페이크 기술로 타인의 얼굴이나 목소리를 편집할 때 반드시 동의를 받도록 합니다. 위반 시 형사 처벌까지 가능합니다.

하지만 거대한 예외가 있습니다. 국가 안보입니다. 기업이 개인정보를 남용하면 처벌받습니다. 하지만 국가가 안면 인식으로 시민을 감시하는 것에 대해서는 침묵합니다. 중국의 개인정보 규제는 "기업은 함부로 건드리지 마라, 국가는 예외다"라는 메시지를 담고 있습니다.

한국: PIPA와 AI 기본법의 결합한국의 개인정보보호법(PIPA)은 EU의 GDPR에 버금가는 강도를 가지고 있습니다. 여기에 AI 기본법이 추가됩니다. 고영향 AI 시스템은 인간 감독, 산출물 표시, 안전조치를 의무화해야 합니다.

개인정보보호위원회(PIPC)는 2025년 업무계획에서 AI 서비스에 대한 특별 감독 방안을 발표했습니다. AI 에이전트 서비스에 대한 사전 현장 점검, 법률·인사 서비스에서의 AI 활용 검토 등이 포함됩니다. 한국에서 AI 사업을 하려면, 개인정보는 "보관함의 잠금장치"가 아니라 " 누가 열 수 있는지 기록되는 출입통제 시스템"으로 관리해야 합니다.

차별 및 편향성 관련 규제

놀랜드 아보는 100개가 넘는 회사에 지원했습니다. 단 하나의 면접도 잡지 못했습니다. 그는 40대 흑인이었고, 불안장애 진단을 받은 적이 있었습니다. 어느 날 그는 생각했습니다. 이 모든 회사가 나를 거부한 게 아니라, 하나의 알고리즘이 나를 거부한 것은 아닐까?

2024년 5월, 캘리포니아 북부지방법원은 Mobley v. Workday 사건에서 집단소송을 허가했습니다. 원고 측 추정에 따르면, 10억 명이 넘는 지원자들이 Workday의 AI 채용 시스템을 통과했습니다. 법원은 이 시스템이 고용주의 "대리인(Agent)"으로서 차별에 대한 직접적 책임을 질 수 있다고 판시했습니다. AI를 만든 회사가 차별 소송의 피고가 된 것입니다.

미국: 기존 법률의 새로운 적용미국에는 AI 차별을 직접 금지하는 연방법이 없습니다. 대신 1964년 민권법, 고용평등법, 장애인법 등 기존의 차별금지법이 AI에도 적용됩니다.

뉴욕시는 한 발 앞서 나갔습니다. 2023년 7월 시행된 Local Law 144는 세계 최초로 AI 채용 도구에 대한 구체적 규제를 도입했습니다. 기업이 자동화된 고용 결정 도구(AEDT)를 사용하면, 매년 독립적인 편향성 감사를 받고 그 결과를 공개해야 합니다. 감사 결과가 특정 집단에 불리한 영향을 보여주면, 기업은 설명해야 합니다.

콜로라도주는 더 포괄적인 접근을 택했습니다. 2024년 5월 제정된 콜로라도 AI Act는 미국 최초의 포괄적 주 단위 AI 규제법입니다. 원래 2026년 2월 1일 시행 예정이었으나, 업계의 반발과 정의의 모호성 문제로 2026년 6월 30일로 연기되었습니다.

콜로라도 AI Act의 핵심은 "합리적 주의의무(Reasonable Care)"입니다. 개발자와 배포자 모두 고위험 AI 시스템에서 발생할 수 있는 알고리즘 차별의 위험을 방지할 의무를 집니다. "알고리즘 차별"은 AI 시스템 사용이 연령, 인종, 성별, 장애, 출신 국가, 종교 등 보호되는 특성을 근거로 개인이나 집단에 불리한 차별적 대우나 영향을 초래하는 모든 상황을 의미합니다.

위반 시 건당 최대 2만 달러의 과징금이 부과됩니다. NIST AI 위험관리 프레임워크 등 인정된 표준을 준수하면 책임이 완화되는 "세이프 하버" 조항도 있습니다.

캘리포니아주는 고용 차별 규정을 통해 접근합니다. 2025년 10월 1일부터 시행되는 공정고용주택법(FEHA) 규정은 AI 채용 도구의 편향성 테스트 결과를 차별 소송에서 증거로 사용할 수 있게 합니다. 편향성 테스트를 하지 않았다면, 그 자체가 불리한 증거가 됩니다. 유럽연합: 시장에 들어오기 전에 검문받아라EU AI Act는 채용, 교육, 대출 심사, 법 집행 등에 사용되는 AI를 "고위험 AI"로 분류합니다. 고위험 AI 시스템은 시장에 출시되기 전에 엄격한 요건을 충족해야 합니다.

데이터 거버넌스. 학습 데이터셋이 편향되지 않았는지 검증해야 합니다. 위험관리 시스템. 지속적으로 위험을 평가하고 완화해야 합니다. 기본권 영향평가(FRIA). 인권에 미치는 영향을 사전에 평가해야 합니다. 인간 감독. 자동화된 결정에 대해 인간이 개입할 수 있어야 합니다.

유럽은 "사고가 터진 뒤 처벌하는 것이 아니라, 시장 진입 단계부터 검문을 하겠다"는 입장입니다.

아예 금지되는 AI도 있습니다. 민감한 특성(인종, 정치적 견해 등)을 기반으로 자연인을 분류하는 AI. 사회적 점수(Social Scoring)를 매기는 AI. 공공장소에서의 실시간 원격 생체인식(극히 예외적인 경우 제외).

중국: 이념적 편향을 경계하라중국의 편향성 규제는 서구와 다른 지점에 초점을 맞춥니다. '생성형 AI 서비스 관리 잠정방법'은 AI가 생성하는 콘텐츠가 "사회주의 핵심 가치"를 반영해야 한다고 규정합니다.

민족, 성별, 직업 등 집단에 대한 차별적이거나 모욕적인 콘텐츠 생성은 금지됩니다. 하지만 이 규정의 실제 목적은 서구식 공정성 개념보다는 체제 안정에 가깝습니다. 국가 전복을 선동하거나 사회 질서를 어지럽히는 편향된 정보가 주된 규제 대상입니다.

알고리즘 추천 규정은 플랫폼이 차별적 가격 책정, 노동자 착취, 미성년자 과도 이용 유도 등 "불공정 알고리즘 행위"를 금지합니다. 당국은 알고리즘 신고, 감사, 수정 명령 권한을 가집니다.

한국: 고영향 AI에 대한 집중 감독한국 AI 기본법은 "고영향 AI"에 초점을 맞춥니다. 인간의 생명, 신체 안전, 기본권에 중대한 영향을 미치거나 위험을 초래할 수 있는 AI 시스템. 의료, 에너지, 공공 서비스, 채용, 신용 평가 등 11개 분야가 해당됩니다.

고영향 AI를 운영하는 사업자는 인권 영향평가를 실시하고, 위험관리 시스템을 구축하며, 인간 감독을 보장해야 합니다. 정부 기관이 고영향 AI를 도입할 때는 영향평가를 완료한 시스템을 우선 선정해야 합니다. 과징금은 최대 3,000만 원(약 2만 달러)으로 EU에 비해 낮습니다. 하지만 과학기술정보통신부는 1년간의 계도기간 동안 처벌보다 지도에 집중한다고 밝혔습니다. 강력한 제재보다 산업 육성과 신뢰 구축의 균형을 추구하는 접근입니다.

책임 구조 관련 규제

테슬라 오토파일럿이 사고를 냈습니다. 누가 책임져야 합니까? 운전자입니까, 테슬라입니까? AI 채용 시스템이 차별했습니다. 채용한 회사가 책임입니까, AI를 만든 회사가 책임입니까? 챗봇이 거짓말을 했습니다. 피해자는 누구에게 배상을 청구해야 합니까?

유럽연합: 가치사슬 전체에 책임을 분배하다EU AI Act는 AI 생태계의 모든 참여자에게 역할에 따른 책임을 부과합니다. 제공자(Provider) 는 AI 시스템을 개발하고 시장에 출시하는 주체입니다. 배포자(Distributor)는 그것을 유통합니다. 배치자(Deployer)는 실제로 사용합니다.

제공자의 의무가 가장 무겁습니다. 위험관리 시스템 구축, 데이터 거버넌스, 기술 문서화, 적합성 평가, 품질 관리, 사후 모니터링, 심각한 사고 보고. 이 모든 것을 갖추어야 합니다.

배치자도 책임이 있습니다. 맥락별 위험 분석, 인적 감독 할당, 로그 보관, 영향을 받는 개인에 대한 정보 제공, 심각한 사건 보고. 만약 배치자가 AI의 용도를 변경하거나 중대하게 수정하면, "사실상의 제공자"로 재분류되어 제공자 수준의 책임을 지게 됩니다.

유럽위원회는 AI 책임 지침(AI Liability Directive)과 개정 제조물책임 지침을 준비하고 있습니다. 핵심은 입증 책임의 완화입니다. AI 시스템의 내부 작동은 블랙박스와 같습니다. 피해자가 결함과 인과관계를 증명하기 어렵습니다. 새 지침은 특정 요건 하에서 인과관계를 추정할 수 있게 하여, 기업의 방어 논리를 무력화합니다.

2024년 10월 채택된 신 제조물책임 지침(Directive (EU) 2024/2853)은 소프트웨어를 포함한 디지털 요소를 명시적으로 포함합니다. AI 시스템도 "제품"으로 간주되어 제조물책임의 대상이 됩니다.

미국: 벤더 책임의 확대미국의 전통적 접근은 AI를 "도구"로 보고, 사용자에게 책임을 물었습니다. 하지만 최근 판례들은 그 구조를 바꾸고 있습니다. Mobley v. Workday 사건은 중요한 선례를 세웠습니다. 법원은 AI 채용 플랫폼이 단순한 도구가 아니라 고용주의 권한을 위임받은 "대리인(Agent)"으로서 직접적인 법적 책임을 질 수 있다고 판시했습니다. AI 벤더가 차별 소송의 공동 피고가 된 것입니다.

테슬라 오토파일럿 소송에서도 제조사 책임이 강화되고 있습니다. 2024년 플로리다 배심원은 운전자의 부주의뿐만 아니라, 시스템의 결함과 과장 광고에 대한 테슬라의 책임도 일부 인정했습니다.

미국에는 플랫폼 면책을 규정한 통신품위법 섹션 230이 있습니다. 하지만 이 조항이 AI 생성 콘텐츠에도 적용되는지는 논쟁 중입니다. Roommates.com 판례에 따르면, 플랫폼이 콘텐츠 생성에 "실질적으로 기여"한 경우 면책을 받지 못합니다. AI가 직접 생성한 콘텐츠는 이 기준에 해당할 가능성이 높습니다. 만약 챗봇의 명예훼손 발언에 대해 플랫폼의 면책이 사라진다면, 미국 AI 산업의 법적 지형은 근본적으로 바뀔 것입니다.

중국: 서비스 제공자는 콘텐츠 관리자다중국은 AI 서비스 제공자를 "콘텐츠 생산자"로 취급합니다. 단순한 중개인이 아닙니다. 상점 운영자처럼, 가게 안에서 일어나는 모든 일에 책임이 있습니다.

'생성형 AI 서비스 관리 잠정방법'에 따르면, 서비스 제공자는 생성된 콘텐츠가 사회주의 핵심 가치에 부합하는지 확인해야 합니다. 불법 콘텐츠가 발견되면 즉시 생성을 중단하고, 알고리즘을 수정하며, 당국에 보고해야 합니다. 이행하지 않으면 경고, 서비스 정지, 벌금 등의 행정 제재를 받습니다.

광저우 인터넷법원의 울트라맨 사건은 이 원칙을 민사책임에 적용했습니다. 플랫폼이 필터링, 경고, 표시 의무를 적절히 이행하지 않으면 저작권 침해의 2차적 책임을 집니다. 행정 규범 위반이 민사 책임 판단의 근거가 된 것입니다.

딥페이크 서비스 제공자에게는 워터마크 표시 의무가 부과됩니다. 이를 어기면 형사 처벌까지 가능합니다. 중국에서 AI 사업을 한다는 것은, 알고리즘의 모든 출력물에 대해 거의 무한한 책임을 진다는 뜻과 같습니다.

한국: 계약과 기록이 방패가 된다한국 AI 기본법은 고영향 AI에 대해 운영 책임과 안전 의무를 명확히 합니다. 사업자는 인간 감독을 보장하고, AI 생성물을 표시하며, 신뢰성 확보 조치를 취해야 합니다. 현재로서는 일반 불법행위 책임(민법), 제조물책임법, 정보통신망법 등 기존 법리가 적용됩니다. 하지만 AI 기본법 시행 후에는, 규정 준수 여부가 책임 판단의 중요한 요소가 될 것입니다.

실무적 시사점은 명확합니다. 사고가 발생하면 "기술 제공자가 만든 도구"와 "기관이 실제로 사용한 방식"이 분리되어 검토됩니다. 계약서의 책임 조항, 로그 기록, 버전 관리, 데이터 출처 문서. 이 모든 것이 분쟁에서 증거로 기능합니다. 문서화가 곧 방어 수단입니다.

비교의 결론이 비교표를 통해 하나의 결론에 도달합니다. AI 기술은 국경이 없지만, 그 기술이 발 딛고 선 법적 토양은 제각각입니다.

유럽은 "먼저 규칙을 세우고, 그 안에서 혁신하라"고 말합니다. 미국은 "먼저 혁신하고, 문제가 생기면 법정에서 해결하라"고 합니다. 중국은 "혁신은 허용하되, 국가가 정한 선은 넘지 마라"고 경고합니다. 한국은 세 가지 접근을 모두 지켜보며, 자국의 길을 찾고 있습니다.

글로벌 AI 기업들에게 이것은 복잡한 체스 게임입니다. 어느 나라의 규제에 맞춰 모델을 튜닝할 것인가. 어느 시장에서 어떤 기능을 제한할 것인가. 어느 관할권의 법무팀을 강화할 것인가. 코딩 실력만큼이나 법무 전략이 중요한 시대가 왔습니다.

AI 법률 전쟁의 승자는 아직 정해지지 않았습니다. 하지만 한 가지는 분명합니다. 이 전쟁에서 살아남으려면, 기술만큼이나 각국의 규제 지형을 이해해야 합니다. 그것이 이 비교표의 존재 이유입니다.