AI 서재
책으로 읽는 AI서재
한 권을 고르고, 목차에서 차례대로 읽을 수 있게 정리했습니다.
PDF 다운로드 책
다국어로 읽는 대학생 교양 인공지능
한국어 원문과 외국어 번역을 함께 실은 유학생용 교재입니다. 각 책 소개 페이지에서 PDF를 받을 수 있습니다.
[AI서재] 8장 인공지능과 데이터
8장 인공지능과 데이터
Garbage in, garbage out
우리가 매일 대화하는 ChatGPT, Claude, Gemini의 세련되고 지적인 답변 뒤에는 우리가 모르는 어두운 진실이 숨어 있다. 인공지능이 생성하는 매끄럽고 완벽해 보이는 문장들, 그 이면에는 누군가의 정신을 갉아먹는 노동이 있고, 편향된 시선이 있으며, 우리의 사생활을 훔쳐보는 눈이 있다. 이것이 우리가 사는 디지털 시대의 민낯이다.
1. 케냐의 AI 데이터 정제 노동자의 고통
케냐 나이로비의 한 사무실에서 27세 청년 모팟 오키니(Mophat Okinyi)는 하루에 700개의 텍스트를 검토한다. 그 안에는 강간, 살인, 고문, 아동 성학대에 관한 끔찍한 내용들이 담겨 있다. 그는 이런 내용들을 하루 종일, 매일 읽어야 한다. 왜? ChatGPT가 이런 내용들을 걸러낼 수 있도록 학습시키기 위해서다.
"내 정신건강을 완전히 파괴했다"고 오키니는 말한다. 그는 강간범에 대한 글들을 읽다가 주변 사람들을 피하기 시작했고, 모든 사람에게 편집증적인 시선을 보내게 됐다. 결국 임신한 아내가 "당신은 변했다"며 그를 떠났다. "나는 가족을 잃었다"는 그의 말은 우리가 사용하는 AI의 진짜 비용을 보여준다.
이런 일은 오키니만의 이야기가 아니다. 2024년 가디언의 조사에 따르면, 케냐에서만 수천 명의 '콘텐츠 모더레이터'들이 시간당 2달러도 안 되는 임금을 받으며 이런 끔찍한 내용들을 매일 검토하고 있다. 그들은 참수 영상을 보고, 아동 성학대 이미지를 분류하며, 자살 동영상을 라벨링한다. 모두 우리가 사용하는 AI가 '안전'해지도록 하기 위해서다.
케냐의 한 데이터 워커인 페이스(가명)는 "월급이 더 좋다고 해서 시작했지만, 곧 끔찍한 대화를 시뮬레이션해야 한다는 걸 깨달았다. 가상의 상황에서 식인행위를 묘사하는 일까지 해야 했다"고 증언했다. 또 다른 워커인 스테이시는 "회사에서 제공하는 정신건강 지원은 한 달에 30분짜리 상담이 전부다. 그들은 나쁜 기억을 지우려면 틱톡에서 재미있는 동영상을 보라고 한다"며 분개했다.
2024년 12월, CBS의 60분 프로그램은 이들의 실상을 고발했다. 케냐 워커들은 "과로에 시달리고, 저임금에 착취당하며, 부적절한 정신건강 지원을 받고 있다"고 보도했다. 2024년 11월 나이로비에서 열린 '아프리카 콘텐츠 모더레이터 노조' 타운홀 미팅에서는 "정신적, 신체적 고통, 장시간 노동, 그래픽 콘텐츠 노출, 인체공학적 지원 부족으로 인한 번아웃과 건강 문제"가 논의됐다. 한 참가자는 "이 일의 장점 중 하나는 절대 지루하지 않다는 것"이라고 씁쓸하게 말했다.
케냐의 인권운동가 오당가 마둥(Odanga Madung)은 이런 상황을 '현대판 노예제'라고 강하게 비판했다. 실제로 2023년 5월 1일 노동절, 케냐 나이로비에서 150여 명의 전현직 콘텐츠 검수원들이 모여 '아프리카 콘텐츠 검수원 노조(ACMU)'를 결성했다. 이들은 정부에 청원서를 제출하며 착취적인 근무조건에 대한 조사를 요구했다.
더 충격적인 것은 이런 일이 전 세계 곳곳에서 벌어지고 있다는 사실이다. 동아프리카, 인도, 필리핀, 심지어 케냐의 다다브(Dadaab) 난민캠프와 레바논의 샤틸라(Shatila) 캠프에서도 이런 작업이 이뤄진다. 다국어를 구사하는 교육받은 난민들이 극도로 싼 값에 이 일을 하고 있는 것이다.
우리가 "고마워"라고 말하는 ChatGPT 뒤에는 "나는 자신을 군인이라고 생각한다. 군인은 사람들을 위해 총알을 막는다"고 말하는 오키니 같은 사람들이 있다. 그들의 희생 위에서 우리는 '깨끗한' AI를 사용하고 있다.
2. 편향된 데이터가 만드는 불공정한 세상
2024년 워싱턴 대학교의 연구진들은 충격적인 실험을 했다. 세 개의 최첨단 AI 모델에게 동일한 이력서를 주되, 이름만 다르게 했다. 결과는 참담했다. AI는 85%의 경우 백인 이름을 선호했고, 여성 이름은 단 11%만 선호했다. 흑인 남성 이름이 백인 남성 이름보다 선호받은 경우는 단 한 번도 없었다.
이것은 단순한 실험실 결과가 아니다. 실제 세상에서 벌어지고 있는 일이다. 2024년 5월, 미국 캘리포니아 북부지방법원은 AI 채용 도구에 대한 집단소송을 인정했다. Mobley v. Workday 사건에서 법원은 "AI 소프트웨어가 채용 결정에 참여했다면, 그 편향성이 차별 소송의 근거가 될 수 있다"고 판결했다.
아마존은 2018년 AI 채용 시스템을 포기했다. 이 시스템이 기술직 지원자 중 여성을 체계적으로 배제한다는 것을 발견했기 때문이다. 시스템은 남성 위주의 과거 채용 데이터로 학습했고, "실행했다", "포착했다"와 같이 남성이 주로 사용하는 단어들을 선호하도록 학습됐다.
얼굴 인식 기술의 편향은 더욱 심각하다. 백인 남성의 얼굴은 99% 정확도로 인식하지만, 흑인 여성의 얼굴은 65%의 정확도밖에 보이지 않는다. 이런 오류는 공항 보안검색대에서 무고한 사람을 범죄자로 오인하게 만들고, 경찰 수사에서 잘못된 용의자를 지목하게 한다.
의료 분야의 편향은 생명과 직결된다. 미국의 한 대형 헬스케어 알고리즘은 흑인 환자들에게 백인 환자보다 낮은 위험 점수를 부여했다. 같은 건강 상태임에도 불구하고 말이다. 이 알고리즘은 의료비 지출을 건강 상태의 지표로 사용했는데, 구조적 불평등으로 인해 흑인들이 의료 서비스에 덜 접근할 수 있다는 사실을 무시했다.
심장병 진단 AI는 여성 환자의 증상을 놓치고, 피부암 진단 AI는 어두운 피부톤을 가진 환자의 병변을 제대로 감지하지 못한다. 대부분의 의료 데이터가 백인 남성 환자 중심으로 수집됐기 때문이다.
언어 처리 AI도 마찬가지다. 구글 번역은 "의사"를 남성으로, "간호사"를 여성으로 번역하는 경우가 많다. 터키어로 "O bir doktor"(그는/그녀는 의사다)를 영어로 번역하면 "He is a doctor"가 되고, "O bir hemşire"(그는/그녀는 간호사다)를 번역하면 "She is a nurse"가 된다.
2024년 유럽연합 기본권청(FRA)의 보고서는 "음성 알고리즘이 민족, 성별, 종교, 성적 지향에 따른 강한 편향을 포함하고 있다"고 경고했다. 2025년 5월 발표된 이 보고서는 "EU 입법부와 회원국들이 모든 근거에 대해 일관되고 높은 수준의 차별 금지 보호를 보장해야 한다"고 촉구했다.
편향된 AI가 내린 결정이 새로운 데이터가 되어 다음 세대 AI를 더욱 편향되게 만드는 악순환이 반복된다. 온라인 플랫폼의 추천 알고리즘은 사용자들을 특정한 정보의 틀 안에 가두어 사회적 분열을 심화시킨다. 뉴스 추천 시스템은 사용자의 기존 성향과 비슷한 내용만 보여주어 다양한 관점을 접할 기회를 차단한다.
2024년 UN 여성기구의 보고서에 따르면, "AI 시스템은 편견으로 가득한 데이터에서 학습하여 성별 편향을 반영하고 강화한다. 이런 편향은 의사결정, 채용, 대출 승인, 법적 판단 등에서 기회와 다양성을 제한할 수 있다"고 경고했다.
문제는 편향을 줄이려면 더 많은 비용과 시간이 필요하지만, 기업들은 빠른 시장 출시와 수익을 우선시한다는 것이다. 정부의 규제도 기술 발전 속도를 따라가지 못하고 있다. 피해를 당한 개인이나 집단이 손해를 입증하고 배상받기도 어려운 구조다.
3. 개인정보와 프라이버시
2024년은 AI와 개인정보 보호를 둘러싼 법적 분쟁이 폭발한 해였다. 미국 연방법원만으로도 1,970건 이상의 데이터 프라이버시 관련 소송이 제기됐다. 이는 2023년 대비 급격한 증가다.
2023년 미국의 한 병원에서 도입한 AI 챗봇이 환자의 민감한 정보를 외부로 전송한 사건이 발생했다. 환자가 입력한 증상, 이름, 생년월일, 진료 이력 등이 로그 파일 형태로 외부 클라우드 서버에 저장되고 있었던 것이다. 환자들은 자신의 정보가 어디로 가는지도 모른 채 AI와 대화하고 있었다.
더 충격적인 것은 생성형 AI 자체가 개인정보 유출의 위험을 안고 있다는 사실이다. 2024년 연구에 따르면, GPT 모델이 훈련 데이터에서 실명, 이메일, 전화번호 등을 포함한 문장을 생성한 사례가 확인됐다. AI가 학습 과정에서 '암기'한 개인정보를 무작위로 토해내는 것이다.
2024년 워싱턴주에서는 '마이 헬스 마이 데이터법(MHMDA)'이 시행됐다. 이는 HIPAA 범위를 벗어난 소비자 건강 데이터를 보호하는 최초의 포괄적 주법이다. 이 법이 시행되자마자 아마존을 상대로 한 첫 소송이 제기됐다. 건강 관련 앱과 온라인 건강 서비스들이 사용자 동의 없이 건강 데이터를 수집하고 있다는 혐의였다.
자율주행차는 새로운 프라이버시 침해의 온상이 되고 있다. 테슬라, BMW 등의 차량들은 운전자의 위치, 주행 패턴, 심지어 차량 내 대화까지 수집하고 있다. 2024년 텍사스 법무장관은 제너럴모터스를 상대로 소송을 제기했다. GM이 운전자들의 주행 데이터를 무단으로 판매했다는 혐의다.
더 무서운 것은 '신경 데이터(neural data)'의 등장이다. 2024년 캘리포니아와 콜로라도는 개인정보보호법을 개정해 신경 데이터까지 보호 범위에 포함시켰다. VR 기기, 뇌파 모니터링 장치, 웨어러블 기기들이 우리의 뇌 활동과 사고 패턴까지 수집하기 시작한 것이다.
2024년 연방거래위원회(FTC)는 위치 데이터를 판매한 데이터 브로커들을 잇따라 제재했다. 인마켓(InMarket), 엑스모드(X-Mode), 모바일왈라(Mobilewalla), 그레이비 애널리틱스(Gravy Analytics) 등이 소비자 동의 없이 민감한 위치의 정확한 위치 데이터를 판매했다는 이유로 처벌받았다.
문제는 이런 개인정보 수집과 이용이 우리도 모르는 사이에 일어난다는 점이다. 링크드인은 2024년 9월부터 사용자 데이터를 AI 학습에 사용하기 시작했지만, 대부분의 사용자들은 이를 모르고 있었다. 사용자들이 이를 알고 차단하려면 복잡한 설정 메뉴를 찾아 들어가야 했다.
중국은 2023년 세계 최초로 AI 규제법을 제정했다. '생성형 인공지능 서비스 관리 임시조치'는 AI 기업들에게 개인정보 보호를 강화하도록 요구하고 있다. 반면 미국은 2022년 백악관이 발표한 'AI 권리 장전 청사진'이 있지만, 이는 구속력이 없는 가이드라인에 불과하다.
인공지능이 똑똑해질수록 우리의 프라이버시는 더욱 위험해진다. 우리가 편리함을 위해 내어준 데이터들이 어떻게 사용되고 있는지, 우리는 과연 알고 있을까?
4. 책1권 가격의 저작권료, 충분한가?
2025년 6월 24일, 캘리포니아 연방법원에서 인공지능 역사상 가장 중요한 판결 중 하나가 내려졌다. 윌리엄 앨섭(William Alsup) 판사는 작가들이 Anthropic을 상대로 제기한 저작권 소송에서 "단일 도서를 구매해 AI 모델 학습에 활용하는 행위는 저작권 침해가 아니다"라고 판결했다.
이 판결은 AI 업계에 거대한 파급효과를 일으켰다. 앨섭 판사는 AI 학습을 "변형적 사용"으로 인정하며 "독자가 작가가 되기 위해 학습하는 것과 유사하게, AI는 저작물을 복제하지 않고 새로운 창작의 기반으로 삼는다"고 판시했다.
하지만 이 판결에는 중요한 단서가 있었다. 판사는 Anthropic이 "인터넷 해적 사이트에서 수백만 권의 저작권이 있는 책을 무료로 다운로드했다"는 사실을 인정하며, 이 부분에 대해서는 2025년 12월 재판에 회부했다.
그런데 3개월 뒤인 2025년 9월 5일, 놀라운 소식이 들려왔다. Anthropic이 작가들과 15억 달러(약 2조원) 규모의 합의에 도달한 것이다. 합의 조건에 따르면 Anthropic은 약 50만 권의 책에 대해 책당 3,000달러씩 지불하기로 했다.
이는 AI와 저작권을 둘러싼 첫 번째 대규모 합의였다. 법적 분석가 윌리엄 롱(William Long)은 "재판이 계속됐다면 Anthropic이 수십억 달러, 심지어 회사를 파산시킬 수 있을 만큼의 손해배상을 물 가능성이 있었다"고 분석했다.
문제의 발단은 AI 학습 데이터의 출처였다. Anthropic의 클로드(Claude)를 포함한 대부분의 대형 언어 모델들은 'Books3'라는 데이터셋으로 학습됐다. 이 데이터셋에는 Library Genesis(LibGen), Pirate Library Mirror 등 불법 도서 사이트에서 수집한 수백만 권의 책이 포함되어 있었다.
OpenAI의 GPT-3.5가 학습한 데이터의 규모는 상상을 초월한다. 웹에서 수집한 토큰 4,100억 개, 추가 웹 텍스트 190억 개, 책에서 추출한 문장 670억 개, 위키피디아 단어 30억 개. 이 모든 것이 대부분 원작자의 허가 없이 사용됐다.
스튜디오 지브리 논란은 이 문제의 또 다른 단면을 보여준다. 2024년 OpenAI의 ChatGPT-4o 이미지 생성 기능이 출시되자, 전 세계적으로 '지브리 스타일' 이미지 생성이 유행했다. 심지어 샘 알트만 OpenAI CEO도 자신의 프로필 사진을 지브리 스타일로 바꿀 정도였다.
하지만 이런 열풍 뒤에는 복잡한 저작권 문제가 숨어 있었다. 미야자키 하야오 감독은 2016년 NHK 다큐멘터리에서 AI 애니메이션을 보고 "작품 자체가 삶에 대한 모독"이라며 "이 기술을 내 작품에 접목할 생각은 추호도 없다"고 말한 바 있다.
미술가 칼라 오티즈(Karla Ortiz)는 "OpenAI 같은 회사들이 예술가들의 작품과 생계에 대해 신경 쓰지 않는다는 또 다른 명백한 예"라고 비판했다. 그녀는 다른 AI 생성 이미지 업체들을 상대로 저작권 소송을 벌이고 있다.
뉴스 업계도 반발하고 있다. 월스트리트저널의 모회사인 뉴스코프의 제이슨 콘티는 "월스트리트저널 기자들이 작성한 기사를 활용해 AI를 학습시키려면 적절한 허가를 받아야 한다"며 "오픈AI는 우리와 계약을 맺지 않았다"고 지적했다.
한국에서도 비슷한 문제가 제기되고 있다. 한국신문협회는 "뉴스 콘텐츠가 AI 학습을 위해 사용되는 경우 언론사의 저작권 및 데이터베이스제작자로서의 권리를 침해한다"고 주장했다.
AI 회사들은 이런 행위가 '공정이용(fair use)'에 해당한다고 주장한다. 하지만 한국신문협회는 "원저작물과 구별되는 새롭고 다른 기능을 수행하지 않으며 원저작물에 대한 수요를 대체할 수 있다"며 "변형적 이용에 해당하지 않아 공정이용이 성립하지 않는다"고 반박했다.
2024년에는 수많은 저작권 소송이 제기됐다. 뉴욕타임스 vs 마이크로소프트·OpenAI, 게티이미지 vs 스테빌리티AI, 유니버설뮤직그룹 vs Anthropic, 레코드회사들 vs Suno와 Udio 등이 그것이다. 2025년 6월에는 디즈니와 NBCUniversal이 미드저니를 상대로 소송을 제기했다. 엘사, 미니언즈, 다스 베이더, 호머 심슨 등의 캐릭터가 무단으로 사용됐다는 이유였다.
가장 최근인 2025년 9월에는 워너브라더스 디스커버리가 미드저니를 상대로 캘리포니아 연방법원에 소송을 제기했다. 한편, 2025년 8월에는 Elon Musk의 xAI가 애플과 OpenAI를 상대로 소송을 제기하는 등 AI 업계 내부에서도 법적 분쟁이 확산되고 있다.
하지만 AI 회사들에게 유리한 판결들도 나오고 있다. 2025년 6월 메타는 사라 실버맨과 타-네하시 코츠의 소송에서 승리했다. 지브리아 챠브리아(Vince Chhabria) 판사가 메타의 즉결판결 신청을 받아들인 것이다.
이런 상황에서 Anthropic의 15억 달러 합의는 중요한 선례가 됐다. 이는 다른 소송들에도 영향을 미칠 것으로 예상된다. 하지만 여전히 근본적인 질문은 남는다. AI가 인류의 모든 창작물을 학습해 새로운 것을 만들어낸다면, 원작자들에게는 어떤 보상이 주어져야 하는가?
우리는 인공지능이 만들어내는 편리함과 효율성에 취해 있다. 하지만 그 이면에는 케냐의 청년이 정신질환에 시달리고, 알고리즘이 특정 인종과 성별을 차별하며, 우리의 사생활이 무단으로 수집되고, 창작자들의 권리가 침해당하는 현실이 있다.
기술의 발전이 인류의 행복을 증진시키려면, 우리는 이런 어두운 면들을 외면해서는 안 된다. 인공지능이 진정으로 모든 사람에게 도움이 되는 기술이 되려면, 기술적 성능 향상만큼이나 공정성과 포용성, 그리고 인간의 존엄성을 중시하는 개발 문화와 사회적 합의가 필요하다.
Garbage in, garbage out. 편견과 착취가 들어가면, 편견과 착취가 나온다. 우리가 어떤 데이터를 넣느냐에 따라 미래의 AI, 그리고 미래의 세상이 결정될 것이다.