AI BOARD
인공지능게시판
AI 도구, 정책, 산업 변화를 법률가의 언어로 기록합니다.
인공지능 법정 #1 앱이 운전자의 일을 끊었습니다
우버앱이 운전자의
일을 끊었습니다
사람이 해고 통보를 한 것이 아니었습니다. 자동 시스템이 계정을 막았고, 그 순간 운전자는 손님을 태울 수도, Uber를 통해 돈을 벌 수도 없게 됐습니다. 유럽의 개인정보 감독기관은 이 문제에 8억 유로가 넘는 과징금을 매겼습니다.
무슨 사건?
운전자 계정 자동 차단
문제된 기간
2018년 ~ 2022년
제재
€824,990,000
핵심 쟁점
사람 없는 중대한 자동 결정
운전자가 평소처럼 앱을 켭니다. 그런데 손님을 받을 화면은 먹통이고 계정이 막혀 있습니다. 이유를 정확히 모른 채 그날의 운행은 끝납니다. 앱에 들어갈 수 없다는 것은 곧 일을 할 수 없다는 뜻이었습니다.[1]
처음에는 ‘계정 정지’ 문제였습니다
Uber는 기사와 승객을 연결하는 플랫폼입니다. 운전자에게는 앱이 사실상의 작업장입니다. 앱이 열려야 호출을 받고, 운행을 하고, 수입을 얻습니다.
그런데 Uber의 시스템은 일부 운전자를 사기 의심이나 낮은 고객 평점 등을 이유로 자동으로 비활성화했습니다. 네덜란드 개인정보보호당국의 판단에 따르면, 문제된 일부 절차에는 사람의 개입이 전혀 없었습니다. 계정이 막힌 운전자는 더 이상 운행을 할 수 없었고 수입도 얻지 못했습니다.[1]
쉽게 말하면
회사 직원이 자료를 보고 “이 운전자는 문제가 있으니 정지합시다”라고 결정한 것이 아니라, 프로그램이 조건을 판단한 뒤 계정을 막는 구조가 문제의 출발점이었습니다.
시스템은 왜 운전자를 의심했나
공개된 보도에는 사기 의심 사례가 나옵니다. 시스템이 운전자가 요금을 더 받으려고 불필요하게 멀리 돌아갔다고 판단하거나, 실제로 운행을 끝낼 의사 없이 호출을 받아들였다고 판단한 경우입니다. 낮은 고객 평점도 계정 비활성화 사유가 됐습니다.[3]
문제는 “사기 탐지 프로그램을 쓰면 안 된다”는 데 있지 않았습니다. 의심 신호를 잡는 것과, 그 신호만으로 사람의 일할 권리와 수입을 끊는 것은 다른 문제입니다.
탐지는 자동화할 수 있습니다
이상한 운행 패턴이나 낮은 평점을 프로그램이 찾아내는 것 자체가 쟁점의 전부는 아닙니다.
마지막 결정이 문제였습니다
사람의 확인 없이 계정을 막아 생계에 직접 영향을 줬다면 GDPR의 자동화된 의사결정 규칙이 작동합니다.
프랑스 운전자들의 문제 제기가 유럽 사건이 됐습니다
이 사건은 어느 날 갑자기 8억 유로 과징금으로 시작된 것이 아닙니다. 프랑스의 Uber 운전자들이 자신에게 어떤 AI의 자동 결정이 내려졌는지 밝혀라고 문제를 제기하면서 길고 복잡한 절차가 시작됐습니다.
● 2018 ~ 2022
문제된 자동 계정 비활성화가 운영됐습니다사기 의심이나 낮은 평점 등을 이유로 운전자 계정이 일시 또는 영구 비활성화된 사례가 조사 대상이 됐습니다.[1]
● 2019
프랑스 전직 운전자 Brahim Ben Ali도 문제를 제기했습니다UOL은 그의 계정이 프랑스에서 비활성화된 뒤 다른 운전자들의 사례를 모았고, 디지털 권리단체 PersonalData.io가 자료 확보를 도왔다고 전했습니다.[5]
● 2020 ~ 2021
프랑스 CNIL에 170명이 넘는 운전자를 대표한 집단 진정이 접수됐습니다진정 내용에는 정보 제공, EU 밖으로의 개인정보 이전, 임시·영구 자동 비활성화 문제가 포함됐습니다.[1]
● 왜 네덜란드?
Uber의 유럽 주요 사업장이 네덜란드에 있었기 때문입니다GDPR의 유럽 감독기관 협력 절차에 따라 네덜란드 개인정보보호당국이 사건을 맡고 프랑스 CNIL이 조사와 증거 분석에 협력했습니다.[1]
● 2026-08
네덜란드 당국이 824,990,000유로의 과징금을 부과했습니다당국은 Uber의 자동 계정 비활성화가 운전자에게 중대한 영향을 미쳤고, 충분한 정보 제공과 인간의 개입이 부족했다고 봤습니다. Uber는 불복하겠다고 밝혔습니다.[2][4]
사건의 핵심 전환점
쟁점은 “Uber가 운전자를 정지할 수 있는가”가 아니었습니다. “한 사람의 생계를 끊을 만큼 중대한 결정을 컴퓨터가 사실상 혼자 내려도 되는가”였습니다.
유럽 당국은 ‘사람 없는 결정’에 제동을 걸었습니다
GDPR 제22조는 사람에게 법적 효과를 주거나 그에 준하는 중대한 영향을 주는 결정을 전적으로 자동 처리에만 맡기는 것을 원칙적으로 제한합니다. 법이 정한 예외가 적용되는 경우에도 당사자가 인간의 개입을 요구하고, 자신의 의견을 밝히며, 결정에 이의를 제기할 수 있는 보호장치가 중요합니다.
사람이 마지막 판단을 하지 않고 프로그램이 개인 한 사람에 대해 결론을 내리는 구조를 말합니다. 대출 거절, 보험료 결정, 채용 탈락, 플랫폼 계정 차단처럼 삶이나 생계에 큰 영향을 주는 경우가 법적으로 민감해집니다.
네덜란드 당국은 Uber가 자동 시스템으로 운전자 계정을 비활성화했고, 오류를 확인할 충분한 사람 검토가 없었다고 판단했습니다. AP는 일부 계정이 영구적으로 막혔다는 당국의 설명을 전했습니다. 반면 Uber는 과거 정책은 이미 중단됐고, 현재는 인간의 검토와 이의제기 절차를 운영한다고 반박했습니다.[4]
Uber는 과징금 액수와 당국의 판단에 동의하지 않으며 불복하겠다고 밝혔습니다. 따라서 이 사건의 최종 법적 결론은 앞으로의 불복 절차에서 다시 다뤄질 수 있습니다.[2]
엄밀히 말하면 이 사건의 중심은 생성형 AI가 아닙니다. 알고리즘과 자동화된 의사결정 시스템입니다. 그러나 사람이 하던 판단을 소프트웨어에 넘겼을 때 생기는 책임 문제라는 점에서 ‘인공지능 법정’ 연재가 다룰 만한 대표 사례입니다.
책임의 자리
AI와 법을 다루는 한국 변호사의 시선에서 저는 이 사건을 세 가지 질문으로 봅니다. “누가 책임져야 하는가”, “누가 판단 과정을 증명해야 하는가”, “규제기관은 어디까지 개입해야 하는가”입니다.
누가 책임져야 하나
책임의 출발점은 시스템을 설계하고 실제 영업에 사용한 회사입니다. 자동 시스템을 도입해 비용과 속도의 이익을 얻었다면, 잘못된 자동 결정이 만든 위험까지 운전자에게 떠넘길 수 없습니다.
현행 제조물책임법을 플랫폼 소프트웨어에 곧바로 적용할 수 있는지는 별도의 법적 검토가 필요합니다. 다만 저는 제조물책임의 핵심 사고방식, 즉 설계자가 통제할 수 있는 결함과 위험에 설계자가 책임지는 원리를 서비스형 자동 시스템에도 넓혀야 한다고 봅니다.
누가 오류를 증명해야 하나
운전자는 알고리즘 내부를 볼 수 없습니다. 왜 점수가 떨어졌는지, 어떤 데이터가 쓰였는지, 사람이 실제로 검토했는지 알기 어렵습니다.
따라서 회사가 자동 결정 로그, 사용한 주요 판단 자료, 인간 검토 시점, 이의제기 처리 내역을 남기고 설명하는 구조가 맞습니다. 기록을 가진 쪽이 기록으로 설명해야 합니다.
보험과 규제는 무엇을 봐야 하나
자동 결정 시스템의 위험을 평가할 때는 정확도 숫자만 볼 일이 아닙니다. 사람이 개입하는 지점, 오류가 났을 때 되돌리는 절차, 당사자에게 통지하는 방식, 이의제기 처리 기록이 함께 있어야 합니다.
규제기관도 과징금만 계산하는 데 머물러서는 안 됩니다. 생계나 기본권에 큰 영향을 주는 자동 결정이라면 처리 제한, 시정, 자료 제출, 재발 방지 조치가 실제 시스템 운영까지 이어져야 합니다.
출처
CNIL, 2026-08-24, “Décisions automatisées : sanction de près de 825 millions d’euros à l’encontre d’UBER”
https://www.cnil.fr/fr/decisions-automatisees-sanction-de-pres-de-825-millions-deuros-lencontre-duber
NOS Nieuws, 2026-08-21, “Uber schond rechten chauffeurs, AP legt megaboete van 825 miljoen op”
https://nos.nl/artikel/2627738-uber-schond-rechten-chauffeurs-ap-legt-megaboete-van-825-miljoen-op
Reuters via The Guardian, 2026-08-21, “Dutch regulator fines Uber $966m for automating driver suspensions”
https://www.theguardian.com/technology/2026/aug/21/netherlands-fines-uber-automated-driver-suspensions
AP News, 2026-08-21, “Uber fined nearly $1 billion by Dutch regulators over automated suspensions of driver accounts”
https://apnews.com/article/uber-fine-automated-suspensions-netherlands-e64385dc72fd2da440a68babd1ae2fb1
UOL Tilt, 2026-08-24, “Uber recebe multa de R$ 5 bilhões por suspensões automáticas de motoristas”
https://www.uol.com.br/tilt/noticias/redacao/2026/08/24/uber-recebe-multa-de-825-milhoes-por-suspensoes-automaticas.ghtm
※ 공개된 규제기관 자료와 보도를 독자가 이해하기 쉽게 재구성한 해설입니다. Uber는 네덜란드 당국의 판단과 과징금에 불복하겠다는 입장을 밝혔으므로, 향후 불복 절차에서 결론이나 과징금 액수가 달라질 수 있습니다.
KIMKJ.COM
#김경진 #김경진변호사 #김경진인공지능 #인공지능 #AI #AI전문가 #AI법률 #AI정책 #AI규제 #AI윤리 #생성형AI #ChatGPT #Claude #GPT #LLM #디지털전환 #스마트시티 #자율주행 #데이터규제 #GDPR #개인정보보호 #AI거버넌스 #국회의원김경진 #법률전문가 #테크정책 #AI교육 #AI행정혁명 #AI패권전쟁 #kimkj #kimkjcom