AI 서재
책으로 읽는 AI서재
한 권을 고르고, 목차에서 차례대로 읽을 수 있게 정리했습니다.
PDF 다운로드 책
다국어로 읽는 대학생 교양 인공지능
한국어 원문과 외국어 번역을 함께 실은 유학생용 교재입니다. 각 책 소개 페이지에서 PDF를 받을 수 있습니다.
[AI서재] 5.1 데이터 프라이버시, 감시 기술과 AI 가이드라인
도시의 뇌와 디지털 트윈
5.1 데이터 프라이버시, 감시 기술과 AI 가이드라인
김경진 변호사
2021년, 항저우시 인민대표대회 상무위원회는 '항저우 도시대뇌 임파워 도시 거버넌스 촉진 조례'를 통과시켰다. 이 조례는 도시대뇌를 운영하는 공공기관이 국가기밀과 영업비밀, 개인 프라이버시를 어떻게 다뤄야 하는지 정하고, 사고가 났을 때 응급조치와 보고, 영향받은 시민에 대한 통지를 의무로 규정했다. 도시 곳곳에 깔린 CCTV와 사물인터넷 센서, 위치기반서비스가 사람의 움직임을 실시간으로 기록하는 시대에, 이 조례는 기술이 시민의 삶 속으로 들어올 때 지켜야 할 최소한의 선을 문서로 남긴 사례다.
스마트시티와 지능형 관제 플랫폼이 도시 곳곳으로 퍼지면서, 도시 운영은 눈에 띄게 효율적으로 바뀌었다. 그 이면에서는 개인정보 침해와 국가·기업에 의한 감시, 알고리즘에 숨은 편향이라는 문제가 함께 자랐다. 항저우와 싱가포르는 이 문제에 각자 다른 방식으로 선을 그었다.
싱가포르의 개인정보 보호는 개인정보보호위원회(PDPC)가 관장하는 개인정보보호법(PDPA)이 뼈대를 이룬다. 다만 이 법은 민간 조직이 다루는 개인정보에 적용되고, 공공기관이 다루는 정보는 별도의 공공부문 거버넌스법(Public Sector (Governance) Act 2018)과 정부 ICT 지침이 규율한다. 이 법은 익명 처리된 정보를 허락 없이 다시 식별 가능한 정보로 되돌리는 행위와 정보를 부당하게 사용하는 행위를 금지한다. 두 법을 하나로 뭉뚱그려 쓰지 않는 것이 싱가포르 개인정보 체계를 이해하는 첫걸음이다. PDPA는 종종 유럽연합의 개인정보보호규정(GDPR, 2016)과 비교되지만, 위반 시 부과되는 과징금 상한이나 데이터 국외 이전 규제의 촘촘함에서는 차이가 있다.
싱가포르 정부는 2021년 개인정보보호(데이터 유출 통지) 규정을 시행했다. 이 규정은 PDPA 체계 안에 있어, 민간 조직이 다루는 개인정보가 유출됐을 때 PDPC와 이용자에게 통지하도록 의무화한다. 공공기관이 다루는 정보가 유출됐을 때는 이 규정이 아니라 공공부문 거버넌스법과 정부 ICT 지침에 따른 별도 절차를 밟는다. PDPC는 공공기관이 연루된 데이터 사고를 접수하는 창구를 따로 두어, 민간과 공공의 통지 체계가 서로 다르게 나뉜다는 점을 분명히 한다.
PDPC와 IMDA는 2020년 인공지능 거버넌스 모델 프레임워크 2차 개정판을 내놓았다. 민간 조직을 주 대상으로 하는 이 자율 지침은 AI 시스템을 설계하고 운용할 때 참고할 원칙으로 설명 가능성과 투명성, 공정성, 인간 중심의 감독을 제시한다. 법이 아니어서 기업에 준수를 강제하지 않고, 따르면 신뢰를 얻는 자율 규범에 가깝다. 사람이 결정 과정에 개입해야 한다는 항목도 지침이 권하는 원칙 가운데 하나일 뿐, 법으로 강제된 의무는 아니다. 같은 원칙 위에서 만들어진 AI 검증 도구 AI Verify는 안전, 보안, 견고성, 공정성, 데이터 거버넌스, 책임, 인간의 감독을 포함한 원칙들로 기업의 AI 시스템을 점검한다.
이 체계가 시험대에 오른 사건이 팬데믹 시기의 트레이스투게더(TraceTogether)와 세이프엔트리(SafeEntry)다. 두 플랫폼은 감염 경로를 추적하려고 만들어졌지만, 형사소송법에 따라 경찰 수사에도 쓰일 수 있다는 사실이 뒤늦게 알려지면서 논란이 일었다. 보건 목적으로 모은 데이터가 다른 목적으로 넘어갈 수 있다는 우려는 법과 지침이 아무리 촘촘해도 데이터 사용 목적을 분명히 못 박지 않으면 신뢰가 흔들릴 수 있음을 보여준 사례로 남았다.
중국은 항저우를 포함한 도시 데이터 관리를 국가 주도의 법체계 안에서 다룬다. 2021년 제정된 개인정보보호법(PIPL)은 같은 해 11월부터 시행됐으며, 사이버안보법과 데이터안보법을 더해 세 개의 법이 서로 맞물리는 구조를 이룬다. PIPL은 국가기관이 처리하는 개인정보에는 별도의 장을 두어, 민간 기업과는 다른 기준을 적용한다. 국가표준화관리위원회(SAC)가 만든 개인정보 안전규격(GB/T 35273-2020)은 정보를 모으고 저장하고 쓰는 전 과정에서 동의를 어떻게 받아야 하는지, 이름과 얼굴 같은 정보를 어떻게 가명 처리해야 하는지를 구체적으로 정한다.
국가인터넷정보판공실(CAC)은 알고리즘과 합성 미디어 기술의 오용을 막기 위한 행정 규정을 여러 차례 내놓았다. 딥페이크를 포함한 합성 콘텐츠에는 기술적 라벨링을 요구하고, 주요 플랫폼과 기업이 쓰는 추천 알고리즘은 국가 시스템에 미리 등록하도록 한다. 알고리즘이 무엇을 근거로 콘텐츠를 추천하는지 국가가 먼저 들여다보는 구조다.
두 도시의 개별 실적을 벗어나면, 스마트시티 연구 영역에서는 개인정보를 지키면서도 데이터를 쓸 수 있게 하는 기술이 여러 갈래로 발전해 왔다. 차분 프라이버시(Dwork et al., 2006)는 수집한 위치·이동 데이터에 정밀한 노이즈를 섞어 특정 개인을 가려내기 어렵게 만드는 기법이다. 연합 학습은 각 단말기에서 따로 학습을 시킨 뒤 그 결과 값만 중앙 서버로 모아, 원본 데이터를 서버로 옮기지 않고도 전체 모델을 훈련시킨다. 여기에 동형 암호, 영지식 증명, 암호화 다자간 연산을 더하면 데이터 원본을 드러내지 않고도 통계나 시뮬레이션을 만들어낼 수 있다.
알고리즘이 예측 경찰활동이나 복지 자원 배분에서 인종, 성별, 계층에 따라 다른 결과를 내놓는 문제를 막으려는 노력도 함께 진행됐다. 설명 가능한 인공지능(XAI) 기법은 알고리즘이 왜 그런 판단을 내렸는지 사람이 알아볼 수 있게 풀어낸다. 라지 등(Raji et al., 2020)이 제안한 알고리즘 감사는 알고리즘을 만들고 배치하고 운용하는 전 과정을 독립된 검증자가 들여다보는 절차다. 바르셀로나, 헬싱키, 암스테르담 같은 유럽 도시는 시 행정에 쓰는 알고리즘의 목적과 데이터 출처, 판단 근거를 시민에게 공개하는 알고리즘 레지스터 제도를 운영한다.
보안 쪽에서는 네트워크 안의 어떤 단말이나 사용자도 처음부터 믿지 않고 계속 신원을 확인하는 제로 트러스트 아키텍처(NIST SP 800-207)가 사이버-물리 인프라를 지키는 기준으로 자리 잡았다. 여기에 인공지능 경영시스템을 다루는 ISO/IEC 42001과 미국 국립표준기술연구소(NIST)의 AI 위험 관리 프레임워크(AI RMF 1.0)가 겹쳐지면서, 거버넌스와 보안과 프라이버시와 공정성을 한데 묶은 체계가 만들어지고 있다.
제도의 성격에서 두 도시는 갈라진다. 싱가포르는 법으로 최소한의 의무만 정하고 나머지는 지침과 인증으로 채우는 반면, 중국은 알고리즘 등록부터 딥페이크 라벨링까지 정부가 사전에 확인하는 절차를 법으로 못박는다. 데이터가 흐르는 경로도 다르다. 싱가포르는 민간 사업자가 국제 인증을 받아 데이터를 국경 너머로 옮기는 길을 열어두지만, 중국은 데이터안보법을 통해 국가 안보와 연결된 데이터의 국외 이전을 엄격히 통제한다. 결정권 역시 다르게 나뉜다. 싱가포르는 PDPC라는 규제기관이 기업의 자율 준수를 감독하고, 중국은 CAC라는 국가 기관이 알고리즘의 등록과 승인 자체를 관장한다. 시민의 권리에서는 두 체계 모두 동의와 통지를 요구하지만, 동의를 거부했을 때 실제로 서비스를 이용하지 못하게 되는 경우가 있다는 점은 공통된 과제로 남는다. 두 도시 모두 정보보안 국제 표준을 받아들이지만, 그 표준을 적용하는 강제력의 크기와 위반 시 책임을 묻는 방식은 서로 다르다.
싱가포르는 법과 자율 지침을 함께 쓰면서도 목적 제한이 흔들리는 순간을 겪었고, 중국은 국가가 알고리즘까지 등록받는 강한 통제로 프라이버시와 콘텐츠 질서를 함께 관리한다. 두 접근 모두 기술이 사람을 지켜보는 힘을 가진 뒤에는, 그 힘을 누가 어떤 목적으로 쓸 수 있는지를 미리 정해두는 일이 뒤따라야 한다는 사실을 확인시켜 준다.
근거 및 참고문헌
杭州市人民代表大会常务委员会. (2021). 杭州城市大脑赋能城市治理促进条例. https://scjg.hangzhou.gov.cn/art/2021/7/15/art_1693458_58922054.html
Singapore Attorney-General's Chambers. (2018). Public Sector (Governance) Act 2018. https://sso.agc.gov.sg/Act/PSGA2018
Personal Data Protection Commission (PDPC). (2025). Data Incidents Involving Government Agencies or Government Data. https://www.pdpc.gov.sg/complaints-and-reviews/before-you-lodge-a-complaint-with-us-3/public-agencies
European Parliament, & Council of the European Union. (2016). General Data Protection Regulation (GDPR) (Regulation (EU) 2016/679).
Personal Data Protection Commission (PDPC). (2020). Model AI Governance Framework (2nd ed.). Government of Singapore.
Personal Data Protection Commission (PDPC). Singapore's Approach to AI Governance. https://www.pdpc.gov.sg/help-and-resources/2020/01/model-ai-governance-framework
全国人民代表大会常务委员会. (2021). 中华人民共和国个人信息保护法. https://flk.npc.gov.cn/detail?fileId=&id=ff8081817b6472a3017b656cc2040044&title=%E4%B8%AD%E5%8D%8E%E4%BA%BA%E6%B0%91%E5%85%B1%E5%92%8C%E5%9B%BD%E4%B8%AA%E4%BA%BA%E4%BF%A1%E6%81%AF%E4%BF%9D%E6%8A%A4%E6%B3%95&type=
Standardization Administration of China (SAC). (2020). Information security technology—Personal information security specification (GB/T 35273-2020).
Dwork, C., McSherry, F., Nissim, K., & Smith, A. (2006). Calibrating noise to sensitivity in private data analysis. In Proceedings of TCC 2006 (pp. 265–284).
Raji, I. D., Smart, A., White, R. N., Mitchell, M., Gebru, T., Hutchinson, B., et al. (2020). Closing the AI accountability gap: Defining an end-to-end framework for internal algorithmic auditing. In Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (FAccT) (pp. 33–44). https://doi.org/10.1145/3351095.3372873
National Institute of Standards and Technology (NIST). (2020). Zero Trust Architecture (NIST SP 800-207). U.S. Department of Commerce.
National Institute of Standards and Technology (NIST). (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). U.S. Department of Commerce.