주요 테이크 아웃 :
- 중국 의원들은 인터넷 플랫폼 운영에서 알고리즘의 중심 역할을 깨닫고 20년 2021월 XNUMX일 제정된 개인정보보호법(PIPL)에서 이를 '자동 의사결정'으로 정의하고 처음으로 이 기술을 규제했다.
- PIPL에 따르면 플랫폼은 알고리즘의 영향을 사전에 평가해야 하며 이후의 의사결정 결과에 대해 책임을 집니다.
- PIPL은 플랫폼 사용자에 대한 알 권리를 확장하고, 플랫폼이 사용자에 대한 알고리즘 개인화 권장 사항에 의해 생성된 "정보 고치"를 깨도록 요구합니다.
중국 개인정보보호법(个人信息保护法)2021년 XNUMX월 제정된 , 알고리즘을 통해 자동화된 의사 결정을 수행하는 인터넷 플랫폼의 경계를 그립니다.
Ⅰ. 배경
일반적으로 ByteDance의 TopBuzz 및 TikTok과 같은 중국 인터넷 플랫폼은 사용자에게 콘텐츠와 제품을 푸시하기 위해 추천 알고리즘을 광범위하게 사용하고 있습니다.
그러나 이러한 알고리즘은 사용자의 자유로운 결정권을 침해하여 도덕적 해이를 발생시켰다고 주장하며 대중과 규제 기관에서 의문을 제기하고 있습니다.
중국 의원들은 이러한 플랫폼의 운영에서 알고리즘의 핵심적인 역할을 인식하고 20년 2021월 XNUMX일에 제정된 개인정보 보호법(이하 'PIPL')에서 '자동 의사결정'으로 정의하여 이 기술을 규제하고 있습니다. 처음으로.
PIPL에 따르면 자동화된 의사결정이란 개인의 행동 습관, 취미 또는 재정, 건강, 신용 상태를 컴퓨터 프로그램을 통해 자동으로 분석 및 평가하고 이에 대한 의사 결정을 내리는 활동을 말합니다. (제73조)
그 전에는 자동화된 의사 결정에 대한 플랫폼의 책임에 대해 의견이 분분했습니다. 예를 들어, 일부 사람들은 플랫폼이 본질적으로 일종의 중립적 기술인 자동화된 의사 결정 알고리즘의 결과에 대해 책임을 져야 한다고 믿었습니다. 그러나 PIPL은 그 반대를 명확히 합니다.
Ⅱ. 플랫폼에 대한 제한 사항
1. 규제 기관이 알고리즘을 직접 검토
개인 정보 처리자로서 플랫폼은 정기적으로 법률 및 행정 규정에 따라 개인 정보 처리의 준수 여부를 감사해야 합니다. (제54조)
이를 위해서는 플랫폼이 알고리즘 기반의 자동화된 의사 결정 및 기타 정보 처리 활동을 주기적으로 감사해야 합니다.
규칙에 따르면 규제 기관은 플랫폼의 행위와 결과에 대한 외부 감독 대신 플랫폼의 알고리즘 작동에 대한 내부 감사를 수행할 수도 있습니다.
따라서 규제 기관은 알고리즘을 직접적인 규제 대상으로 삼아 규제 기관이 자동화된 의사 결정의 기술 및 세부 사항에 개입할 수 있도록 합니다.
2. 플랫폼은 알고리즘의 영향을 사전에 평가합니다.
플랫폼은 개인정보 처리자로서 사전에 개인정보 보호영향평가를 실시하고, 자동화된 의사결정을 위해 개인정보를 이용하는 경우 처리정보를 기록하여야 합니다. (제55조)
플랫폼별 평가에는 다음이 포함됩니다.
가. 개인정보 처리의 목적, 방법 또는 기타 측면이 적법하고 적법하며 필요한지 여부
B. 개인의 권리와 이익 및 위험 수준에 미치는 영향 그리고
C. 취해진 보안 보호 조치가 적법하고 효과적이며 위험 수준에 상응하는지 여부.
따라서 플랫폼은 자동화된 의사 결정 알고리즘이 실행되기 전에 사전 평가를 수행해야 합니다. 위험 평가에는 알고리즘 자동화 의사 결정의 합법성과 필요성, 영향 및 위험이 포함됩니다.
플랫폼의 결함 있는 알고리즘 자동화 의사 결정은 시민의 재산과 개인 권리, 심지어 공익과 국가 안보에 해를 끼칠 수 있습니다.
따라서 부정적인 결과는 수천 명의 사용자에게 영향을 미칠 수 있습니다. 그 시점에서 플랫폼이 책임을 진다 하더라도 이미 가해진 피해를 복구하기 어려울 수 있습니다.
이러한 상황을 방지하기 위해 법에서는 플랫폼 알고리즘에 대한 사전 평가 시스템을 구축하여 알고리즘에 사전 개입을 시도하고 있습니다.
3. 이후의 의사결정 결과에 대한 책임은 플랫폼에 있습니다.
플랫폼은 자동화된 의사 결정의 결과에 대해 다음과 같은 의무를 집니다(24조).
A. 플랫폼은 결과가 공정하고 공정하도록 보장해야 합니다.
개인정보처리자는 개인정보를 자동으로 의사결정하는 경우 의사결정의 투명성과 결과의 공정성과 공평성을 확보하여야 하며, 거래가격 등 거래조건에 있어 개인에게 부당한 차별대우를 하여서는 아니 된다.
B. 플랫폼은 사용자의 개인 특성을 대상으로 하지 않는 자동화된 의사 결정 옵션을 제공해야 합니다.
개인에 대한 푸시 기반의 정보 전달 또는 상업적 마케팅이 자동화된 의사 결정에 의해 수행되는 경우 개인의 개인적 특성을 대상으로 하지 않는 옵션 또는 수신을 거부하기 쉬운 방법을 개인에게 동시에 제공해야 합니다.
C. 플랫폼은 의사결정 결과를 설명해야 합니다.
개인의 권익에 중대한 영향을 미치는 결정이 자동의사결정에 의하여 이루어진 경우에는 개인정보처리자에게 소명을 요구할 권리와 그 결정을 거부할 권리를 가집니다. 자동화된 의사 결정을 통해서만 개인 정보 처리자가 결정합니다.
이 규칙은 다음을 포함하여 자동화된 의사 결정의 결과에 대해 플랫폼에 책임을 묻습니다.
A. 규칙은 플랫폼에서 사용된 "기술 중립성" 방어를 인정하지 않습니다. 플랫폼은 알고리즘 방식의 자동화된 의사 결정 결과에 대해 책임을 져야 하며 결과가 공정하고 합리적임을 보장해야 합니다.
나. 플랫폼 이용자의 알 권리를 확대합니다. 사용자는 자동화된 의사결정 결과의 투명성을 요구할 수 있으며, "중대한 영향"이 있는 경우 플랫폼에 설명을 요청할 수 있습니다.
C. 이 규칙은 플랫폼이 사용자에 대한 알고리즘 개인화 추천에 의해 생성된 "정보 고치"를 깨도록 요구하고 플랫폼이 사용자의 알 권리를 보호하도록 요구합니다.
III. 우리의 의견
중국은 플랫폼의 자동화된 의사 결정 알고리즘에 대한 법적 규칙을 추가하여 PIPL에서 돌파구를 마련했습니다. 그러나 여전히 더 다듬어야 합니다. 예를 들어, 법은 다음을 명확히 하지 않습니다.
A. 플랫폼이 알고리즘 평가를 시작하기 위한 조건.
B. 플랫폼이 알고리즘을 평가한 후 평가 보고서를 공개할지 여부 및 공개 범위
C. 플랫폼이 알고리즘 방식의 자동화된 의사 결정으로 인해 발생한 피해에 대해 책임을 져야 하는 방법.
나는 중국 규제 기관이 PIPL을 추가로 구현하기 위해 일련의 특정 규정을 제정할 가능성을 여전히 모색하고 있다고 생각합니다.
님이 촬영 한 사진 Raj와 함께하는로드 트립 on Unsplash
도움을 주신 분들 : 궈동 두 杜国栋
