중국 정의 관찰자

中司观察

영어Arabic중국어 (간체)DutchFrenchGerman힌디 어Italian일본어한국어PortugueseRussianSpanishSwedish히브리어Indonesian베트남어Thai터키의Malay

중국은 알고리즘 의사 결정에서 플랫폼 책임을 어떻게 해결합니까?

28 년 2021 월 XNUMX 일 일요일
카테고리 : 인사이트
도움을 주신 분들 : 궈동 두 杜国栋
에디터 : 슈아이 황 黄帅

화신

 

주요 테이크 아웃 :

  • 중국 의원들은 인터넷 플랫폼 운영에서 알고리즘의 중심 역할을 깨닫고 20년 2021월 XNUMX일 제정된 개인정보보호법(PIPL)에서 이를 '자동 의사결정'으로 정의하고 처음으로 이 기술을 규제했다.
  • PIPL에 따르면 플랫폼은 알고리즘의 영향을 사전에 평가해야 하며 이후의 의사결정 결과에 대해 책임을 집니다.
  • PIPL은 플랫폼 사용자에 대한 알 권리를 확장하고, 플랫폼이 사용자에 대한 알고리즘 개인화 권장 사항에 의해 생성된 "정보 고치"를 깨도록 요구합니다.


중국 개인정보보호법(个人信息保护法)2021년 XNUMX월 제정된 , 알고리즘을 통해 자동화된 의사 결정을 수행하는 인터넷 플랫폼의 경계를 그립니다.

Ⅰ. 배경

일반적으로 ByteDance의 TopBuzz 및 TikTok과 같은 중국 인터넷 플랫폼은 사용자에게 콘텐츠와 제품을 푸시하기 위해 추천 알고리즘을 광범위하게 사용하고 있습니다.

그러나 이러한 알고리즘은 사용자의 자유로운 결정권을 침해하여 도덕적 해이를 발생시켰다고 주장하며 대중과 규제 기관에서 의문을 제기하고 있습니다.

중국 의원들은 이러한 플랫폼의 운영에서 알고리즘의 핵심적인 역할을 인식하고 20년 2021월 XNUMX일에 제정된 개인정보 보호법(이하 'PIPL')에서 '자동 의사결정'으로 정의하여 이 기술을 규제하고 있습니다. 처음으로.

PIPL에 따르면 자동화된 의사결정이란 개인의 행동 습관, 취미 또는 재정, 건강, 신용 상태를 컴퓨터 프로그램을 통해 자동으로 분석 및 평가하고 이에 대한 의사 결정을 내리는 활동을 말합니다. (제73조)

그 전에는 자동화된 의사 결정에 대한 플랫폼의 책임에 대해 의견이 분분했습니다. 예를 들어, 일부 사람들은 플랫폼이 본질적으로 일종의 중립적 기술인 자동화된 의사 결정 알고리즘의 결과에 대해 책임을 져야 한다고 믿었습니다. 그러나 PIPL은 그 반대를 명확히 합니다.

Ⅱ. 플랫폼에 대한 제한 사항

1. 규제 기관이 알고리즘을 직접 검토

개인 정보 처리자로서 플랫폼은 정기적으로 법률 및 행정 규정에 따라 개인 정보 처리의 준수 여부를 감사해야 합니다. (제54조)

이를 위해서는 플랫폼이 알고리즘 기반의 자동화된 의사 결정 및 기타 정보 처리 활동을 주기적으로 감사해야 합니다.

규칙에 따르면 규제 기관은 플랫폼의 행위와 결과에 대한 외부 감독 대신 플랫폼의 알고리즘 작동에 대한 내부 감사를 수행할 수도 있습니다.

따라서 규제 기관은 알고리즘을 직접적인 규제 대상으로 삼아 규제 기관이 자동화된 의사 결정의 기술 및 세부 사항에 개입할 수 있도록 합니다.

2. 플랫폼은 알고리즘의 영향을 사전에 평가합니다. 

플랫폼은 개인정보 처리자로서 사전에 개인정보 보호영향평가를 실시하고, 자동화된 의사결정을 위해 개인정보를 이용하는 경우 처리정보를 기록하여야 합니다. (제55조)

플랫폼별 평가에는 다음이 포함됩니다.

가. 개인정보 처리의 목적, 방법 또는 기타 측면이 적법하고 적법하며 필요한지 여부

B. 개인의 권리와 이익 및 위험 수준에 미치는 영향 그리고

C. 취해진 보안 보호 조치가 적법하고 효과적이며 위험 수준에 상응하는지 여부.

따라서 플랫폼은 자동화된 의사 결정 알고리즘이 실행되기 전에 사전 평가를 수행해야 합니다. 위험 평가에는 알고리즘 자동화 의사 결정의 합법성과 필요성, 영향 및 위험이 포함됩니다.

플랫폼의 결함 있는 알고리즘 자동화 의사 결정은 시민의 재산과 개인 권리, 심지어 공익과 국가 안보에 해를 끼칠 수 있습니다.

따라서 부정적인 결과는 수천 명의 사용자에게 영향을 미칠 수 있습니다. 그 시점에서 플랫폼이 책임을 진다 하더라도 이미 가해진 피해를 복구하기 어려울 수 있습니다.

이러한 상황을 방지하기 위해 법에서는 플랫폼 알고리즘에 대한 사전 평가 시스템을 구축하여 알고리즘에 사전 개입을 시도하고 있습니다.

3. 이후의 의사결정 결과에 대한 책임은 플랫폼에 있습니다.

플랫폼은 자동화된 의사 결정의 결과에 대해 다음과 같은 의무를 집니다(24조).

A. 플랫폼은 결과가 공정하고 공정하도록 보장해야 합니다.

개인정보처리자는 개인정보를 자동으로 의사결정하는 경우 의사결정의 투명성과 결과의 공정성과 공평성을 확보하여야 하며, 거래가격 등 거래조건에 있어 개인에게 부당한 차별대우를 하여서는 아니 된다.

B. 플랫폼은 사용자의 개인 특성을 대상으로 하지 않는 자동화된 의사 결정 옵션을 제공해야 합니다.

개인에 대한 푸시 기반의 정보 전달 또는 상업적 마케팅이 자동화된 의사 결정에 의해 수행되는 경우 개인의 개인적 특성을 대상으로 하지 않는 옵션 또는 수신을 거부하기 쉬운 방법을 개인에게 동시에 제공해야 합니다.

C. 플랫폼은 의사결정 결과를 설명해야 합니다.

개인의 권익에 중대한 영향을 미치는 결정이 자동의사결정에 의하여 이루어진 경우에는 개인정보처리자에게 소명을 요구할 권리와 그 결정을 거부할 권리를 가집니다. 자동화된 의사 결정을 통해서만 개인 정보 처리자가 결정합니다.

이 규칙은 다음을 포함하여 자동화된 의사 결정의 결과에 대해 플랫폼에 책임을 묻습니다.

A. 규칙은 플랫폼에서 사용된 "기술 중립성" 방어를 인정하지 않습니다. 플랫폼은 알고리즘 방식의 자동화된 의사 결정 결과에 대해 책임을 져야 하며 결과가 공정하고 합리적임을 보장해야 합니다.

나. 플랫폼 이용자의 알 권리를 확대합니다. 사용자는 자동화된 의사결정 결과의 투명성을 요구할 수 있으며, "중대한 영향"이 있는 경우 플랫폼에 설명을 요청할 수 있습니다.

C. 이 규칙은 플랫폼이 사용자에 대한 알고리즘 개인화 추천에 의해 생성된 "정보 고치"를 깨도록 요구하고 플랫폼이 사용자의 알 권리를 보호하도록 요구합니다.

III. 우리의 의견

중국은 플랫폼의 자동화된 의사 결정 알고리즘에 대한 법적 규칙을 추가하여 PIPL에서 돌파구를 마련했습니다. 그러나 여전히 더 다듬어야 합니다. 예를 들어, 법은 다음을 명확히 하지 않습니다.

A. 플랫폼이 알고리즘 평가를 시작하기 위한 조건.

B. 플랫폼이 알고리즘을 평가한 후 평가 보고서를 공개할지 여부 및 공개 범위 

C. 플랫폼이 알고리즘 방식의 자동화된 의사 결정으로 인해 발생한 피해에 대해 책임을 져야 하는 방법.

나는 중국 규제 기관이 PIPL을 추가로 구현하기 위해 일련의 특정 규정을 제정할 가능성을 여전히 모색하고 있다고 생각합니다.

 

님이 촬영 한 사진 Raj와 함께하는로드 트립 on Unsplash

 

 

 

 

 

도움을 주신 분들 : 궈동 두 杜国栋

PDF로 저장

중국 법률 포털 관련 법률

아래 ICO도 확인해 보세요

중국 최초의 개인 파산 사건 뒤에

2021년, Shenzhen Intermediate People's Court는 Liang의 개인 파산 구조 조정 신청을 승인하여 중국에서 처음으로 개인 파산 구조 조정 신청을 승인했습니다.

사례 연구: 얼굴 인식에 대한 행정적 처벌

400건이 넘는 행정 처벌 사례에 대한 연구는 안면 인식에 대한 중국 정부의 현재 태도를 조명하고 오늘 이러한 사례가 발생할 경우 중국의 개인 정보 보호법이 어떻게 적용될지 평가하는 시나리오를 제공합니다.

중국의 법률구조법은 무엇을 말합니까?

의무 변호사는 무엇입니까? 누가 법률구조요원으로 일할 것인가? 어떤 종류의 법률 서비스를 제공받을 수 있습니까? 다음은 중국의 법률구조법을 알기 위해 답변해야 할 주요 질문입니다.

중국 인민검찰법(2018)

중화인민공화국 인민검찰원법은 27년 2018월 XNUMX일에 공포되어 같은 날 발효되었습니다.

중국 산업 안전법 (2021)

산업안전법(安全生产法)은 29년 2002월 2009일에 공포되어 각각 2014년, 2021년, 1년에 개정되었습니다. 최신 개정안은 2021년 XNUMX월 XNUMX일에 발효되었습니다.