ChatGPT는 전 세계에서 가장 뜨거운 주제 중 하나가 되었습니다. 이러한 AI 시스템을 '제너레이티브 AI'라고 하며 알고리즘, 모델 및 규칙을 기반으로 사용자가 가져오거나 요구한 것에 따라 텍스트, 이미지, 음성, 미디어, 코드 및 기타 자료를 생성할 수 있습니다. 제너레이티브 AI는 다양한 시나리오에서 사용될 수 있고 일부 산업의 혁명을 촉진할 수 있어 많은 관심을 불러일으켰습니다. Generative AI의 발전에 대응하여 중국의 Cyberspace Administrative(이하 "CAC")는 Generative AI 서비스에 대한 관리 조치 제안(공개 논평을 위한 초안)을 발표했습니다. [1](“生成式人工智能服务管理办法（征求意见稿）”, 이하 “행정조치안”), 11년 2023월 XNUMX일
1. 하이라이트
행정조치 초안은 21개 조항으로 구성되어 있으며 아래의 주요 사항을 다루고 있습니다.
1) 적용 범위: 치외법권
이 초안 행정 조치는 Generative AI를 혁신하거나 활용하고 중국에서 서비스를 제공하는 모든 사람(제공자)에게 적용됩니다(조항 2). 이는 행정 조치 초안이 치외법권적 효과를 갖는다는 것을 의미합니다. 이러한 치외법권적 효력은 효력론과 객관적 영토론에 근거한다. 한편으로 Generative AI에서 생성된 콘텐츠는 중국의 사회 질서 또는 기타 관계에 영향을 미칠 수 있으므로 중국에 영향을 미칩니다. 한편, Generative AI는 영토 내 사용자가 사용하게 되며, 영토에 위치한 Generative AI의 운영은 객관적인 영토 교리의 기반을 제공합니다.
2) 제공자의 의무
공급자는 행정 조치 초안에 따라 다음과 같은 책임을 집니다.
(1) 내용
공급자는 AI가 생성한 콘텐츠에 대해 책임을 져야 합니다. 콘텐츠는 합법적이고 정확하며 확실해야 합니다. 불법, 차별, 허위, 반사회적, 반정부적, 반국가적, 테러적, 극단적, 폭력적, 외설적, 경제 및 사회질서를 어지럽히는 내용이 아니어야 합니다. 제공자는 부적절한 콘텐츠를 적극적으로 또는 사용자의 요청에 따라 삭제하고 AI를 개선하거나 최적화해야 합니다.
(2) 활용
첫째, 공급자는 기업윤리를 준수하고 부정경쟁행위를 하여서는 아니 된다. 둘째, 공급자는 지적 재산권, 개인 정보, 개인 정보 및 영업 비밀을 포함한 타인의 권리를 침해해서는 안 됩니다. 셋째, 공급자는 콘텐츠를 차별적으로 생성해서는 안 됩니다.
(3) 혁신
행정 조치 초안은 또한 Generative AI의 혁신을 위한 요구 사항을 제공합니다. 공급자는 기여자를 위한 명확하고 구체적이며 실행 가능한 지침을 제정하고 기여자를 교육하며 인공 주석이 필요한 경우 콘텐츠의 정확성을 보장해야 합니다.
(4) 행정부와의 협력
사업자는 법령에서 요구하는 행정이나 행정기관에 적극 협조하여야 합니다. 첫째, 제공자는 Generative AI를 등록하거나 인터넷 서비스 관련 규정에 따라 보안 평가를 위해 보고서를 작성해야 합니다. 둘째, 제공자는 딥페이크 서비스 규정에 따라 생성된 이미지와 동영상을 표시해야 합니다.[2] 셋째, 제공자는 행정대리인의 요청에 따라 이용자의 선택에 영향을 미칠 수 있는 필수정보를 제공하여야 한다.
(5) 이용자 관리
공급자는 Generative AI의 사용자를 관리해야 합니다. 첫째, 공급자는 사용자에게 자신의 신원 정보를 제공하도록 요청해야 합니다. 둘째, 제공자는 서비스의 대상을 명시하여 공표하고 사용자가 인공지능이 제공하는 콘텐츠에 중독되지 않도록 조치를 취해야 한다. 셋째, 제공자는 이용자에게 제네러티브 콘텐츠를 적절하게 활용하도록 지도하고 AI를 불법적이거나 비도덕적으로 사용하는 경우 일시적 또는 영구적으로 차단해야 합니다.
2. 코멘트
1) 긍정적 효과
초안 행정 조치는 생성 AI의 추세에 대한 중국의 신속한 대응입니다. 그것은 AI의 규제 프레임워크에 대한 필수적인 보완책 역할을 했습니다. 몇 가지 긍정적인 효과가 있습니다. 첫째, AI의 책임 귀속, 지적 재산권 위협, 유해 콘텐츠, 불공정 경쟁 및 개인 정보 침해 등 Generative AI가 제기하는 대부분의 법적 문제를 다루고 있습니다. 또한 평생 감독을 제공합니다. 혁신에서 활용까지 제너레이티브 AI. 둘째, 행정 조치 초안 제3조는 정부가 AI의 혁신, 응용 및 국제 협력을 지원하고 장려할 것이라고 선언함으로써 AI 발전에 대한 중국의 지원 태도를 보여주었습니다. 셋째, 행정 조치 초안은 다양한 AI 범주에 초점을 맞춘 여러 규정으로 구성된 AI의 유형학적 규제 프레임워크의 필수 부분 역할을 합니다.
2) 법적 지위
행정 조치 초안은 CAC에서 발행한 것이기 때문에 법이 아닙니다.
국무원 산하 행정청. 중국 입법법에 따르면 법률은 전국인민대표대회에서만 제정할 수 있다. 따라서 CAC는 중국의 입법 계층 시스템에서 낮은 계층에 있는 행정 규칙 또는 규범 문서만 발행할 수 있으며 법률과 충돌할 수 없습니다. 그러나 이러한 법적 지위는 유연성과 효율성을 어느 정도 보장했습니다. 한편으로 법률에 비해 행정 규칙이나 규범 문서를 제정하거나 개정하기 위한 요구 사항은 덜 엄격합니다. 한편, 모든 행정주체는 필요하다고 판단되는 경우 자체 행정권한 내에서 규제문서를 발급할 수 있어 규제수요에 신속하게 대응할 수 있다.
3) 위험
초안 행정 조치로 인해 다른 위험이 발생할 수 있다는 점에 유의해야 합니다. 3조는 정부의 지지적 태도를 선언했지만, 행정부가 Generative AI 제공자의 부담을 크게 증가시켰다는 점을 인정해야 합니다. Generative AI의 기술은 아직 성숙하지 않았습니다. 따라서 공급자가 행정 조치 초안에서 제공하는 모든 의무를 준수할 능력이 있는지 또는 적어도 준수 비용을 증가시킬 수 있는지 의심스럽습니다. 예를 들어, 행정 조치 초안은 공급자에게 가짜 콘텐츠를 방지할 것을 촉구합니다. 그러나 엄밀히 말하면 콘텐츠가 현 단계에서 100% 진정성이 있을 수는 없습니다. 공급자가 그러한 의무를 준수하는 데 많은 비용이 들 수 있습니다. 따라서 높은 컴플라이언스 부담은 Generative AI의 개발과 혁신에 어느 정도 걸림돌이 될 수 있습니다.
결론적으로, 행정 조치 초안은 AI 규제에 대한 중국의 긍정적인 태도를 반영합니다. Generative AI 서비스를 제공하려는 엔터티에 대해 상대적으로 높은 규정 준수 요구 사항을 적용했습니다. 이러한 태도는 높은 준수 비용에 대한 우려가 있을 수 있지만 제너레이티브 AI의 건전한 발전에 기여합니다. 전반적으로 행정조치 초안의 효과는 여전히 관찰할 가치가 있다.
[1] http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm 참조.
[2] 중국 사이버 공간 관리국, 중국 공업 정보 기술부 및 중국 공안부, Deepfake 서비스 규정, 규정 12호.
표지 사진 성운군 Unsplash에
도움을 주신 분들 : 린지동(林济东)
