중국, AI 생성 콘텐츠 라벨링 의무화로 디지털 투명성 강화

중국 정부가 AI 생성 콘텐츠에 대한 명확한 라벨 부착을 의무화하는 새로운 규정을 발표했습니다. 사우스차이나모닝포스트의 보도에 따르면, 이 규정은 2025년 9월 1일부터 시행될 예정이며, AI로 생성된 모든 텍스트, 이미지, 오디오, 비디오 및 가상 콘텐츠에 라벨을 의무적으로 부착하도록 요구했습니다.

 

목차

 

중국, AI 생성 콘텐츠 라벨링 의무화로 디지털 투명성 강화

 

 1. 포괄적인 규제 체계

중국 국가인터넷정보판공실(CAC), 공업정보화부, 공안부, 국가광전총국이 공동으로 발표한 이번 규정은 AI 생성 콘텐츠를 규제하려는 중국의 노력에서 중요한 단계로 평가됐습니다. 특히 이 조치는 유럽연합과 미국이 시행한 유사한 규제와 맥락을 같이하며, AI 기술에 대한 더 큰 감독을 향한 글로벌 추세를 반영했습니다.

새 규정은 AI 생성 콘텐츠에 대해 두 가지 유형의 라벨을 의무화했습니다:

• 명시적 라벨: 사용자에게 명확히 보이거나 들릴 수 있어야 하며, 콘텐츠나 사용자 인터페이스 내의 적절한 위치에 텍스트, 소리 또는 그래픽 형태로 나타나야 합니다.
• 암시적 라벨: 콘텐츠 파일의 메타데이터에 포함되며, 콘텐츠 속성, 서비스 제공자의 이름 또는 코드, 콘텐츠 식별 번호에 대한 세부 정보를 담아야 합니다.

특히 주목할 점은 AI 라벨의 악의적인 제거, 변조, 위조 또는 은폐가 명시적으로 금지됐으며, 이러한 행동을 조장할 수 있는 도구를 제공하는 것도 금지했다는 것입니다.

 

 

 2. 디지털 플랫폼의 책임 강화

이번 규정은 중국 내 모든 디지털 플랫폼과 서비스 제공자에게 중요한 책임을 부여했습니다. 플랫폼들은 명시적 및 암시적 라벨링 시스템을 모두 구현해야 하며, 라벨이 사용자에게 분명히 표시되도록 해야 합니다.

서비스 제공자들은 다음과 같은 의무를 갖게 됐습니다:

• AI 생성 콘텐츠에 명확한 라벨 추가
• 라벨링 시스템의 구현 및 유지
• 라벨 제거나 변경을 용이하게 하는 도구 제공 금지
• 라벨의 악의적 조작 방지

이러한 조치는 AI 기술을 규제하면서도 그 발전을 촉진하려는 중국의 균형 잡힌 접근을 보여줬습니다.

 

 

 3. 규정의 목적과 의의

중국의 새로운 AI 콘텐츠 라벨링 규정은 여러 중요한 목적을 가지고 있습니다:

1. 허위 정보 방지: AI 생성 콘텐츠를 명확히 식별함으로써, 대중을 오도할 수 있는 허위 정보와 딥페이크의 확산을 억제했습니다.
2. 투명성 증진: 사용자가 인간이 만든 콘텐츠와 AI가 생성한 콘텐츠를 쉽게 구별할 수 있도록 하여 온라인 정보에 대한 신뢰를 구축했습니다.
3. 사기 및 학문적 부정행위 억제: AI 생성 자료의 명확한 식별을 통해 부적절한 사용을 방지했습니다.
4. AI 개발 지원: 규제와 동시에 중국 내 AI 기술의 "건전한 발전"을 촉진했습니다.

이 규정은 AI 기술의 혁신적 발전과 사회적 안정 사이의 균형을 맞추려는 중국의 정책적 의지를 보여줬습니다. 글로벌 AI 규제 흐름에서 중국은 이번 조치로 AI 기술의 책임 있는 사용을 관리하기 위한 프레임워크를 수립하는 데 있어 다른 글로벌 강대국들과 발맞췄습니다.

이러한 포괄적인 라벨링 요구사항을 통해, 중국은 디지털 콘텐츠의 투명성을 높이고 AI 생성 콘텐츠로 인한 잠재적 혼란을 방지하는 동시에, 빠르게 발전하는 AI 기술을 효과적으로 관리하려는 의지를 분명히 했습니다. 이와 같은 흐름은 AI 시대를 재편하고 진행하는 주도적인 역활을 하기 위한 시장의 잠재력을 동원한 행보로 판단 됩니다.

향후 진행되는 상황을 주의 깊게 지켜 봐야 할 것 같습니다.

 

 같이 보면 좋은 글

• 같이 보면 좋은 글 : [Convergence of IT&AI~★] - 구글 제미나이 로보틱스 공개 – 인공지능의 물리적 세계 확장
• 같이 보면 좋은 글 : [Convergence of IT&AI~★] - "ChatGPT, 연 2,600 만원?" AI 서비스의 미래 or 돈 낭비?
• 같이 보면 좋은 글 : [Convergence of IT&AI~★] - OpenAI의 GPU 부족 문제 극복을 위한 Broadcom社와 맞춤형 AI 칩 개발 전략 수립

---

 

★ 참고 URL 링크 ★

구글 제미나이 로보틱스 공개 – 인공지능의 물리적 세계 확장

 

"ChatGPT, 연 2,600 만원?" AI 서비스의 미래 or 돈 낭비?

 

OpenAI의 GPU 부족 문제 극복을 위한 Broadcom社와 맞춤형 AI 칩 개발 전략 수립