TikTok, 고위험 주제에서 AI 생성 스팸 계정 단속 테스트 예고

TikTok이 정치·시사, 금융 조언, 의료 콘텐츠 세 영역에서 AI 생성 스팸 계정 탐지 시스템 개선을 테스트한다고 뉴스룸 포스트를 통해 발표했다. Search Engine Journal이 이 발표를 분석하면서 다른 플랫폼의 대응 흐름과 C2PA 관련 움직임까지 함께 정리했다.

무엇이 새로운가

TikTok은 탐지를 계정 단위로 적용한다고 설명했으며, 올해 1분기에만 8,600만 개 이상의 가짜 계정을 제거했다고 밝혔다. 테스트 시작 시점은 “수 주 내”라는 표현 외에 구체적 날짜는 없다. 별도로 TikTok은 C2PA(Coalition for Content Provenance and Authenticity) 운영위원회에 합류한다고 발표했고, 2년 전 최초로 C2PA Content Credentials를 도입한 비디오 플랫폼이라고 언급했다. 지금까지 Content Credentials, 크리에이터 라벨, 자체 비가시 워터마킹을 활용해 30억 개 이상의 영상에 AI 생성 태그를 부착했다고 한다. 다만 “어떤 계정이 대상이 되는지”, “탐지 후 어떤 조치가 따르는지”는 아직 공개되지 않았다.

설정 파일에 어떤 의미인가

이번 발표는 플랫폼 정책 변경이므로 개발자 설정 파일이나 빌드 파이프라인에 직접 영향을 주는 내용은 아니다. 다만 TikTok API를 활용해 콘텐츠를 자동 게시하거나 관리하는 도구를 운영하는 경우, 계정 단위 스팸 탐지 강화가 자동 게시 워크플로에 영향을 줄 가능성이 있다. C2PA Content Credentials 관련해서도 현재 TikTok이 기존 라벨링 시스템을 변경한다는 내용은 없으므로, 영상 업로드 자동화 파이프라인 설정을 당장 수정할 이유는 없다. 구체적인 API 변경이나 정책 시행 세부사항이 공개되면 다시 정리할 예정이다.

다음 단계 제안

건강, 금융, 정치 관련 TikTok 콘텐츠를 자동화 도구로 관리하고 있다면, 현재 계정의 게시 패턴이 스팸으로 오탐될 소지가 없는지 점검해 볼 만하다. 특히 AI로 생성한 콘텐츠를 대량 게시하는 워크플로가 있다면, TikTok의 탐지 기준이 구체화되기 전에 게시 빈도와 콘텐츠 다양성을 검토해 두는 것이 실용적이다. C2PA 메타데이터를 영상에 포함하는 파이프라인이 있다면, TikTok의 기존 Content Credentials 처리 방식이 유지되는지 공식 문서 업데이트를 모니터링하길 권한다.

---

원문 전체 보기: TikTok Targets AI-Generated Spam Accounts In High-Risk Topics (Search Engine Journal)