MS "중국, AI 허위조작 정보로 韓·美·인도 선거 방해할 것"

- 자국에 유리한 콘텐츠 만들어 유포…대만 총통선거서 이미 실험

한강 승인 2024.04.05 21:52 의견 0
이미지 생성 AI (PG).연합뉴스


중국 정부와 연계된 사이버 행위자들이 올해 한국과 미국, 인도에서 치러지는 주요 선거와 관련해 인공지능(AI)으로 만든 허위조작정보를 퍼뜨려 영향력을 행사하려 할 것이라는 경고가 나왔다.

5일(현지시간) 영국 일간지 가디언에 따르면 마이크로소프트(MS) 위협분석센터(MTAC)는 최근 보고서에서 중국이 이들 국가의 선거와 관련해 자국에 유리한 내용의 AI 기반 콘텐츠를 만들고 퍼뜨릴 것이라고 분석했다.

MS는 "인도, 한국, 미국의 인구가 투표장으로 향하게 되면서 중국의 사이버 행위자들이, 일정 부분은 북한의 행위자들도, 이러한 선거를 겨냥하고자 할 것"이라고 밝혔다.

이어 "중국은 관심이 집중된 이들 선거에서 자국의 입장에 유리한 내용의 AI 콘텐츠를 만들고 증폭시킬 것"이라고 말했다.

MS는 "이러한 콘텐츠가 시청자들에게 미치는 영향은 아직 작지만 밈, 영상, 오디오를 증강하려는 중국의 실험은 계속 늘어날 것이며 어느 시점에서는 효과를 낼 수 있다"고 우려했다.

중국은 지난 1월 대만 총통 선거에서 AI로 만든 허위조작정보를 집중적으로 퍼뜨린 것으로 파악됐다.

MS는 '스톰 1376', 혹은 '드래곤브리지' 등의 이름으로 알려진 행위자가 대만 총통 선거 기간 매우 활발하게 활동했다고 밝혔다.

이 행위자는 무소속으로 출마했다가 사퇴한 궈타이밍 후보가 나머지 후보 중 한쪽을 지지한다는 내용의 가짜 음성을 게시했고, 라이칭더 당선인과 관련해서는 AI 뉴스 앵커 등을 이용해 국고를 횡령했다거나 사생아가 있다는 허위 정보를 퍼뜨렸다.

이 AI 뉴스 앵커는 틱톡의 모기업 바이트댄스에서 개발한 툴로 만들어졌다.

MS는 국가의 지원을 받는 단체가 외국의 선거에 영향을 미치려고 AI로 만든 콘텐츠를 사용한 사례를 목격한 것은 이번 대만 총통 선거가 처음이라고 부연했다.

미국 일간 월스트리트저널(WSJ)은 같은 보고서를 인용해 중국 사이버 행위자들이 미국에서도 사회관계망서비스(SNS) 등을 통해 "분열을 초래하는 질문"을 던지고 있다고 전했다.

MS는 이에 대해 "미국 대선을 앞두고 핵심 투표 인구에 대한 정보를 수집하기 위한 것일 수 있다"고 덧붙였다.

톰 버트 MS 보안 분야 책임자는 지난 6개월간 중국 측의 허위조작정보 작전이 훨씬 더 활발해졌으며 이는 중국 정부와 연계된 사이버공격 활동 증가를 반영한다고 설명했다.

버트는 "우리는 그들이 실험하는 것을 목격하고 있다. 다음에 어떤 상황이 벌어질지 걱정된다"고 WSJ에 말했다.

(연합뉴스 제공)

저작권자 ⓒ 프리덤조선 무단 전재 및 재배포 금지