지금 전 세계 미디어를 흥분시키고 있는 챗GPT는 생성형 인공지능(Generative AI)이 초래할 변화에 대한 기대와 불안을 동시에 야기하고 있다. 이미 중국 바이두가 지난해 8월에 선보인 이미지 생성형 인공지능 ERNIE-ViLG는 ‘천안문 광장’과 같이 민감한 표현을 입력했을 때 이미지 생성을 거부한다.

반면에 중국의 다른 멋진 이미지는 누구나 손쉽게 생성하고 유포할 수 있다. 챗GPT와 같은 생성형 인공지능은 콘텐츠 생성에 있어서 거대한 확장성과 비용 절감이라는 장점을 가질 뿐만 아니라 필터링 능력도 갖추어 검열과 프로파간다의 신기원이 될 수 있다. 그리고 혁신 기업의 역할도 새로운 차원으로 진화할 전망이다. 과연 세계는 정보공간에서 진실과 거짓 간의 거대한 전쟁에 돌입하는 것일까?
 

진실과 거짓의 경계는 무너질 것인가?

챗GPT와 같은 생성형 인공지능은 이 전쟁에서 기술기업이 결정적인 역할을 하게 될 것을 의미한다. 생성형 인공지능은 거대한 자금과 데이터, 컴퓨팅 자원을 필요로 하며 마이크로소프트, 알파벳, 바이두와 같은 거대 플랫폼 기업이 지배하는 독과점 시장으로 귀결될 가능성이 높다. 그리고 생성형 인공지능이 모든 종류의 인터넷 서비스의 인터페이스가 될수록 거대 플랫폼 기업은 어떤 주제를 통제하고 기술적으로 관리할지를 결정해야 한다.

만약 관리의 지침이 당-정부에서 주어진다면 검열과 객관성, 진실에 대한 지금까지의 통념도 변화될 수밖에 없다. 인공지능 개발자 커뮤니티와 기업, 당국이 협력하여 첨단 검열 및 프로파간다 미디어가 탄생할 수 있다. 어쩌면 일반적인 검색이나 정보 획득의 차원을 넘어선, 프로파간다에 특화된 인공지능 모델이 등장하고 온라인 맞춤형 교육과 유사한 실시간 맞춤형 프로파간다가 가능할지도 모른다. 이미 올해 1월에 스탠퍼드 인터넷 관측소와 조지타운 대학 신흥기술센터는 생성형 인공지능으로 인하여 전통적인 영향공작(Influence Operations), 즉 프로파간다가 더욱 용이해지고 광범위한 효과를 가져올 것이라고 경고한 바 있다.

그 과정에서 진실이 거짓에 굴복하고 사회적 공론이 공학 기술에 종속되는, 기술 권위주의의 진화를 목도하게 되는 것은 아닐까? 필자가 지난 칼럼에서 지적했듯이, 중국 공산당은 프로파간다가 온라인 공간에서 가장 중요한 과업이라고 천명하고 있음에 주목하자. 
 

챗GPT 이전의 검열과 프로파간다

지금까지 중국에서 정보공간 검열은 만리방화벽을 통하여 이루어져 왔다. 중국의 만리방화벽은 세계에서 가장 큰 규모이자 고도화된 인터넷 검열 시스템이며, 여기에 더해 거대한 규모의 프로파간다 시스템이 작동해왔다. 2004년부터 소위 ‘50센트 당(黨)’이라 불리는 콘텐츠 포스팅 인력이 공공의 관심을 민감한 이슈에서 벗어나 비정치적 이슈로 이끄는 콘텐츠를 연 4.5억 회 게재하는 등 현재 중국에는 정부, 사기업, 언론 분야가 고용한 2백만 명 이상의 인터넷 콘텐츠 관리자가, 그리고 비슷한 규모의 소셜 미디어 프로파간다 및 허위정보 유포자가 활동 중이다.

검열과 프로파간다는 다양한 형태를 취한다. 지난해 여름, 신장 지역의 코로나 봉쇄 기간 중 생필품 부족이나 의료 서비스 지연에 대한 불만이 소셜 미디어에서 증가하자 당국이 봉쇄와 무관한 내용을 마치 홍수처럼 대량으로 포스팅함으로써 대응한 사례는 특히나 정보공간 통제의 창의성(?)을 보여준 한 예이다. 냉혹한 현실에 관한 정보는 타인이 볼 수 없게 하고 엉뚱하게도 육아, 요리와 같은 평온한 일상에 관한 내용이 소셜 미디어를 뒤덮는, 소위 ‘그림자 검열’(shadow banning)이 현실을 호도한 것이다. 진실은 홍수에 떠밀려 나가고 당의 의도에 맞게 여론이 형성되는 체제, 그것이 바로 중국의 정보공간이다.

지금 이 순간 당은 제로 코로나의 철회를 실패가 아닌 성공으로 포장하기 위해 노력 중이다. 정보공간에서 코로나 사망자 통계는 조작되고 진실을 요구하는 백지 시위자는 구금되며, 최고 지도자는 논의에서 빠지면서 제로 코로나의 성과에 대한 자화자찬은 슬그머니 인민의 자기희생이라는 미덕을 칭송하는 것으로 전환되고 있다. 검열과 프로파간다 시스템이 제대로만 작동해 준다면, 제로 코로나 정책의 비자발적 후퇴는 조용한 승리로 윤색될 수 있을 것이다. 마치 마오쩌둥 시절에 사실상 군사적 후퇴였던 대장정을 승리로 포장했던 것처럼.
 

챗GPT 이후의 정보전쟁

지금까지의 검열과 프로파간다는 적지 않은 비용을 요구해왔다. 하지만 챗GPT와 같은 생성 인공지능은 낮은 비용으로 웹에서 지식, 정보를 통합하고 학습해서 효율적으로 결과물을 산출하고 유포할 수 있다.

백지 시위가 당의 정보공간 통제 능력에 의구심을 불어 넣었다면, 생성형 인공지능 혁신은 통제 능력의 한계에 봉착한 당에 새로운 기회일 수 있다. 지금 바이두, 텐센트, 알리바바는 모두 챗GPT와 유사한 모델의 출시를 앞두고 있다. 이들 민간기업의 자율적 활용을 통제하고 당이 적절히 활용한다면 생성형 인공지능은 새로운 무기가 될 수 있다. 인공지능이 동영상의 흐름을 장악할 수 있다면 편향적 정보도 그렇게 할 수 있다. 인공지능이 예술을 창조할 수 있다면 프로파간다도 창조할 수 있다. 그리고 낮은 비용과 확장성이라는 날개를 단 프로파간다 활동으로 편향적인 콘텐츠가 축적될수록, 이를 학습한 인공지능에 의해 편향적인 내레이션도 강화될 수밖에 없다. 마치 인간의 기보(棋譜) 학습에서 출발한 알파고가 알파고 간의 대국을 통해서 자체적으로 능력이 향상되었듯이, 동일한 현상이 생성형 인공지능에서도 나타날 수 있다.

서구와 중국을 막론하고, 지식의 생성을 기계에 의존할수록 자원과 노력을 투입해 인간에 의한 원천적 지식을 창출할 동기는 약화한다는 점은 문제가 아닐 수 없다. 하지만 적어도 프로파간다 영역에서 중국은 당-정부의 강력한 동기, 그리고 여기에 투자할 자원을 갖추고 있어 이러한 딜레마에서 상대적으로 자유롭다. 더구나 이용자들이 다양한 콘텐츠를 다양한 시‧공간적 맥락을 인지하면서 소비하고 다른 이용자들과 상호작용할 수 있는, 메타버스 시대의 하이퍼 콘텍스트(Hyper-context) 미디어 환경을 상상해 보자.

메타버스 시대의 미디어 환경을 생각하면 챗GPT가 쏘아 올린 인공지능 혁신은 정보공간에서의 진실과 거짓을 둘러싼 공방에도 새로운 시대가 도래하였음을 시사한다. 누구나 실시간으로 통제와 프로파간다의 영향에 노출될 수 있기 때문이다. 그리고 거대 플랫폼 기업, 기술 기업은 정보전쟁에서 가장 중요한 행위자가 되어 체제의 안정과 외부 세계와의 경쟁에서 첨병의 역할을 하게 될 것이다.

곧 출시될 것으로 알려진 바이두의 생성형 인공지능에서 과연 ‘백지 시위’라는 표현으로 프롬프트가 가능할 것인지, 어떤 대답을 내놓을지가 앞으로 중국이 인공지능 혁신의 시대를 어떻게 대처할지를 보여주는 시금석이 될 것이다. 참으로 궁금하기 그지없다.