[앵커]
이처럼 AI가 새로운 문화 콘텐츠의 자극제가 되기도 하지만, 반대로 AI가 만드는 가짜뉴스도 큰 문제입니다.

그럴듯한 가짜 사진, 정교하게 짜인 가짜 스토리가 우리의 눈과 귀를 현혹하고 있는 겁니다.

AI가 민주주의를 위협하고 있습니다.

세계를 보다, 김성규 기자입니다.

[기자]
[CNN 뉴스]
“오늘 펜타곤 근처에서 폭발이 있는 사진이 공개 됐습니다.”

미군의 심장인 펜타곤 인근에 검은 연기가 피어오르는 사진이 공개되자 미국 국채와 금 가격은 치솟았고 증시까지 한때 출렁였습니다.

러시아의 선전매체까지 깜빡 속아 폭발 사진을 게재하며 환호했습니다.

그러나 AI가 만든 가짜 이미지였고 미 국방부는 조작이라고 해명했습니다.

[CNN 뉴스]
“대충 만든 가짜 사진과 트위터 인증 계정만으로 증시에 악영향을 미치고 일부 언론사를 속였습니다.”

우크라이나 군인들에게 무기를 내려 놓으라고 연설하는 젤렌스키 우크라이나 대통령.

러시아 해커의 소행으로 추정되는 이 영상에 대해 젤렌스키 대통령은 “무기를 내려 놓아야 할 것은 러시아 군”이라며 서둘러 군의 사기를 수습해야 했습니다.

트럼프 전 미국 대통령이 체포되는 과정이 담긴 가짜 사진은 워낙 정교해 지지자들을 한때 자극했습니다.

튀르키예 강진 당시에는 피해 어린이를 안고 있는 가짜 그리스 구조대 사진으로 모금 사기가 벌어졌고 프란치스코 교황이 입은
흰색 롱패딩이 AI 사진인줄 몰랐던 소비자들은 구매 의사를 내비치기도 했습니다.

“시청자 여러분 안녕하십니까. 톰 크루즈입니다.”

영화배우 톰 크루즈가 한국어를 유창하게 해서 많이 놀라셨을 겁니다.

기자의 모습에 영화배우 톰 크루즈의 얼굴만 합성한 가짜 AI 영상입니다.

특별한 기술이나 전문 지식 없어도 다운로드 받은 프로그램으로 단 몇 분 만에 누구나 만들 수 있습니다.

가짜뉴스를 뒷받침할 수 있는 AI 콘텐츠까지 범람하자 챗GPT 창시자도 규제의 필요성을 경고합니다.

[샘 올트먼 / 오픈AI 창업자 겸 최고경영자]
“우리 기술과 산업이 세계에 해악을 미칠까봐 두렵습니다. 이를 막기 위해 정부와 협력하고 싶습니다.”

미국 금융시장을 흔들었던 AI 가짜뉴스는 이제 내년으로 다가온 미국 대선도 위협하고 있어 규제 논의에 속도가 붙었습니다.

[이승환 / 소프트웨어정책연구소 책임연구원]
“딥페이크를 잡는 또 다른 인공지능, 기술적인 조치, 기업들의 자율적인 규제, 정부의 가이드라인이나 입법조치 등이 복합다단하게 전개가 될 겁니다.”

특히, 내년 총선을 앞둔 우리나라는 SNS로 확산되는 진영 정치 영향으로 정교한 가짜뉴스에 더 취약할 수 있다는 우려가 나옵니다.

세계를보다, 김성규입니다.


김성규 기자 [email protected]