딥페이크, 규제 없어도 되나

상상을 현실로… 딥페이크 단 몇줄로 세상을 구현
  막연한 상상을 현실로 이끌어낼 수 있었던 방식 변화의 중심에는 딥페이크(Deepfake) 기술이 있다. 딥페이크는 신체의 일부, 얼굴 표정, 목소리 등을 합성해 만든 모든 가짜 영상 편집물을 뜻한다. 딥페이크 기술은 삶 전반에 걸쳐 폭넒게 사용되고 있으며 적극적으로 활용한다면 무한한 부가가치를 창출해낼 수 있다. 
  그 중심에는 엔터 산업이 있다. 불과 약 100년 전만 해도 스크린에 실제 사람의 모습을 한 형체가 말을 하는 음성 더빙 기술은 놀라운 일로 여겨졌다. 현재 드라마·예능 분야에서 음성 더빙 기술을 적용하지 않는다면 코미디물 취급을 받을 것이란 게 과언이 아니다. 
  한 달 전 넷플릭스에 공개된 ‘살인자ㅇ난감’에는 배우 손석구와 싱크로율이 높은 아역이 등장해 화제를 모은 바 있다. 아역 배우가 실제 연기를 하되, 얼굴에는 손석구의 과거 사진들을 수집해서 CG기술을 넣는 방식을 택한 것이다. 이는 몰입감과 화제성 두 마리 토끼를 모두 잡았다. 이처럼 딥페이크는 더욱 사실적인 영상을 제작하고 실제로는 불가능한 장면 연출로 더욱 흥미롭고 몰입감 있는 영상을 제작할 수 있다.
  교육 분야와 의료 분야 역시 딥페이크의 순기능을 활용한 대표적 분야다. 교과서 속 역사적 인물을 생생하게 움직이는 이미지로 구현해 내는 것은 교육적인 효과를 불러올 수 있다. 또한 질병 진단 시 인공지능을 활용하는 것은 의료 인력을 감소시키는 결과로 이어져 실로 경제적 효과가 엄청날 것이다. 이렇듯 딥페이크 기술의 도입은 대중의 관심과 화제성, 경제적 효과 모두를 누릴 수 있다. 
  딥페이크로 인해 가짜와 진짜를 구별해내기 힘들다면 딥페이크 식별 기능을 사용하면 된다. 딥페이크를 활용한 기술이 발전함과 동시에 단점을 보완하기 위한 기술 역시 함께 개발 중이다. 이미 ‘카이 캐치’, 심층 신경망 모델, 머신러닝 기반 검출 모델 등의 기술이 개발됐고, 여전히 발전을 거듭하고 있다. 카카오의 AI 자회사인 카카오브레인은 자체 개발한 이미지 생성 AI 모델 ‘칼로’에 비가시성 워터마크 기술 도입을 검토하고 있다. 비가시성 워터마크란 딥페이크는 인간에게 도움을 주기 위해 만들어진 기술이다. 따라서 규제하고 억제하는 것은 시대에 뒤떨어진 일로 옳지 않다. 딥페이크의 순기능에 주목해야 한다. 기술이 급속도로 발전하는 시대에 맞게 단점을 보완하는 방향으로 딥페이크 기능을 최대한 활용하는 것이 옳은 방향이다.

음란 · 범죄 등 악용되는 딥페이크에 대응 시급 

  최근에 미국의 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란 이미지가 SNS 등에서 확산됐다. 이를 계기로 AI가 생성한 딥페이크 이미지에 규제가 필요하다는 목소리가 높아지고 있다. AI 기술이 갈수록 발전함에 따라 가짜 이미지·영상물의 진위를 구별하기 어렵게 됐기 때문이다. 일례로 홍콩의 한 금융사 직원은 딥페이크로 만들어진 가짜 이사와의 영상통화에 속아 약 342억 원을 송금하는 사기를 당했다. 
  이런 가짜 이미지 만들기는 어려운 일이 아니다. 생성형 AI 딥페이크 프로그램은 온라인상에서 쉽게 접할 수 있기 때문이다. 몇 초 만에 앱을 다운받아 비싸지 않은 비용으로 유료 회원에 가입하면 누구라도 손쉽게 사진을 조작할 수 있다. 이런 종류의 앱 가운데 1억 명 이상의 사용자를 확보한 것도 있다. 국내에서도 얼마든지 악용이 가능하다.
  세계적으로 주요 선거를 앞두고 딥페이크에 대한 우려가 커지고 있다. 최근 미국 대선과 관련해서도 예비경선을 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 바이든 대통령의 가짜 목소리를 담은 전화 음성이 SNS를 통해 확산됐다. 대통령조차 딥페이크의 표적이 되고 있는 것이다. 
  이에 오픈AI와 구글 등 20개 빅테크 기업은 지난달 16일 유권자를 속이는 AI 생성 콘텐츠를 방지하기로 합의했다. 선거 결과에 영향을 미치고 유권자가 속을 위험이 있는 콘텐츠를 감지해 꼬리표를 붙이는 조치다. 그들은 속지 않는 방법을 대중에게 교육하는 데 노력하는 한편, 교육·다큐멘터리·풍자와 정치적 의사 표현을 보호하는 데 주의를 기울일 것이라고 밝혔다.
  더 이상 가짜 합성물을 방치했다가 어떤 혼선과 혼란이 생길지 모르기 때문에 딥페이크 대책을 마련해야 한다. 미국 백악관과 의회도 딥페이크의 치명적 위험성에 대해 경고하며 규제에 나설 움직임을 보이고 있다. 
  우리나라도 중앙선거관리위원회가 선거운동에서 딥페이크 콘텐츠를 활용하는 것을 막기 위한 규제책을 마련하기는 했다. 본인의 당선이나 상대 후보의 낙선을 위해 또는 제3자가 특정 후보의 당선과 낙선을 위해 조작된 영상·사진·음향을 제작·배포하는 행위를 금지하는 게 주 내용이다. 하지만 공직선거법 안에서만의 금지다. 이런 강력한 징벌을 선거판 밖에도 적극적으로 적용해야 한다.