딥페이크기술 예측 불가능한 위험성 알아보자

최근 미국에서는 조바이든 미국 대통령의 딥페이크 음성이 유포돼 큰 혼란을 겪고 있습니다. 이처럼 선거기간 쏟아지는 딥페이크는 많은 혼란을 초래합니다. 기술이 점점 발전하면서 옛날엔 상상할 수 도 없던 기술들이 점점 우리 일상에 녹아들고 있습니다. 

1. 딥페이크 정의 및 배경

딥페이크 기술은 인공지능과 딥러닝을 활용하여 이미지, 음성, 동영상의 다양한 멀티미디어 콘텐츠를 생성하거나 수정하는 기술입니다. 굉장히 정교하고 사실적인 결과물을 만들어내고 있습니다. 딥페이크는 일상에 밀접하게 관련이 돼있고, 활용 분야도 다양해지고 있습니다. 

 

딥페이크의 등장은 주로 영상 편집 기술의 발전과 인공지능 기술의 발달에 있습니다. 예전에는 영상 편집은 전문가들만 할 수 있는 영역이었지만 최근에는 딥러닝 알고리즘을 이용한 딥페이크 기술이 등장하면서 일반 사용자도 쉽게 영상을 조작 할 수 있게 되었죠. 이러한 기술의 발전은 머신 러닝과 컴퓨터 비전 분야에서 큰 영향을 미치고 있지만 작용이 있으면 반작용이 있듯 다양한 부작용도 나타나고 있습니다. 

 

2. 딥페이크 긍정적 영향과 부정적 영향 

딥페이크 기술은 엔터테인먼트 산업에서는 더욱 현실적이고 섬세한 특수 효과를 구현 가능하게 합니다. 시청자들에게 더욱 직관적인 시청 경험을 제공할 수 있습니다. 광고 산업에서는 제품 모델의 얼굴을 딥페이크로 대체 가능하므로 더 다양한 홍보 전략 및 인건비 절감의 효과도 볼 수 있습니다. 

하지만 딥페이크 기술은 사회적, 윤리적인 측면에서 다양한 위험성이 있습니다. 가장 큰 문제부터 살펴보면 사실과 가짜의 경계가 모호하다는 것입니다. 딥페이크로 생성된 영상이나 음성은 실제와 구분하기 매우 어렵습니다. 그래서 이를 악용한 사례들이 늘어나고 있습니다. 가장 최근에 크게 문제가 된 건 선거철 딥페이크를 활용한 불법 선거운동입니다. 미국의 경우도 선거기간 바이든 대통령의 딥페이크 음성이 유권자들에게 전화를 걸어 선거운동을 해서 문제가 된 사례가 있습니다. 

또한 보이스 피싱이나 명예 훼손 등의 범죄도 발생하고 있어 정책적 뒷받침이 필요한 것으로 보여집니다. 

 

딥페이크는 다른 사람의 얼굴이나 음성을 복제 할 수 있기 때문에 개인 정보 유출 및 사생활 침해의 위험이 큽니다. 유명인의 얼굴을 가진 가상 인물을 만들어 낸 뒤, 그와 관련된 명예 훼손이나 금융범죄가 일어날 수 있습니다. 최근한국에서도 

유명인들의 딥페이크 영상을 만들어 금융범죄가 크게 일어난 일이 있었죠. 이처럼 쉽게 복사가 가능하기 때문에 개인 정보 유출이 매우 심각한 정도로 볼 수 있습니다. 

 

3. 딥페이크와 정부의 역할 : 워터마크 기능 도입 

이런 위험성을 대비하기 위해서는 법적, 정책적 대응 방안이 반드시 필요합니다. 이 기술의 규제를 마련하여 악용을 방지해야 합니다. 

 

세계적으로 중요한 선거가 많은 2024년 인공지능 허위정보 우려가 매우큽니다. 세계 각국에서 AI가 만든 딥페이크 영상이나 조작된 사진, 음성 등이 논란이 되고 있습니다. AI딥페이크가 확산되면서 허위를 사실처럼 꾸며낼 뿐 아니라 사실도 허위처럼 여기게 역이용하는 사례도 늘어나고 있는 추세입니다. 세계 각국이 AI 기술이 선거 악용 우려에 제도 개선을 추진하는 가운데 한국도 현재 적극 대응하고 있습니다. 하지만 현재 근본적인 대안은 없습니다. 온라인의 특성상 한 번 유포되면 잡기도 어렵고 해외 플랫폼을 이용할 경우 더욱더 어렵습니다. 그러므로 가장 우선시되어야 할 건 워터마크 일거 같습니다. 콘텐츠가 딥페이크물인지 탐지하는 기술을 통해 식별하고 차단 하는 거죠.

전 세계적으로 딥페이크물 워터마크가 자리 잡을 때 비로소 더 나은 AI 기술 발전이 있지 않을까 싶습니다.