딥페이크 기술로 바라보는 AI의 기술의 문제점 - deepfake

딥페이크(deepfake)를 아시나요?

인공지능 기술을 활용해 영상의 특정부위를 다른 것으로 치환해 보여주는 기술입니다.


요즘 많이 쓰고 있는 스노우 앱을 아시죠? 
사진을 찍으면 얼굴의 특정 부위에 이미지가 덧씌워져 재미있는 영상을 만들어 냅니다.



이기술은 OpenSource로서 개발을 할 수 있는 사람이라면 이를 가져다가 활용할 수 있습니다. 

이로 인해 많은 앱들이 생겨났고 많은 사람이 재미있게 사용하고 있습니다. 

영화에서도 이런 기술이 긍정적으로 사용됩니다. 
CG처리를 하기 위해서는 엄청난 인력이 소모되었었는데 해당 기술을 발달로 인하여 적은 인력으로 정교한 CG처리가 가능 해지고 있습니다. 

허나 이러한 긍정적인 부분의 반대편에는 부정적인 부분도 있습니다. 

이런 기술을 악용해 포르노와 연예인을 합성해 무분별하게 배포되고 있습니다. 
포르노 영상의 배우 얼굴에 유명 연예인을 합성하여 배포하고 있습니다. 

이는 해당 연예인의 치명적인 명예 훼손을 가져옵니다.



기존의 포토샵으로 이용해 단순 사진을 합성하는 수준이 아닌, 얼굴과 표정까지 합성을 하게 되니 진위여부를 모른다면 깜빡 속을 수 있을 정도로 정교합니다. 

문제는 이 기술이 점점 발전하고 있다는 것입니다. 

정교한 기술력은 점점 올라가고 목소리까지 똑같이 하는 것도 가능하다니 이 이야기를 들었을 때 필자는 너무나도 무서웠습니다. 

영향력 있는 정치인을 딥 페이크 해서 선전포고를 한다거나, 대기업 오너를 딥 페이크 해 경제적으로 악용할 수 있기 때문입니다. 

접근성이 쉽기 때문에 범죄에 이용될 가능성이 너무나 큽니다. 

실제로 할리우드 스타들도 여러 합성 포르노로 피해를 입고 있고, kpop 스타들도 영상들이 많이 제작되어 악용되고 있습니다.



인공지능 기술의 발전이 이러한 범죄로 다가오니 정말 무섭다는 생각이 듭니다. 

인류가 맞이하는 4차 산업혁명의 시작점인 지금 AI 기술에 대한 틀을 잘 잡아야 더 큰 피해가 없지 않을까 많은 생각이 드는 시점입니다.
,