딥페이크란 무엇이고 어떻게 찾을 수 있을까요?

 

온라인 콘텐츠의 진실성을 판단할 때 "포토샵 처리된" 이미지가 우리가 걱정해야 할 전부였던 좋은 옛날을 기억하십니까?

 

사람들은 사진이 발명된 이후 실질적으로 이미지를 바꿔왔지만, 최근까지 설득력 있는 가짜 비디오나 오디오를 만드는 것은 훨씬 더 어렵고 더 비쌌습니다.

 

하지만 최근 기계 학습과 인공지능의 발전은 딥페이크 즉, 가짜 사건의 비디오나 오디오의 출현으로 이어졌습니다. 이제, 사람들은 정치인, 유명인사, 심지어 그들 자신까지도 그들이 원하는 모든 것을 말하고 행동하게 할 수 있습니다.

 

What is a deepfake?

 

딥페이크(deepfake)라는 용어는 "딥러닝(deep learning)"과 가짜(fake)의 매쉬업(mashup)에서 유래했는데, 이는 딥페이크가 기계 학습과 인공지능의 기술을 활용하여 가짜 오디오 또는 비디오 콘텐츠를 만들기 때문입니다.

 

지금까지, 딥페이크는 주로 재미, 장난, 그리고 포르노에 사용되고 있습니다. 한 연구는 온라인상의 96%의 믿을 수 없는 딥페이크 비디오가 포르노라는 것을 발견했습니다.

 

출처 : Youtube MBN News AI 앵커 4분 요약

 

그리고 그것들은 비디오에만 사용되는 것이 아닙니다. 딥페이크 기술은 누구나 원하는 것을 말하는 것처럼 들릴 수 있는 설득력 있는 "보이스 스킨" 또는 "보이스 클론"을 만들 수 있으며, 다른 기술은 존재하지도 않은 사람들의 완전히 설득력 있는 스틸 사진을 만들 수 있습니다.

 

Who is making deepfakes?

 

일반 가정용 컴퓨터로 설득력 있는 딥페이크를 만드는 것은 여전히 상대적으로 까다로운데, 정교한 하드웨어와 소프트웨어가 필요하기 때문입니다. 하지만 그렇다고 해서 아무도 느려지지 않아요.

 

딥페이크는 연구자부터 아마추어 매니아, 시각효과 회사, 포르노 제작자까지 모두가 제작하고 있습니다. 심지어 정부와 정당들이 그들의 상대나 극단주의 단체들을 깎아내릴 수 있는 미디어를 생산하기 위해 게임에 참여하고 있다는 증거도 있습니다.

 

여러분을 위해 딥페이크 비디오를 만들어 줄 회사도 있고, 여러분이 좋아하는 영화와 TV 쇼의 클립에 여러분의 얼굴을 넣어줄 Zao라는 앱도 있습니다.

 

What are the concerns around deepfakes?

 

딥페이크를 둘러싼 가장 큰 우려는 그것들이 악의적으로 사용될 것이라는 것입니다. 포르노에서 그들의 광범위한 사용은 딥페이크가 협박이나 "리벤지 포르노"에 사용될 수 있다는 매우 현실적인 우려를 불러일으켰는데, 이 비디오에서 한 사람의 얼굴은 그들을 당황하게 하거나, 신용을 떨어뜨리거나, 협박합니다.

 

정부와 정치인들은 또한 딥페이크 비디오가 선거나 사회공학적 사기를 휘저어 신뢰할 수 있는 출처로부터 정보를 얻고 있다고 사람들을 설득하는 데 사용될 수 있다고 우려하고 있습니다.

 

더욱 흥미롭고 우려되는 것은 진짜 영상이나 오디오가 사람에게 잘 비치지 않을 때 문제가 되거나 가짜라고 불릴 수 있는 추세입니다.

 

How do you spot a deepfake?

 

현재로선, 대부분의 딥페이크는 그렇게 보여지고 실제로 누구를 속이려는 의도는 없지만, 기술이 발전함에 따라, 사람들은 그것이 어떻게 잘못 사용될 수 있는지에 대해 당연히 우려하고 있습니다.

 

낮은 품질의 딥페이크는 분명히 발견하기 더 쉽습니다:

바꿔진 얼굴의 가장자리 주변에서 깜박임, 형편없는 립싱크 또는 군데군데 피부 톤과 조명을 보일 수 있습니다.

머리카락, 보석, 그리고 잘 다듬어지지 않은 치아를 포함한 미세한 디테일 또한 좋은 결과물이 될 수 있습니다.

2018년, 미국의 한 연구는 딥페이크가 충분히 자주 깜빡이지 않는다는 것을 발견했습니다.

하지만 이것이 감지되자마자, 창조자들은 더 야만해졌고 깜빡임을 더했습니다.

 

하지만 기술이 발전함에 따라, 가짜를 발견하는 것은 점점 더 어려워집니다. 다양한 기관이 딥페이크 탐지 방법을 연구하고 있으며, 딥페이크 탐지 챌린지는 연구원들이 이 문제에 대해 연구할 수 있도록 데이터 세트를 만들었습니다.

 

아이러니하게도, 인공지능은 인간의 눈이 놓칠지도 모르는 작은 불일치를 발견하도록 훈련될 수 있기 때문에 딥페이크를 발견하는 것에 대한 해답일 수 있습니다. 블록체인 기술을 활용해 미디어의 원천을 만들어내고 유지함으로써 출처와 잠재적인 조작이 항상 설명될 수 있도록 하는 것도 하나의 해결책일 것입니다.

 

미래가 어떻든 딥페이크는 사라지지 않을 겁니다 이를 만드는 기술과 이를 찾아내는 기술이 함께 발전할 가능성이 높으며, 시청자들은 미디어를 소비하는 동안 딥페이크에 대한 인식과 경각심을 가질 필요가 있습니다.

 

What Are Deepfakes And How to Spot Them

                                                               Bernard Marr 컬럼 참고

 

더 많은 흥미거리를 원하시면 아래 link로 방문해 보셔도 좋을꺼 같습니다.

Bb7942의 쉽터_함께 성장합시다.