디지털 시대에 가짜 뉴스에 대한 우려가 점점 더 대중, 미디어, 모든 종류의 인물들의 관심을 사로 잡고 있습니다. 아무것도, 아니 가짜 뉴스는 중요한 선거 과정에서 특정 무게를 가지고있다 2016 년 미국의 대통령 선거로, 유럽 연합 (EU) 또는 Bolsonaro 승리를 준 브라질의 장군에서 영국의 종료에 대한 국민 투표.
그렇게 멀리 갈 필요없이 우리나라에서 Facebook은 최근 30 페이지, 그룹 및 중복 계정을 통해 150 만 명 이상의 팔로워와 700 만 명 이상의 상호 작용을 축적 한 3 개의 대규모 극우 네트워크를 폐쇄해야했습니다 . 이 그룹은 사기와 허위 이미지를 퍼뜨리는 데 전념했습니다.
그러나 이제 우리는 새로운 골칫거리를 일으키는 또 다른 유형의 디지털 위협에 직면 해 있습니다. 우리는 "딥 러닝" 과 "가짜" 의 조합에서 발생하는 용어 인 소위 Deepfake에 대해 이야기하고 있습니다. 기본적으로 모든 사용자가 실제처럼 보이는 가짜 비디오와 오디오를 편집 할 수있는 인공 지능의 한 형태입니다 . 이를 위해 이미 존재하는 다른 세트에서 새로운 유형의 데이터를 생성 할 수있는 일종의 알고리즘 인 AGR (대립적 생성 네트워크)이 사용됩니다 .
궁극적으로 "딥 페이크"는 디지털 조작의 또 다른 형태이며 최상의 경우 "트롤링"에 가장 많이 사용되는 것 중 하나입니다. 그러나 우리는 그것을 어떻게 감지 할 수 있습니까? 그리고 무엇보다 민간 기관과 기업은 그 재앙을 막기 위해 무엇을하고 있습니까? 이 특집에서 우리는이 새로운 디지털 재앙을 막기 위해 수행되고있는 노력을 검토 할 것입니다.
딥 페이크가 왜 그렇게 위험한가요?
"딥 페이크"기술을 사용하면 마치 마스크 나 디지털 마스크처럼 한 사람의 얼굴을 다른 사람의 얼굴로 쉽게 대체 할 수있어 그가 실제로 일어난 적이없는 특정 말을 한 적이 있다고 믿게 만들 수 있습니다. 짐작할 수 있듯이, 이러한 기술은 인터넷에서 유통되는 정보의 합법성을 결정하는 일련의 매우 중요한 영향을 미칩니다.
유머러스 한 비디오를 만드는 데 자주 사용되지만 사실 "딥 페이크"는 사람의 공공 이미지 를 파괴하거나 잘못된 정보를 사용하여 여론에 영향을 미칠 수있는 어두운 잠재력을 가지고 있습니다 . 불행히도 우리는 이러한 오용이 우리가 원하는 것보다 더 널리 퍼져 있으며 엄청난 성공을 거두어야한다는 것을 알려야합니다.
분명한 예는 DeepNude 앱으로, 옷을 입은 사람의 이미지를 업로드 하고 동일한 벌거 벗은 사람의 새로운 이미지를 만들 수 있습니다 . 다행히도 이미 닫혀 있지만 알고리즘 자체가 모든 작업을 수행하므로 편집 지식이 필요하지 않은 이러한 유형의 도구 사용 용이성을 강조해야합니다.
DeepNude의 경우 플랫폼은 믿을 수 없을 정도로 현실적인 결과를 제공 했으며 Windows 및 Linux 용 웹 사이트를 통해 완전히 액세스 할 수있었습니다 . 그리고 예상대로 Katy Perry 또는 Gal Gadot과 같은 유명인과의 몽타주가 네트워크에 나타나기까지 오래 걸리지 않았습니다.이 여배우의 변호사의 압력이 중요한 성인 콘텐츠 웹 사이트에서 비디오를 제거하기 전까지는 멈추지 않았습니다. .
이것은 이러한 유형의 응용 프로그램이 가질 수있는 처리 용량 의 빙산 의 일각 에 불과합니다 . 이제 한 국가 또는 지역에서 선거 과정을 조작하기 위해 특정 정치인을 대상으로 한 이러한 유형의 캠페인의 결과를 상상해보십시오. 악은 한계가 없습니다.
딥 페이크와 어떻게 싸우나요?
첫 발언을 한 회사 중 하나는 다름 아닌 구글이었는데, 구글은 딥 페이크와 싸우 겠다는 확고한 의지를 밝혔으며,이 경우 화재를 진압합니다. 이 기술 대기업 은 연구원의 탐지 도구를 개선하기 위해 특별히 생성 된 인공 지능 (딥 페이크)으로 조작 된 최대 3,000 개의 비디오 에 대한 전체 데이터베이스의 출시를 확인했습니다 .
이를 위해 Google은 실제 배우를 고용하여 얼굴을 녹화하고 동영상이 인위적으로 변경되었는지 확인하기위한 참조 지점으로 사용합니다. 모든 사람이 사용할 수있는 딥 페이크 생성 방법을 사용하여 이러한 레코딩에서 수천 개의 딥 페이크가 생성됩니다.
결과물 인 실제 비디오와 가짜 비디오는 공동 개발 플랫폼 GitHub에 업로드되어 연구자들이 시스템이 생산하는 것을 완전히 이해할 수 있습니다. 이 데이터베이스 는 먼저 사용자에게 권한 을 부여해야하지만 완전히 액세스 할 수 있습니다.
페이스 북도 올해 말까지 유사한 데이터베이스를 만들 계획이다. 최고 경영자 인 Mark Zuckerberg에 따르면, 주요 문제는 업계가이를 감지 할 수있는 표준화 된 시스템이 없다는 것 입니다. 이것이 Deepfake Detection Challenge를 구축하기 위해 Cornell Tech, MIT, Oxford, UC Berkeley, University of Maryland, College Park 및 University of Albany-SUNY의 AI, Microsoft 및 학자 협회와 협력 한 이유입니다. (영문 약어의 경우 DFDC).
이 매크로 프로젝트에는 최대한 많은 협력자를 장려하기위한 재정 지원 및 기부 외에도 광범위한 데이터베이스와 상세한 분류 가 포함됩니다 . 아이디어는 AI를 통해 조작 된 비디오를 감지하고 방지하는 데 도움이되는 일종의 커뮤니티를 만드는 것입니다.
"딥 페이크"의 확산이 무시할 수없는 심각한 결과와 함께 매우 심각한 문제가되었음을 의심 할 여지가 없습니다. 이 원인에 전념하는 주요 요원이 제안한 조치가 비실용적이거나 심지어 비생산적인 것처럼 보일 수 있지만 장기적으로는이 범죄를 근절하는 유일한 방법 일 수 있습니다. 직관적이지 않은 것처럼 보일 수 있지만 더 많은 "딥 페이크"로 "딥 페이크"와 싸우면 탐지 도구 가 더 많은 데이터를 흡수하여 이러한 유형의 몽타주를 더 쉽게 찾을 수 있습니다 .