.png)
인공지능의 엄청난 발전이 확연하게 느껴지는 요즘인데요👀 발전한 AI는 인간에게 편리함을 제공하지만, 한편으로는 악용 사례도 함께 증가해 앞으로 우리가 해결해야 할 숙제로 남기도 했어요. 그중에서도 딥페이크! 정말 뜨거운 주제인 것 같습니다🔥 지금 현재도 계속 관련한 사례가 쏟아지고 있죠.
그래서 준비했어요👐 딥페이크의 뜻과 기술의 시초 그리고 범죄 사례와 좋은 사례까지! 궁금하시죠? 그렇다면 오늘의 콘텐츠도 놓치지 말고 끝까지 읽어주세요😉
🤔딥페이크란?
.png)
먼저 어원부터 살펴볼게요. 딥페이크는 인간의 두뇌에서 영감을 얻어 데이터를 처리하는 기술인 '딥러닝'과 가짜를 의미하는 'Fake'의 합성어예요😃 이는 2017년부터 사용되어 온 단어로 비교적 최근에 만들어졌죠💬 시초는 미국 온라인 커뮤니티 'Reddit'의 한 회원이 기존 영상에 유명인의 얼굴을 합성해 만든 가짜 콘텐츠를 게재한 사례에서 유래됐다고 합니다.
이후 deepfake는 '적대관계생성신경망'을 기반으로 성장했고, '생성모델'과 '분류모델'로 구분되어 각 모델의 학습을 반복하는 과정을 거치는데요🔁 이 두 모델은 서로를 경쟁자로 인식하여 상호 발전을 이뤄 더욱 정교한 합성이 가능하다고 해요. 덕분에 이 기술은 인간의 능력 밖의 일들을 대신 수행할 수 있죠👍
대표적인 예로 독일의 뤼백대학교 의료정보학연구소에서는 이 기술을 활용한 의료 영상을 개발해 인공지능이 질병을 학습하고 진단할 수 있도록 만들었는데요🩺 이후 학습된 AI는 CT, MRI, X-ray 이미지를 분석해 암의 징후와 이상 신호를 탐지하는 데에 빛을 발하고 있다고 합니다✨
🙅♂️국내에서 딥페이크가 금지됐다고?!
.png)
여러분! 지난 제20대 대통령 선거 때 혹시 기억에 남는 선거 운동 있나요?🙂 저는 인공지능을 활용한 후보들의 가상 영상이 흥미로웠어요. 팬데믹 여파가 완전히 가시지 않은 사회에서 이어가는 신박한 선거운동이었다고 생각하거든요👍 참고로 당시 윤석열 후보는 누리꾼들의 질문에 답하는 '위키윤'을, 이재명 후보는 직접 방문하지 못한 지역의 공약을 전달하는 '재밍'을 선보이면서 유세차에 탑재해 전국을 투어했죠🚐 또한, 개표방송에서는 인공지능과 메타버스를 한 번에 활용해 젊은 층의 눈과 귀를 사로잡을 수 있었어요!
그런데 재미와 신박함은 잠시... 이번 제22대 국회의원 선거에서는 AI를 활용한 선거 운동이 전면 금지되어 볼 수 없게 됐어요😦 인공지능의 발전으로 deepfake 기술 또한 점점 더 정교해졌고, 누구나 쉽게 만들 수 있게 되면서 허위사실 유포 등과 같은 범죄 사례가 늘었기 때문이죠📣 이에 중앙선거관리위원회(선관위)는 지난 24일부터 ✅딥페이크 감별반을 편성·운영하고 있고, ✅'실제와 구분하기 어려운' 가상의 음향·이미지·영상 등을 주요 금지 대상으로 보고 있답니다.
전문가들은 이미 극도로 고도화된 기술을 어떻게 제대로 단속할지에 대한 의문을 제기하고 있다고 하는데요🤔 아무쪼록 부정적인 이슈 없이 선거가 잘 마무리됐으면 좋겠습니다!
🤔딥페이크 범죄 사례 얼마나 심각하길래?
.png)
최근 deepfake와 관련한 범죄 기사, 정말 많이 보이지 않았나요?📰 30일을 기준으로 찾아보니 미국 유명 싱어송라이터, 테일러 스위프트도 피해자가 됐다는 기사가 우후죽순 뜨고 있더라고요. 내용을 찾아보니 음란물과 관련한 범죄였고 엑스(X)를 통해 전 세계로 퍼져 걷잡을 수 없을 지경까지 이르렀었다고 합니다. 이에 엑스(X) 측은 테일러 스위프트를 검색하지 못하게 막았고, 팬들은 #ProtectTaylorSwift 라는 해시태그 운동을 나섰다고 하는데요😡 이렇듯 딥페이크 범죄 사례는 다른 사람의 얼굴을 성착취물로 합성하는 '디지털 성범죄'와 앞서 위에서 언급했던 허위사실 유포의 근원, '가짜뉴스'가 있어요.
디지털 성범죄의 경우 2020년 6월 기준 473건, 2021년 1,913건, 2022년 3,574건, 2023년 8월 기준 3,046건으로 사례가 해마다 크게 증가하는 추세에다가 해당 기술로 제작된 영상의 90% 이상은 포르노라는 말이 있는데요📈 피해자는 주로 유명 연예인들이 타겟 대상이 되기 쉬우나 생성자의 주변 지인이 되는 사례도 흔하다고 해요. 그리고 안타깝게도 피의자, 피해자의 비율이 10대가 가장 높게 조사됐죠😟
가짜뉴스도 마찬가지로 유명인이 표적이 되기 쉬운데, 특히 정치인 같은 영향력이 큰 인물이 피해자로 속출되고 있어요🎙️ 대표적으로 최근 조 바이든 미국 대통령이 성소수자에게 막말을 퍼붓는 영상이 화제가 되었는데요. 이 영상 역시 기술 악용 사례였습니다👎 또한, 2022년에는 '젤렌스키 우크라이나 대통령 항복선언' 영상도 마찬가지였고요☹️
👨⚖️미국의 딥페이크 범죄 사례 규제법
.png)
미국은 다가오는 대선을 앞두고 본격적인 선거철에 앞서 허위 정보 확산을 예방하기 위해 최소 13개 주에서 관련한 법안을 내놨어요⚖️ 미국은 주마다 법이 다르지만, 공통적으로 ✅AI로 만든 콘텐츠를 금지하고 ✅유포자를 대상으로 손해배상 청구가 가능하다는 내용을 담고 있었어요.
미국뿐만 아니라 전 세계적으로 딥페이크와 딥보이스로 인한 가짜뉴스가 계속 생산되고, 널리 유포될수록 국민은 혼란스러울 수밖에 없는데요😵 명확한 규제안과 강력한 처벌 그리고 피해자들을 보호할 수 있는 장치까지 완벽히 마련되어 잘 실행되었으면 좋겠습니다.
🥰딥페이크 기술에도 좋은 사례는 있다!
.png)
범죄 사례가 쓰나미처럼 휘몰아치지만 그럼에도 deepfake를 활용한 착한 사례도 분명 있어요! 서두에서 잠깐 말씀드린 의료 분야도 있고 그밖에 다양한 범위에서 활용되고 있죠😃
SBS <그것이 알고싶다>
<그것이 알고싶다>에서는 사건의 피해자 얼굴을 세상에 없는 사람의 얼굴로 만들어 2차 피해를 막고, 익명성을 강화했어요👩 방송국 측에서는 신기술 활용이 모자이크보다 신변 보호가 뛰어나다는 이유로 이 방법을 선택했다고 하죠🙌 시청자의 입장에서는 몰입감을 올릴 수 있고, 피해자의 입장에서는 신변이 보호되어 일석이조의 효과라는 생각이 듭니다😉
MBC <너를 만났다>
병으로 세상을 떠난 가족들을 만날 수 있는 VR휴먼다큐멘터리예요. 딥페이크를 활용해 보고 싶은 이들의 얼굴을 제작하고, VR 기기를 착용해 가상 공간에서 그들을 만날 수 있죠🧑🤝🧑 첫 방영이었던 "엄마 안 울게. 그리워하지 않고 더 사랑할게" 편은 전국 시청율 2.7%, 유튜브 3551만 회 조회 수를 기록하면서 큰 화제가 됐는데요🥺 이후 후속 시즌이 3까지 제작되면서 그리운 사람들을 만난 감동적인 에피소드가 전 국민에게 전해졌어요.
위 사례와 같은 맥락으로는 AI 추모, 별이 된 스타의 노래커버 영상 등이 있는데요. 윤리적인 차원에서 문제가 된다는 의견도 있으나 개인적인 생각으로는 수익을 창출하지 않는 선에서 제작된다면 착한 사례로 비춰질 듯싶어요❤️
🙏좋은 사례가 늘어나길
.png)
인공지능의 장점 중 가장 이로운 점은 '인간 대신' 일을 하여 인간의 편의성이 높아진다는 것이 압도적이잖아요~ 딥페이크 역시 각종 사전 실험👨🔬, 엔터테인먼트 산업👩🎤, 새로운 시각적 경험 제공👀 등을 통해 인간을 다양한 방면으로 돕고 있어요. 이처럼 deepfake가 여러 분야에 있어 유용한 기술인 만큼 이제는 좋은 사례에도 많이 소개되었으면 좋겠어요!
앞으로 우리나라에도 관련 범죄를 해결할 수 있는 구체적인 법규가 신설되고, 착한 사례도 더 많이 늘어나길 바래봅니다😄
▼
인사이트 UP! 같이 보면 좋은 콘텐츠
제목을 클릭해 주세요!
.png)
.png)
.png)