스마트폰을 가전제품과 연동하고, 유튜브 알고리즘을 통해 콘텐츠를 추천받고, 가상 인플루언서가 등장한 것은 이미 우리에게 익숙한 인공지능 활용 사례다. 인공지능의 범위는 상당히 광범위하다. 인공지능의 가장 좁은 의미를 딥러닝이라고 볼 수 있다. 딥러닝은 인공 신경망에 매우 많은 신경망을 주입해 학습하도록 만든다. 한편 생성적 대립 신경망이라 불리는 알고리즘 GAN(Generative Adversarial Networks)은 생성자와 판별자가 서로 대립하면서 데이터를 생성해가는 방식을 따른다. 딥러닝과 GAN, 두 가지가 오늘날 딥페이크 기술의 핵심이다.
페이크앱(fakeapp)이라는 무료 소프트웨어가 배포되면서 딥페이크 영상을 쉽게 만들 수 있게 되었다. 하지만 이런 기술이 좋은 방향으로만 활용되진 않는다. 딥페이크 영상의 98%가 포르노 영상으로 제작되며 그중 25%의 중심 인물이 한국 연예인이라는 통계가 있고, 그 피해가 비연예인에게까지 퍼지고 있다. 최근 한 정당에서 대통령 후보를 딥페이크로 만든 사례도 있다. 이처럼 인공지능 기술을 활용하면 모두가 선호할 만한 가상의 인물을 만들어낼 수 있다. 하지만 딥페이크로 만들어진 사람은 분명 디지털 인간이다. ‘나’가 사라지고, ‘나’를 타인의 입맛대로 바꾼 가상의 인물을 진짜라고 착각하는 위험한 상황이 벌어져서는 안 된다.
이에 대응해 수많은 개발자들이 가짜를 판별하는 인공지능을 개발하는 데 박차를 가하고 있다. 2020년 9월 마이크로소프트가 딥페이크 방지 기술을 선보였고, 우리나라에서도 가짜 영상의 특성을 파악하는 학습을 진행해 가짜 여부와 그 정도를 가려내는 기술을 개발 중이다. 마이크로소프트, 페이스북과 아마존, 학계는 2019년부터 딥페이크 검출 챌린지를 구축하기 위해 케글(Kaggle)이라는 사이트에서 경진 대회를 열고 딥페이크를 위한 학습 데이터를 공개했다. 2019년에 열린 첫 경진 대회에서는 65%의 정확성을 보인 바 있다. 이는 앞으로 지속적으로 발전할 것으로 예측된다.
사회적 가치와 정의를 실현하기 위해서는 인공지능 윤리를 제대로 교육해야 한다. 개발자와 연구자뿐 아니라 인공지능의 소비자 역시 똑같은 교육이 필요하다. 비단 딥페이크만의 문제가 아니다. 인공지능의 지도 학습은 사용자에 따라 이뤄진다. 구글 번역기는 사용자가 많이 쓰는 단어를 학습해 번역을 실행한다. 얼마 전 대화형 챗봇 ‘이루다’가 편향적 발언과 욕설을 했을 때 ‘이루다 학습하는 법’이 인터넷에서 공공연하게 떠돌았다. 인공지능에 의도적으로 데이터의 편향성을 심어준 것이다. 그만큼 소비자가 인공지능을 올바르게 사용해야 하는 면도 분명히 있다.
인공지능은 특정 대상을 위한 것이 아니라 누구나 보편적 복지를 보다 적은 비용으로 편하게 누릴 수 있게 하는 기술이 되어야 한다. 돈이 없어 건강검진을 받지 못하는 사람에게 보다 편하게 서비스를 제공하는 것, 거동이 불편한 노인 곁에서 인공지능 비서가 말벗이 되어주는 것, 자살을 생각하는 사람에게 딥페이크를 이용한 상담자를 만들어주는 것. 이런 긍정적인 일들을 인공지능이 해낼 수 있다.
