창과 방패의 대결, 인공지능 가짜 사진 vs 가짜 사진 판별 인공지능

📰  본문

인공지능은 산업계 전반에 큰 영향을 미쳤다. 인공지능은 작업 환경과 방식을 고도화해서 효율을 높이고, 오류가 나면 이를 분석해서 되풀이하지 않도록 스스로 배운다. 사진 업계에 미친 영향도 크다. 인공지능 덕분에 사람들은 이제 사진을 더 빠르게, 편리하게 찍고 수정하며 보관한다.

 

하지만, 인공지능이 점차 강력해지며 부작용도 나온다. 사진 업계에서 인공지능이 만든 인물 사진을 악용한 사례가 나왔다. 이 사진은 만들어진 가짜지만, 진짜 인물 사진과 구분하기 힘들 정도다. 이 탓에 범죄에 쓰일 거라는 우려가 나온다. 인공지능 개발사와 사진 업계는 힘을 합쳐 부작용을 줄일 방안을 찾는다.

 

나날이 발전한 인공지능은 이제 사진을 창조하는 단계에 이르렀다. 피사체의 윤곽만 있으면 이미 배운 다른 피사체의 윤곽, 색깔과 견주어 가며 실제 피사체를 표현한다. 사진 안에 특정 피사체만 지우거나, 교묘하게 붙여 넣기도 한다. 나아가 인공지능은 인물 사진을 배워서 실제로는 세상에 없지만, 진짜 있을 법한 인물 사진을 만든다.

 

이 사람은 없는 사람입니다 웹 사이트. 위 사람은 사람처럼 보이지만, 아니다. 출처 = This Person Does Not Exist

 

 

인공지능이 만든 인물 사진이 얼마나 실제 사진과 비슷한 지를 보려면, 웹 사이트 ‘이 사람은 없는 사람입니다(This Person Does Not Exist)’를 가 보자. 이 웹 사이트에 있는 인물 사진은 모두 인공지능이 만든 것이며, 모두 세상에 없는 사람이다.

 

이렇게 고도의 인공지능으로 만든 인물 사진은 여러 곳에서 악용된다. 최근 스탠포드 대학교 연구원들은 취업 SNS에서 가짜 인물 사진으로 만든 계정을 수백 개 이상 발견했다고 밝혔다.

 

취업 SNS는 특정 기업에 대한 여론 조작, 불공정 영업을 막으려 전송 가능한 메시지의 개수를 제한한다. 이 때 가짜 인물 사진을 만들어 직원인 것처럼 꾸미면, 가짜 계정을 여러 개 만들어 메시지를 많이 보낼 수 있다. 가짜 계정은 사람들에게 왜곡된 정보를 주거나, 광고 수단으로 쓰일 가능성이 크다. 나아가 가짜 인물 사진은 로맨스 스캠(SNS에서 연인이 될 것처럼 속여 호감을 산 후 사기를 벌이는 행각)에 악용될 우려도 크다.

 

인공지능으로 만든 가짜 인물 사진의 부작용들이 속속 드러나자, 업계는 이를 막을 또 다른 인공지능을 연구 개발했다. 수많은 인물 사진을 인공지능이 배우도록 한 뒤, 다른 인물 사진의 이목구비와 명암, 빛의 방향과 각도, 액세서리 유무와 그림자 등 여러 요소를 분석해 진짜인지 가짜인지 알아내는 원리다. 인공지능 소프트웨어 기업 V7 랩스(V7 Labs)가 공개한 구글 크롬 확장 프로그램 ‘가짜 프로필 사진 인공지능 판별기(Fake Profile AI Detector)’이 그 사례다.

 

V7 랩스가 공개한 가짜 사진 판별 인공지능 플러그인. 출처 = V7 랩스

 

V7 랩스는 이 프로그램이 99.28% 확률로 가짜 인물 사진을 판별한다고 강조했다. 이어 이 프로그램이 여러 SNS에 퍼진 가짜 인물과 가짜 계정을 구분하고, 잘못된 정보와 가짜 뉴스를 퍼뜨리는 것을 막기를 기대한다고 밝혔다.

 

인공지능 두 개가 결과물과 장단점을 서로 비교하며 발전하는 GAN(Generative Adversarial Network, 적대적 신경망 네트워크) 기술이 등장한 이후, 인공지능은 지금 이 순간에도 발전한다. 가짜 인물 사진을 만드는 기술도 더욱 교묘해질 것이다.

 

지금은 인공지능이 가짜 사진만 만들지만, 멀지 않은 미래에는 가짜 목소리를 포함한 가짜 동영상까지 만들 정도로 강력해질 것으로 예상한다. 인공지능 업계도 GAN과 데이터를 적극 활용해 이 폐해를 막는다. 무엇이든 묘사하는 인공지능과 무엇이든 감지하는 인공지능, 창과 방패의 대결 양상은 더욱 격렬해질 전망이다.

 

---

🔎  본문 선정 이유

📍  최근 대선때도 AI 후보처럼, 인공지능으로 가상 인물 사진/동영상을 만드는 것이 화제가 됐었다. 아쉽게도 AI 가상 인물을 처음 보자마자 긍정적인 방향보다는 부정적인 방향이 떠올랐다. 이에 대한 대처를 하는 인공지능 기업들도 있다고 알고 있었고, 조금 더 구체적으로 알아보기 위해 위 본문을 선정했다.

---

 

📝  핵심 요약

📍 AI의 고도화에 따라 인물의 가상 사진/동영상이 더 정교해지고 있다.

• 이에 긍정적인 효과도 기대되지만, 반대로 피싱, 여론조작, 불공정 영업, 불법광고, 로맨스 스캠 등 부정적인 효과도 나타나고 있다.
• 이러한 악용을 다시 막기 위해 새로운 기술이 개발되고 기업들이 노력을 하고 있다.

 

📍 인공지능 소프트웨어 기업 V7 랩스(V7 Labs)의 ‘가짜 프로필 사진 인공지능 판별기’가 그 사례

• 수많은 인물 사진을 인공지능이 배우도록 한 뒤, 다른 인물 사진의 이목구비와 명암, 빛의 방향과 각도, 액세서리 유무와 그림자 등 여러 요소를 분석해 진짜인지 가짜인지 알아내는 원리

 

📍 GAN(Generative Adversarial Network, 적대적 신경망 네트워크) 기술로 AI의 명암이 서로 고도화 되고 있다

---

 

📚  추가 조사할 내용

📍 인공지능이 만든 인물사진을 모아놓은 사이트

ThisPersonDoesNotExist - Random AI Generated Photos of Fake Persons

 

📍 본문에 언급된 V7의 가짜 프로필 사진 인공지능 판별기 (크롬 확장 프로그램)

Fake Profile Detector (Deepfake, GAN)

 

📍 GAN(Generative Adversarial Network, 적대적 신경망 네트워크) 이 구체적으로 어떤거지?

[IT열쇳말] GAN(생성적 적대 신경망)

"GAN은 생성적 적대 신경망이라는 이름처럼 두 신경망 모델의 경쟁을 통해 학습하고 결과물을 만들어낸다. 두 모델은 '생성자(Generator)'와 '감별자(Discriminator)'로 불리는데 상반된 목적을 갖고 있다. 생성자는 실제 데이터를 학습하고 이를 바탕으로 거짓 데이터를 생성한다. 실제에 가까운 거짓 데이터를 생성하는 게 목적이다. 감별자는 생성자가 내놓은 데이터가 실제인지 거짓인지 판별하도록 학습한다. 생성자의 거짓 데이터에 놀아나지 않는 게 목적이다. 이안 굿펠로우는 생성자를 위조지폐범에, 감별자를 경찰에 비유했다. 생성자는 감별자를 속이지 못한 데이터를, 감별자는 생성자에게 속은 데이터를 입력받아 학습한다. 이 과정이 반복되면서 위조지폐가 정교해지듯 점점 더 실제에 가까운 거짓 데이터를 만들 수 있게 되는 셈이다."

 

 

---

 

📰  기사 원문

창과 방패의 대결, 인공지능 가짜 사진 vs 가짜 사진 판별 인공지능