“원하지도 않았는데 ‘노출 사진’ 합성”…‘AI 오류’ 논란

[앵커]

그런데 이런 딥페이크 음란물 피해는 텔레그램 등 특정 앱에서뿐 아니라 흔히 쓰는 사진 앱에서도 일어나고 있었습니다.

사용료를 내고 AI 기술을 이용해 사진 보정을 맡겼더니 음란물이 만들어진 건데, 이용자들은 불안을 호소하고 있습니다.

최인영 기자가 보도합니다.

[리포트]

AI 기술을 활용해 사진 속 인물 모습을 바꿀 수 있는 사진 앱 '스노우'.

네이버 자회사가 개발해 1억 회 이상 다운로드 된 인기 앱입니다.

20대 A 씨는 헤어 스타일을 바꿔 주는 이 앱의 기능을 사용했다 황당한 경험을 했습니다.

[A 씨/'스노우' 앱 피해자/음성변조 : "10가지인가 8가지인가 AI가 합성을 해줘가지고."]

자신의 얼굴에 나체가 합성된 사진이 나온 겁니다.

[A 씨/'스노우' 앱 피해자/음성변조 : "처음 보고 경악스러웠죠. 유방의 모양이 그대로 나오고... 내가 돈 주고 했는데 이런 거를 받는 게 너무 화가 났죠."]

스노우가 출시한 또 다른 사진 앱, '소다'를 이용한 여성도 비슷한 피해를 입었습니다.

증명사진의 배경 공간을 바꾸려 AI 기능을 이용했는데, 성적 수치심을 느낄만한 사진이 합성돼 나온 겁니다.

[B 씨/'소다' 앱 피해자/음성변조 : "어플한테 성희롱을 당한 것 같은 느낌도 들고 소비자 기만하나 약간 이런 생각...본인들이 그걸 다 100% 통제 못한다면 유료 서비스를 하지 말든가."]

이에 대해 스노우 측은 "AI 이미지 변환 모델의 한계로 생긴 일"이라며 "필터링 시스템을 강화하겠다고"고 밝혔습니다.

[김명주/서울여대 정보보호학과 교수 : "오픈 소스로 공개되어 있는 성인물을 학습한 엔진을 사용하고 있기 때문에 처음부터 문제시되었던 부분들입니다."]

스노우 측은 외부 유출 가능성은 없다고 밝혔지만, 피해자들은 불안하기만 합니다.

[A 씨/'스노우' 앱 피해자/음성변조 : "혹시 유출이 될까 봐 그게 좀 무서워서... 합성된 이미지가 인터넷 어딘가에 떠돌고 있진 않을까."]

피해자들은 또 다른 피해가 생기지 않도록 스노우 측에 구체적인 재발 방지 대책을 요구하기로 했습니다.

KBS 뉴스 최인영입니다.

촬영기자:이상훈 정준희/영상편집:한효정