AI 보이스피싱: 내 목소리로 당신을 노린다?

 

• 진화하는 AI 보이스피싱 '창'과 이에 맞서는 '방패'
• 딥보이스/딥페이크 주의보: AI가 만든 위험한 사기
• 보이스피싱, AI를 만나 더욱 치밀해졌다: 피해 예방 가이드
• 통신 3사, 국과수, AI로 보이스피싱 잡는다
• AI 보이스피싱 방어 전략: '그놈 목소리' 잡아내는 기술들
• 단 몇 초 목소리로 나를 사칭? AI 보이스피싱의 심각성
• 개인정보, 목소리... AI 보이스피싱 예방, 지금부터 시작하세요
• AI 보이스피싱 '창과 방패' 전쟁의 최전선
•  AI 보이스피싱 예방과 대처법 총정리

https://im.newspic.kr/7NPOK68

태국, 미얀마 내 범죄조직 겨냥 전기 끊자…전화사기 67% 줄어

 

AI 보이스피싱: 진화하는 '창'과 맞서는 '방패' 전쟁의 최전선

"엄마, 나 좀 살려줘." 지난해 10월, 한 중국인 부모에게 단 20초 영상에 담긴 딸의 모습에 부모는 속수무책이었다. 하지만 이는 보이스피싱 조직이 딥페이크와 딥보이스 기술로 만든 가짜 영상이었다. AI 기술이 나날이 발전하면서 보이스피싱 범죄 역시 상상을 초월할 정도로 교묘해지고 있다. 가족이나 지인의 목소리를 똑같이 흉내 내는 '딥보이스'는 이제 낯선 기계음이 아닌, 너무나도 자연스러운 목소리로 우리 곁에 다가와 생활 깊숙이 파고들고 있다. AI를 악용한 보이스피싱 범죄, 그리고 이를 막기 위한 AI 기술의 '창과 방패' 전쟁이 지금 이 순간에도 벌어지고 있다.

 

◆ AI로 특정 목소리 완벽하게 복제: 보이스피싱의 치명적인 무기

지난해 홍콩에서는 AI가 생성한 가짜 화상 회의에 속아 무려 350억 원의 회삿돈이 날아가는 충격적인 사건이 발생했다. CFO와 동료들의 얼굴, 목소리 모두 딥페이크와 딥보이스로 조작된 것이었다. 이제 딥보이스는 어색한 기계음을 넘어 말투, 억양, 호흡까지 인간처럼 자연스럽게 구현해낸다.

글로벌 사이버 보안 기업 크라우드스트라이크에 따르면 딥보이스 기반 범죄는 지난해 상반기 대비 하반기에 5배 이상 급증했다. 국내에서는 아직 피해 사례가 많지 않지만, 전문가들은 시간 문제라고 경고한다. 보이스피싱 조직들은 이미 IT 기업처럼 위장해 AI 기술 강의를 듣고 개발자를 고용하는 등 기술 습득에 적극적이다. 단 5초의 짧은 목소리 샘플만 있어도 특정 목소리를 유사하게 복제하는 것이 가능하며, 3분 가량의 통화량이면 다양한 톤으로 정교한 합성이 가능하다.

이처럼 AI가 처음 듣는 목소리도 몇 초 샘플만으로 특징을 추출해 해당 화자의 목소리처럼 들리게 만드는 기술이 바로 '제로샷 TTS(텍스트 투 스피치)'다. AI 학습에 필수적인 풍부한 데이터, 즉 우리의 일상 대화나 공개된 음성 데이터가 역설적으로 보이스피싱 조직의 학습 데이터로 악용될 수 있다는 심각성을 시사한다.

 

◆ AI 악용에 맞서는 '방패'들: 통신 3사, 국과수 등 협업 강화

AI를 등에 업고 기승을 부리는 보이스피싱에 맞서기 위해 통신 3사와 국립과학수사연구원(국과수) 등 다양한 기관들이 협력 체제를 구축하고 있다. 특히 통신사들의 움직임이 활발하다.

SK텔레콤은 AI 기반의 '스캠뱅가드' 기술로 보이스피싱 발신 번호의 활동 패턴을 분석한다. 특정 번호의 통화량, 발신 편향성 등을 AI가 감지해 사용자에게 알림을 주는 방식이다. 이는 지난해 9월 SKT의 AI 에이전트 '에이닷'에 탑재되었다.

KT와 LG유플러스는 국과수와 협력하여 보이스피싱 탐지 서비스를 운영 중이다. 국과수가 보유한 실제 보이스피싱 범죄 음성 데이터(2만 5천 건)를 받아 AI 학습에 활용, 통화 중 문맥을 감지하여 보이스피싱 가능성을 판단한다. KT는 안심통화 앱 '후후'에, LG유플러스는 AI 에이전트 '익시오'에 해당 기능을 탑재했다. KT에 따르면 이 서비스의 탐지 정확도는 90.3%에 달하지만, 요금 체납 관련 통화처럼 오탐되는 경우도 있어 AI 엔진 고도화 작업이 계속되고 있다.

 

◆ 차곡차곡 쌓이는 '그놈 목소리': 국과수의 음성 분석 DB

국과수는 2015년부터 금융감독원에 신고된 보이스피싱 음성 데이터를 축적해왔다. 이를 기반으로 2023년에는 행정안전부와 협력하여 딥러닝 알고리즘 기반의 '보이스피싱 음성 분석 모델'을 개발했다. 이 모델은 음성 특징(성문, 피치 정보 등)을 분석해 의심 음성을 DB 속 범죄자의 음성과 대조하여 특정할 수 있게 한다. 이는 범죄자 검거뿐 아니라 사건 연관성, 여죄 수사에도 활용된다.

KT와 LG유플러스 역시 국과수와의 협력을 통해 보이스피싱 범죄자 특정 작업에 참여하고 있다. 생체 정보인 성문은 민감 정보에 해당하지만, 보이스피싱 대응을 위한 'ICT 규제샌드박스' 실증특례 승인을 통해 예외적으로 협력이 진행 중이다.

나아가 AI가 실제 사람 목소리인지 기계음인지 구분하는 딥보이스 탐지 기술도 상용화를 앞두고 있다. KT는 오는 6월, LG유플러스는 연내 상용화를 목표로 하고 있다.

 

◆ AI 보이스피싱 파훼법: 금융권 협력과 개인의 경각심

보이스피싱의 최종 목표는 결국 금융 피해다. 이에 금융사들은 이상거래탐지시스템(FDS)을 운영하며, 최근에는 통신사와의 협력을 강화하고 있다. 지난해 IBK기업은행과 SK텔레콤의 협약이 대표적인 예로, 평소와 다른 고액 거래 발생 시 의심스러운 번호와의 통화 기록 정보를 공유받아 사기를 예방한다.

개인의 대처 역시 매우 중요하다. 보이스피싱 조직은 피해자를 고립시키려 하므로, 타인이 보내주는 전화번호나 링크는 절대 신뢰해서는 안 된다. 특히 출처 불명의 링크를 클릭하면 휴대전화에 원격 제어 앱(APK 파일 등)이 설치되어 개인 정보가 유출되거나 악용될 위험이 크다. 휴대전화에 민감한 정보(ID, 비밀번호)를 저장하는 것도 피해야 한다. 통신사 상관없이 사용 가능한 '후후' 같은 앱으로 악성 앱 검사를 주기적으로 하는 것도 도움이 된다.

AI 보이스피싱은 '진화'라는 창과 '협력 및 기술 발전, 개인의 경각심'이라는 방패가 맞서는 치열한 전쟁이다. AI 기술의 어두운 면을 악용하는 범죄자들에 맞서기 위해 우리 모두의 관심과 노력이 더욱 절실해지고 있다.