[kbn연합방송=김진영 기자] AI 기술이 빠르게 확산되면서, 이를 악용한 보이스피싱과 사칭 범죄 역시 새로운 양상으로 나타나고 있다. 특히 음성과 영상 등 개인의 신원을 식별할 수 있는 기술까지 범죄에 활용되며 범죄 유형은 더욱 다양해지고 있다.

이러한 변화 속에서 통신사 역시 기존의 차단 방식에서 나아가, AI를 활용해 보다 정교한 대응 체계를 구축하고 있다. AI로 고도화되는 범죄에 맞서 SK텔레콤이 어떤 방식으로 이용자 보호에 나서고 있는지 살펴본다.

AI를 악용하는 보이스피싱 범죄의 증가… 국내 피해액 1조 넘어섰다
2020년 무렵만 해도 누군가의 목소리를 복제하려면 수십 분 분량의 음성 샘플이 필요했다. 하지만 기술의 진화로 인해 AI는 3~10초 정도의 짧은 음성만으로도 그 사람의 말투, 억양, 감정까지 유사하게 재현할 수 있게 됐다. SNS에 올린 짧은 영상이나 유튜브 댓글 읽기, 심지어 음성 메시지 하나로도 충분한 셈이다.

범죄자들은 이러한 기술을 빠르게 악용하고 있다. 2024년 홍콩에서는 AI로 복제한 CFO의 목소리를 활용해 화상회의에서 2,560만 달러가 송금되는 사건이 발생했다. 뿐만 아니라 가족 납치 사칭, 금융기관 직원 사칭 등 AI를 악용하는 범죄 수법도 갈수록 정교해지고 있다.

국내 상황도 예외는 아니다. 최근 경찰청 발표에 따르면 2025년 보이스피싱 피해액은 전년(8,545억) 대비 약 47.2% 증가한 1조 2,578억 원으로 집계됐다. 이는 사상 처음으로 피해액이 1조 원을 넘어선 수치다.

SKT는 경찰청과의 긴밀한 협력을 통해 음성 스팸 및 보이스 피싱 번호를 차단하고 불법·유해 사이트에 대한 접속 차단도 진행하고 있다. 사진은 경찰청과 함께한 RCS 메시징 기반 공익 메시지 전달 캠페인 모습.

더욱 우려되는 것은 이러한 범죄의 진입 장벽이 낮아졌다는 점이다. 전문가들에 따르면, 다크웹에서는 50달러 정도로 음성 복제 툴을 구할 수 있으며 일부 상용 AI 서비스 역시 악용 가능성이 제기되고 있다. 미국의 비영리단체 ITRC(Identity Theft Resource Center)의 2025년 보고서에 따르면 사칭 사기는 전년 대비 148% 급증했으며, AI 기술이 이 같은 사기 확산을 촉진하는 주요 요인으로 작용하고 있다고 분석했다.

보이스피싱 통화 패턴 분석하고 실시간 경고까지, SKT가 AI로 세운 방패

AI를 악용한 범죄가 고도화되는 만큼 이를 차단하는 대응 체계에도 AI 기술이 적극 활용되고 있다. SKT는 지난 2025년 한 해 동안 각종 통신 사기 시도 약 11억 건을 선제적으로 차단했다. 이는 전년 대비 35% 가량 증가한 수치로, 음성 스팸∙보이스피싱 통화 2억 5,000만 건(전년 대비 119% 증가), 스팸 문자 8억 5,000만 건(전년 대비 22% 증가)을 막아낸 것이다. 이러한 성과는 SKT가 구축한 AI 기반 다층 방어 체계를 바탕으로 이뤄졌다.

통화패턴 분석 AI : SKT는 지난 2025년 ‘통화패턴 분석 기반 AI 모델’을 도입했다. 이 시스템은 유관 기관에 아직 신고되지 않은 보이스피싱 의심 번호도 사전에 탐지해 차단할 수 있다. 범죄자들이 새로운 번호를 사용하더라도, AI가 통화 패턴의 이상 징후를 포착해 선제 대응할 수 있다.
스캠뱅가드 : SKT가 자체 개발한 AI 기반 금융사기 탐지 기술로, 금융기관 사칭이나 지인 사칭 등 보이스피싱의 다양한 패턴을 학습해 의심스러운 통화나 문자를 감지해 사용자에게 경고 알림을 보낸다. 스캠뱅가드는 SKT PASS 스팸 필터링의 ‘미끼문자 알림 서비스’와 에이닷 전화의 ‘AI 안심차단’ 기능에 적용돼 있다.
에이닷 전화의 ‘AI 보이스피싱 탐지’ 기능을 사용하는 모습

에이닷 전화 : 에이닷 전화는 ‘AI 보이스피싱 탐지’ 기능을 통해 통화 중 대화 내용을 실시간으로 분석하고, 위험 징후가 감지되면 즉시 화면에 경고 팝업을 띄운다. 예를 들어 상대방이 통화 중 “안전 계좌로 송금해주세요”라고 말하면, AI가 이를 포착해 경고창을 띄우는 식이다. AI가 인지한 위험 수준에 따라 ‘의심’과 ‘위험’ 두 단계로 구분된 알림을 팝업, 알림음, 진동으로 표시된다.

또한 통화가 종료된 후 보이스피싱으로 의심된 통화에 ‘피싱 탐지’ 라벨이 붙고, 같은 번호로 다시 전화가 오면 경고 정보가 함께 표시된다. 모든 분석 과정은 스마트폰 내에서 이뤄지며, 통화 내용이 외부 서버로 전송되지 않아 개인정보 보호 측면에서도 안전성을 확보했다.

AI vs AI, 창과 방패의 끝없는 전쟁
AI를 활용한 범죄 차단 기술이 발전하며, 이를 피하기 위해 AI를 악용하는 범죄 수법 또한 다양해지고 있다. AI 탐지를 우회하는 화법을 연구하고, 감정 표현까지 자연스럽게 연기하는 음성 합성 기술을 이용하기 시작했다. 나아가 딥페이크를 활용해 영상 통화로 상대방을 속이는 사례도 나타나고 있다.

이처럼 범죄 수법이 고도화되는 가운데 SKT의 대응 체계 역시 지속적으로 진화하고 있다. 24시간 모니터링 체계를 가동하고, 새로운 사기 수법이 발견될 경우 이를 즉시 당일 AI 학습에 반영한다. 또한 경찰청, 금융위원회 등 유관 기관과의 실시간 정보 공유도 강화되고 있다. AI를 악용하는 범죄와 이를 AI로 차단하려는 대응이 맞물리며, 이른바 ‘AI 대 AI’ 양상의 대응 구도가 형성되고 있다.

한편 SKT는 올해 스팸 및 피싱 차단 전 과정에 AI 적용을 확대할 계획이다. AI를 기반으로 자동 탐지부터 수집, 분석, 차단, 피해 사전 예방까지 이어지는 원스톱 대응 체계를 구축한다는 방침이다. 올해 모든 스팸∙피싱 차단 과정에 AI를 확대 적용할 계획이다.

과거 통신의 역할이 사람과 사람을 이어주는 ‘연결’에 머물렀다면, AI 시대의 통신은 이제 ‘보호’라는 새로운 책임까지 함께 지고 있다. 이에 따라 통신사 역시 이용자 보호를 위한 역할이 더욱 중요해지고 있다. SKT는 이러한 변화에 발맞춰 향후 5년간 정보보호 분야에 7,000억 원을 투자하겠다고 밝힌 바 있다.

AI로 생성된 목소리가 범죄에 활용되는 시대, 이를 차단하는 대응 역시 AI를 기반으로 진화하고 있다. 첨단 기술을 둘러싼 위협과 대응이 동시에 고도화되는 가운데, SKT는 AI 시대의 새로운 위험에 맞서 이용자 보호 역량을 지속적으로 강화해 나갈 계획이다.

kimjy4385@ikbn.kr