"엄마, 나 다쳤어" AI 가짜 목소리…'익시오'가 당신의 가족을 지킨다
"엄마, 나 다쳤어" AI 가짜 목소리…'익시오'가 당신의 가족을 지킨다
LG유플러스가 자사 인공지능(AI) 에이전트 서비스 ‘익시오(ixi-O)’ 확장 전략 일환으로 ‘이용자 안전’ 키워드를 강조하고 나섰다. 각종 위변조 범죄에 사용되는 음성 및 영상 데이터를 학습한 기술을 익시오에 탑재해 이용자 안전 확보에 집중하겠다는 전략이다.
LG유플러스는 연내 익시오 100만 이용자 달성 및 3년 내 600만 이용자 확보를 목표로 각종 AI 서비스를 단계적으로 선보일 예정이다. 오는 30일 익시오 서비스에 탑재되는 위변조 탐지 기술 ‘안티딥보이스’도 그 중 하나다. 익시오를 활용한 다양한 AI 서비스 출시를 앞두고 있는 상황, 안전 키워드를 강조함으로써 이용자 보호를 전면에 내세워 신뢰를 쌓겠다는 전략으로 풀이된다.
LG유플러스 전병기 AX기술그룹장(전무)는 26일 오전 10시 LG서울역빌딩에서 개최된 언론사 대상 ‘AI 보안기술 설명회’에서 “LG유플러스 ‘어슈어드 인텔리전스(Assured Intelligence)’는 보안 중심 AI로, 안티딥보이스와 안티딥페이크 기술 통해 이용자가 걱정 없이 서비스를 활용할 수 있도록 하는 것”이라며 “보안 기술 핵심을 ‘익시가디언’으로 브랜드화하고, 스팸 전화 탐지 AI, 보이스피싱 피해 예방 안티딥보이스는 오는 30일 익시오 업데이트를 통해 공개 예정”이라고 말했다.
◆목소리 위변조 탐지는 시작일 뿐…AI 생성 가짜 얼굴도 잡는다
안티딥보이스는 LG유플러스가 자체 개발한 VAD(Voice Activity Detection), STT(Speech-to-Text), 안티스푸핑(Anti-spoofing) 등 기술로 구현됐다. 이 기술은 통화 중 실제 음성 구간을 탐지(VAD)하고, 탐지된 음성을 텍스트로 변환(STT)한 후, 해당 음성의 위변조 여부를 분석(Anti-spoofing)하는 역할을 한다.
LG유플러스는 안티딥보이스 기술을 개발하기 위해 AI 엔진에 약 3000시간 분량 통화 데이터를 학습시켰다. 3000시간은 통화 건수로 약 200만건에 해당하는 양이다. 완성된 '안티딥보이스'는 위조된 목소리의 부자연스러운 발음을 찾아내거나 음성 주파수의 비정상적인 패턴을 탐지하는 등 과정을 통해 진위를 판별한다.
통화 내용을 분석해야 하기 때문에 이용자 보호에도 신경 썼다. 안티딥보이스는 외부 서버를 거치지 않고 단말기 자체에서 구동되는 ‘온디바이스 AI’ 기반 기술이다. 온디바이스AI는 개별 단말기에 자체적으로 구축되는 만큼 용량을 줄이는 것이 핵심이다. LG유플러스는 이 문제를 해결하기 위해 앞서 LG AI 연구원이 개발한 대형언어모델(LLM) ‘엑사원’을 경량화한 소형언어모델(sLM) ‘익시젠(ixi-ZEN)’을 개발한 바 있다.
한영섭 LG유플러스 AI테크랩장은 “고객 데이터를 보호하는 것이 핵심이기 때문에 모든 기술을 디바이스에 탑재하도록 경량화, 최적화하고 있다”며 “다양한 보안 장치를 통한 익시오 애플리케이션(이하 앱) 자체 암호화 체계 마련 등 외부로부터 차단하고 있기 때문에 이용자가 저장한 통화나 통화요약정보는 안전하다”고 강조했다.
AI 기술이 발달하면서, 정교해지는 위변조 영상은 육안 구분 어렵고, 영상통화 과정에서도 감지 어려울 정도로 고도화되고 있다. 실제로 홍콩에서는 한 회사의 최고재무책임자(CFO) 딥페이크 화상회의를 활용한 범죄가 발생하기도 했다. 해당 회사는 이로 인해 340억원 규모 자산을 불법 계좌로 이체하는 등 피해를 입었다. 이제는 딥페이크가 단순 합성 범죄 수준을 넘어 금융문제, 사회문제, 개인 피해로 이어질 수 있음을 보여준 사례다.
이에 LG유플러스는 안티딥보이스를 시작으로 향후 안면 인식 위변조를 잡아내는 ‘안티딥페이크’도 선보인다. 이 기술은 영상이나 이미지를 분석해, 합성된 영상에 남아있는 비자연적인 흔적을 탐지해 합성 여부를 판별한다. 픽셀 단위 질감이나 사람의 눈에는 보이지 않지만 흔적으로는 남는 패턴의 불균형, 프레임 간 일관성이 떨어지는 현상 등을 분석해 합성 여부를 탐지하는 것이 핵심이다.
한 AI테크랩장은 “이미지 진위여부 감지하는 안티딥페이크도 개발 중”이라며 “안티딥보이스와 유사하게 딥페이크 영상에도 미세한 왜곡이나 노이즈가 발생하게 되는데, 이런 부분을 AI 엔진 학습으로 판별하는 엔진을 개발하고 있다”고 말했다.
이진혁 익시오개발 테스크장(상무)은 “안티딥페이크 기술은 아직 온디바이스AI를 위한 경량화 개발이 진행중”이라며 “온디바이스AI로 탑재가 가능한 수준으로 경량화 작업이 완료되면 구체적인 상용화 시기를 결정할 수 있을 것으로 보인다”고 말했다.
안티딥보이스와 안티딥페이크에 이어 이용자의 정서 보호를 위한 기술 개발도 진행 중이다. 예컨대, 전화로 동급생을 괴롭히는 학교폭력을 비롯해 스토킹 범죄 등으로부터 이용자를 보호하기 위한 서비스를 개발하겠다는 구상이다.
전 그룹장은 “각종 폭력 상황 등을 학습한 AI가 단순히 키워드로만 탐지하지 않고, 누적된 통화데이터를 기반으로 맥락을 파악하고, 탐지하는 원리”라며 “정부기관이나 교육 관련된 분야 전문가들과 논의를 통해 서비스 개발을 이어갈 예정”이라고 말했다.
◆4A 전략, AI 서비스 순차 개발…“유료화 시점 논의할 시기 아니야”
앞서 LG유플러스는 지난 3월 개최된 ‘모바일월드콩그레스2025(MWC2025)’에서 익시오 중심 AI 서비스 확장 핵심 계획으로 4A 전략을 강조한 바 있다. 4A 전략은 구체적으로 ▲안심할 수 있는(Assured) AI ▲고객 맞춤형(Adaptive) AI ▲일상과 함께하는(Accompanied) AI ▲세상과 인류를 밝게 만드는(Altruistic) AI 순으로 진행된다는 것이 회사 측 설명이다.
그 중 첫 단계인 어슈어드인텔리전스의 첫 적용 사례가 안티딥보이스인 셈이다. 이후 익시오를 통해 ‘고객맞춤형’ ‘일상’ 등 키워드를 기반으로 다양한 AI 서비스를 순차적으로 선보여 이용자 확장을 꾀한다.
안티딥보이스가 탑재되는 익시오 성과지표는 올해 안으로 100명 이용자를 확보할 전망이다. 향후 3년까지 총 600만 이용자를 확보하는 것이 LG유플러스 목표다.
전 AX그룹장은 “기본적으로 검색과 추천 서비스 등 고도화로 개인화된 서비스가 고객맞춤형 AI 핵심이 될 것”이라며 “익시오의 개인화 서비스 상용화 계획도 조만간 밝힐 예정”이라고 말했다. 또, 그는 “‘일상과 함께하는 AI 에이전트’와 인류를 밝게 만드는 콘셉트 AI도 준비 중”이라고 전했다.
현재 LG유플러스를 비롯해 경쟁사인 SK텔레콤과 KT도 각각 ‘에이닷(A.)’과 ‘한국적 AI’ 등을 통해 AI 서비스 경쟁에 열을 올리고 있는 상황이다. 3사 모두 기존 비통신 매출 확보 전략 일환으로, AI 서비스를 통한 가시적인 매출 창구 확보에 나선 상황, 각사 AI 에이전트 서비스 유료화 시점에도 관심이 쏠리고 있다.
LG유플러스는 아직까지 구체적인 유료화 시점을 밝히지는 않았으나, 향후 핵심성과지표(KPI)에 따라 구체적인 시점을 판단하겠다는 입장이다. 다양한 AI 서비스를 출시하고, 기술 고도화를 통해 이용자를 확대하는 것이 우선이고, 이후 익시오가 실질적인 매출 창구로서 역할을 할 수 있을 것인지를 살펴보겠다는 것으로 풀이된다.
최윤호 AI 에이전트 추진그룹장은 “유료화 중요한데, 이용자들이 정말 돈을 낼만한 서비스인지 판단하는 게 중요하다”며 “시기는 LG유플러스가 정하는 것이 아니라 빅테크, 경쟁사 등 AI 시장 상황을 고려해야한다”고 말했다. 또 그는 “프리미엄 모델이나 기업간 거래 사업(B2B), 해외진출 등을 지속 타진 중”이라고 강조했다.
≪장애인인식개선신문≫ 목소리만 들어도 '사기' 딱 걸렸다…LG유플러스 '익시오', 장애인 보이
LG유플러스 전병기 AX기술그룹장(전무)는 26일 오전 10시 LG서울역빌딩에서 개최된 언론사 대상 ‘AI 보안기술 설명회’ ©
www.dpi1004.com