노무라증권, 올거나이즈의 AI 챗봇 ‘알리(Alli)’ 도입

- AI 성능, 효율성, 비용 기준으로 4개 후보군 비교, 학습 없이도 답변 정확도 뛰어난 ‘알리(Alli)’ 채택

- 기존 챗봇 운영 인원 3명에서 Alli 도입 후 1명으로 운영 리소스 2/3 절감

AI 인지검색 솔루션 기업 올거나이즈는 일본의 노무라증권 주식회사(대표 오쿠다 켄타로)의 자산 관리 앱 ‘원 스톡(One Stock)’에 AI 챗봇 ‘알리(Alli)’를 공급했습니다.

노무라증권은 기존 ‘원 스톡' 앱의 챗봇이 답변 정확도가 50~60% 밖에 되지 않아 새 챗봇을 도입하기 위해 4개의 AI 챗봇 솔루션을 비교검증했습니다.

① AI 성능, ② 효율성, ③ 비용을 기준으로 봤을 때 올거나이즈의 ‘알리'가 비용 대비 효과가 가장 좋은 것으로 드러나 채택이 되었습니다.

특히 AI 성능에 있어 학습 없이 답변 정확도가 뛰어나다는 점이 높은 점수를 받았습니다. FAQ 질의응답 등록도 타사는 2일~2주까지 걸렸으나 ‘알리'는 1시간 이내에 완료되었으며, 환경 구축까지 하루만에 끝나 우수한 평가를 받았습니다.

노무라증권의 기존 챗봇은 수정이 쉽지 않았지만, ‘알리'는 노코드로 수정과 추가가 쉬워 운영도 편리해졌습니다. ‘알리' 도입 이후 답변 정확도가 높아져 운영 리소스를 절감하게 되었습니다.

자연어 이해 기반 AI 답변봇 ‘알리’는 사전 데이터 처리 작업 없이 빠르게 사용할 수 있어 일본 내 업계 선도 기업들이 사용중입니다.

노무라증권을 비롯해 미쓰미스미토모 파이낸셜그룹(SMBC), 히타치, 니토리, KDDI(이동통신), 카오(花王), J Power(전력) 등 일본 내 460 여 고객사에게 서비스를 제공하며, 한국의 현대카드, KB증권, 미국의 트래블러스 등 2,100 곳 이상을 고객사로 두고 있습니다.

노무라증권의 이케다 하지메 상무는 “노무라증권은 대면 서비스뿐만 아니라 디지털 환경에서도 접점을 늘려나가 100% 디지털화된 금융 서비스 제공을 목표로 하고 있다. 우선 AI 챗봇으로 디지털 상에서 고객과 커뮤니케이션을 늘리려고 한다"며 “앞으로 올거나이즈의 자연어 처리 AI 기술과 노무라 증권의 각 서비스를 연계해 새로운 서비스 기술을 만들고 싶다"고 밝혔습니다.

올거나이즈의 이창수 대표는 “금융사는 특성상 약관과 상품, 금리 등이 자주 바뀌기 때문에 고객이 문의를 할 때, 정확한 최신 정보를 찾아서 답을 하는데 많은 시간과 자원을 쓰게 된다. ‘알리'는 초기 구축이 빠르고 쉬울 뿐 아니라, AI 성능이 뛰어나 정확한 답을 빠르게 찾아주기 때문에 고객 경험을 중요하게 생각하는 노무라증권의 선택을 받을 수 있었다”며 “일본, 미국, 한국 고객사를 통해 검증된 ‘알리'를 지속적으로 고도화해, 기업이 고객 경험을 혁신할 수 있도록 도울 것"이라고 밝혔습니다.

올거나이즈 재팬팀에서 노무라증권의 이케다 님, 나카 님, 다후쿠 님과 인터뷰를 진행했습니다. 아래 내용에서 더 자세한 정보를 얻으실 수 있을 것입니다.

올거나이즈의 AI 챗봇 ‘알리(Alli)’가 노무라 증권 앱 ‘OneStock’에 도입되었습니다. ‘OneStock’에는 기존에 사용중인 챗봇이 있었지만, AI 기반 챗봇 도입을 검토한 결과, ‘Alli’를 선택하게 되었다고 합니다.

‘Alli’를 선택한 노무라 증권의 이케다 님, 나카 님, 다후쿠 님과 알리 도입 관련 인터뷰를 진행했습니다.

노무라 증권의 디지털·컴퍼니 부문은 어떤 일을 하는 곳인가요?

이케다 님 : 제가 담당하는 디지털·컴퍼니 부문은 고객과 디지털 환경에서 접점을 가지며 100% 디지털화된 금융 서비스를 제공하는 것을 목표로 하고 있습니다. AI 기술 및 새로운 영역에 강점을 보이는 기업과 협업하여 새로운 산업을 창출하거나, OneStock(타 금융 기관 자산 연동 관리), FINTOS!(투자정보), NOMURA(노무라 증권 자산 관리) 앱 개발, AI 챗봇 활용 디지털 영역 서비스 등 범위를 확대해 가고 있습니다.

나카 님 : 저는 주로 자연어 처리 분야를 중심으로 AI 기술과 AI 벤더를 조사하고, 해당 기술을 사내에 전하는 역할을 맡고 있습니다.

다쿠후 님 : 저는 노무라 증권에서 제공하고 있는 서비스를 24시간 365일 유저가 원활하게 이용할 수 있도록 노력하고 있습니다. 상담·문의 자동화를 위해 올거나이즈의 Alli를 도입했고요. 노무라 증권의 각 서비스에 AI 챗봇을 도입하는 일을 주로 담당하고 있습니다.

노무라 증권, 챗봇 답변 정확도는 올리고 대응 리소스는 줄이기 위한 방안 검토에서 시작

다쿠후 님 : 기존 OneStock앱은 AI와 챗 기능이 탑재되어 있지 않은 시나리오 형식의 FAQ를 제공했습니다. 서비스가 늘면서 FAQ도 늘어나게 되고, 검색이 잘 되지 않는 문제가 있었죠. 고객 문의에 대응하는 리소스가 늘고 있는 상황이라 새로운 방식을 찾게 되었습니다.

기존 챗봇은 답변 정확도가 50~60% 수준이어서 FAQ 답변의 정확도 향상, 고객 대응 운영 리소스 절감을 목표로 Onestock에 AI 챗봇 도입을 검토하게 되었습니다.

Alli 포함 ４개의 AI 챗봇 비교 검증

나카 님 : 올거나이즈는 마이크로소프트를 통해서 알게 되었습니다. MS 담당자에게서 ”AI 챗봇은 물론 뛰어난 일본어 기계 독해 기술을 가지고 있는 회사가 있다”며 올거나이즈를 소개받았습니다.

여러 회사를 통해 AI 챗봇 후보에 대한 정보를 수집하고 선정 작업을 거쳐, 4개 벤더사를 바탕으로 비교 검증을 실시했습니다.

비교 기준은 ‘① AI 성능’, ‘② 운영 효율성’, ‘③ 운영 비용’ 3가지 항목입니다.

① AI 성능

AI 성능 검증을 위해 미학습(혹은 최저 학습) 상태인 각 AI 챗봇에 질문 항목과 답변을 등록한 후, 답변 정확도의 비교 검증을 실시했습니다.

결과적으로 미학습 상태에서 답변 정확도가 높은 곳은 올거나이즈였습니다.

두 번째로 좋은 성능을 보여준 곳은 최저 학습을 시킨 후 검증을 실시한 B사, 그리고 C사, D사 순이었습니다.

② 운영 효율성

[1] 벤더별 환경 구축에서 제공~FAQ 초기 등록까지의 플로우를 비교

·올거나이즈 : 환경 제공까지 1영업일, FAQ 등록에는 1시간도 소요되지 않음.

·B사 : 환경 구축, 사전 학습을 기계적으로 실시할 필요가 있어 약 2주 소요.

·C사 : 환경 제공, 초기 FAQ 등록까지 약 3~5 영업일 소요

·D사 : 어카운트 생성은 금방 완료되었으나, FAQ에 50개를 등록하기까지 총 2~3 영업일 소요

[2] : 벤더별 FAQ 추가 학습에 관한 비교

·올거나이즈 : 유저 피드백을 반영한 자동 학습, 관리자가 GUI 상에서 간단하게 학습 실시 가능

·B사 : B사 측의 인적 리소스를 사용한 학습 실시

·C사 / D사 : 관련된 문장, 동일한 내용의 다른 문장을 등록할 필요 있음

비교 결과를 통해 단기간에 이용을 시작할 수 있고, 유저가 이용하면서 자동으로 학습이 가능한 올거나이즈가 가장 좋다는 판단이 섰습니다.

③ 운영 비용

비용은 종량제 서비스인 D사가 가장 저렴했습니다. 그 다음으로는 초기 비용 약 35만 엔(초기 비용 : 25만 엔, 매월 : 10만 엔)부터 사용이 가능한 올거나이즈, 그리고 수백 만엔이 드는 B, C사순이었습니다.

검토 시 특히 중요하게 생각한 포인트와 올거나이즈를 선정한 이유

비용 대비 효과를 가장 중요하게 생각했습니다. 4개사 비교 검증을 실시한 결과, AI 답변 정확도가 가장 높고 초기 운용 부하가 낮으며 비용도 저렴한 올거나이즈의 Alli를 선택하게 되었습니다.

Alli는 조작이 간단한데요. 특히 사용하기 쉽다고 느낀 포인트가 있나요?

【1】 코드 없이 챗 플로우 구축부터 FAQ 등록까지 가능

다쿠후 님 : 기존 챗봇은 JSON을 사용한 각종 코딩, 구현이 필요했기 때문에 어느 정도 해당 분야에 지식이 있는 담당자가 주로 수정 및 구현을 실시했습니다. Alli는 모든 부분에서 코드를 사용하지 않는 구현이 가능한데요. 예를 들어 GUI 상에서 챗 플로우를 작성할 수 있는 부분을 포함해 수정·추가 시의 보수 및 관리도 매우 간단했습니다.

【2】 챗봇의 분석 기능

다후쿠 님 : Alli에서는 임의 기간 내의 데이터를 집계·분석할 수 있어 유저 동향 및 이용 빈도, 개선을 위한 분석에 용이하게 사용할 수 있었습니다.

Alli를 도입한 후 일어난 변화가 있나요? 더불어 사내에서의 반응은 어떤가요?

다후쿠 님 : 솔직하게 말씀드리면 도입 전에는 ‘기존에 사용하던 챗봇보다 저렴한 가격인데 성능이 잘 나올 수 있을까?’, ‘과연 교체하는 것에 대한 큰 메리트를 느낄 수 있을까?’ 등 염려되는 부분이 다수 있었습니다.

그러나 검증 단계에서 질문을 입력하면 실시간으로 답변이 제시되는 동작을 두 눈으로 확인함으로써 기존 챗봇과의 큰 차이점과 효과를 바로 실감할 수 있었습니다. 더불어 운영 체제 측면에서도 이전까지는 3명의 인원이 필요했었는데요. 현재는 1명이 담당해도 문제가 없을 정도로 챗봇에 투입하는 리소스를 줄일 수 있어 직간접적으로 큰 효과를 실감하고 있습니다.

나카 님 : OneStock에서 Alli를 도입한 후, 각 부서로부터 Alli 도입에 관한 문의와 올거나이즈의 여러 서비스에 대한 도입 검토 요청이 오고 있는 중입니다. 현재 이에 대한 제안도 실시하고 있습니다.

더불어 디지털·컴퍼니에서 제공하고 있는 서비스에 대한 문의도 증가하고 있다고 합니다. 이를 바탕으로 FAQ 도입에 앞서 Onestock 도입 후의 이용 빈도 등에 대한 정보 공유를 실시하고 있습니다. 도입 효과를 포함해 도입을 위한 준비를 진행하고 있다고 볼 수 있습니다.

올거나이즈의 서포트는 어땠나요?

초기 구축 단계에서 검증 시의 환경을 그대로 사용할 수 있어 좋았습니다. 운영 방법에 대한 조언 및 타사 사례를 통한 사용 방법에 대한 안내 등을 바탕으로 도입 시 원활한 환경 구축이 가능했습니다.

더불어 자사 고유 기능에 대한 상담 및 시스템에 관한 요청 사항에도 유연하게 대응해 주셔서 많은 도움이 되었습니다.

이에 그치지 않고 지속적으로 운영 체제에 관한 조언을 주셨던 부분과 매달 분석 내용에 관한 피드백, 개선을 제안해 주시는 등 여러 서포트를 받은 기억이 납니다.

마지막으로 시스템 부분의 개선 요청도 적극적으로 대응해 주셔서 이 자리를 빌려 감사하다는 말씀을 드리고 싶습니다.

향후 디지털·컴퍼니의 전망과 올거나이즈에 기대할 수 있는 점은?

이케다 님 : 디지털 전환으로의 움직임은 점점 가속화되고 있습니다. 디지털 전환 움직임이 확대되고 있는 이유 중 하나로 고객이 변화하고 있다는 점을 꼽을 수 있습니다. 비즈니스 모델을 바꾼다는 것은 사고방식을 바꾼다는 것과 동일한 의미를 가진다고 생각하고 있습니다.

자산 운용은 대단히 어려운 일입니다. 그렇기 때문에 스스로 자산 운용을 하고 있는 고객 수도 일본에서는 아직 적은 단계입니다. 고객은 대면이든 디지털이든 어떤 채널에서라도 자산을 더 효율적으로 운용하고 싶다고 생각하고 있습니다. 이에 대한 구체적인 방법을 마련하는 것이 핵심입니다.

또한 노무라 증권에서는 지금까지 대면 서비스를 전폭적으로 실시해 왔는데요. 제가 소속되어 있는 디지털·컴퍼니 부문은 고객과 디지털 환경에서 접점을 가지며 100% 디지털화된 금융 서비스를 제공하는 것을 목표로 하고 있습니다.
디지털 상에서 고객과 커뮤니케이션하는 관점에서 우선은 AI 챗봇을 활용하고 싶습니다. 자산 운용의 각 서비스 커뮤니케이션 툴 중 하나로서 AI 챗봇을 사용하고, 이를 통해 생겨난 커뮤니케이션을 바탕으로 향후 액션에 활용해 가고자 합니다.

이미 해외에서는 최첨단 디지털 서비스의 제공을 시작하는 금융 기업이 생겨나고 있습니다. 자연어 처리 기술과 노무라 증권의 각 서비스 연계를 통해 새로운 서비스 기술을 탄생시키고 앞으로도 올거나이즈와 함께 서비스를 성장시킬 수 있었으면 좋겠습니다.

향후 도입을 검토하고 있는 기업에 대한 조언이 있을까요?

새로운 기술 및 솔루션 도입을 이용 부서에 추천할 때 타사 사례만으로는 도입 후의 구체적인 이미지를 파악하기 어려울 수 있다고 생각합니다. Onestock에 도입을 추진했을 당시에도 우려의 목소리가 많았습니다.

Alli는 요청 후, 하루 만에 검증 환경(관리 화면)을 만져볼 수 있었던 것은 물론, 자주 있는 질문과 이에 대한 답변 세트를 가지고 있을 경우 단 몇 시간 만에 등록을 완료할 수 있었습니다. 따라서 짧은 시간 내에 사용성 및 AI 정확도 검증을 실시할 수 있었습니다.

검증에서 많은 리소스를 투입하지 않아도 도입 시 검증 시간을 단축하고, 초기 개발 부담도 줄일 수 있기 때문에 도입 경험이 없던 기업에서도 접근하기 쉬운 툴이라 생각됩니다.

올거나이즈 측에서 챗 기능에 대한 요청 및 상담 사항을 빠르고 정확하게 짚어주신 점과 개선에 대한 검토에서 구현까지 대응해 주신 점도 만족스러웠습니다. AI 챗봇을 성장시킬 수 있는 파트너로서 앞으로도 함께 협업해 갔으면 좋겠습니다.

(인터뷰 감사드립니다!)

‘노무라 증권 주식회사’

본사 위치 : 도쿄도 지요다구 주오구 니혼바시 1-13-1

사업 내용 : 증권업

기업 홈페이지 : https://www.nomura.co.jp/