고객 서비스에서의 AI: 코파일럿, 초안 작성, 그리고 자체 AI 연동

고객 서비스 자동화 소프트웨어는 질문을 결정 트리와 대조하다가 표현이 조금만 달라져도 포기해버리는 스크립트형 봇의 시대를 지나왔다. 지금 도입할 가치가 있는 버전은 상담원 옆에 앉아 전체 대화 스레드를 읽고 답변 초안을 작성한 뒤 검토를 위해 넘긴다.

이러한 변화는 구매 시 던져야 할 질문 자체를 바꾼다. 이제 중요한 것은 도구가 답변할 수 있는지가 아니라, 답변의 얼마만큼을 도구가 준비하는지, 얼마만큼을 여전히 사람이 책임지는지, 그리고 물량이 늘어날 때 모델 제공업체에게 누가 비용을 지불하는지다.

고객 서비스 자동화 소프트웨어가 하는 일

이 카테고리 이름 뒤에는 몇 가지 구체적인 작업이 있다. 긴 대화 스레드를 세 줄로 요약하기. 자체 헬프 콘텐츠에 근거한 답변 초안 작성하기. 의도를 분류해 그에 맞게 라우팅하기. 감정 감지하기. 양방향 번역하기. 리포팅에서 집계할 수 있도록 대화에 태그 붙이기.

어느 것 하나만 놓고 보면 대단한 변화는 아니다. 다만 각각이 하나의 지연이나 하나의 수작업 단계를 제거하며, 고객이 체감하는 것은 바로 그 지연들이다.

이러한 효과는 신입 직원에게서 누적되어 나타난다. 입사 2주 차 직원도 답변 초안에 이미 정책, 계정 이력, 적절한 어조, 최근 세 건의 주문 내역이 담겨 있기 때문에 2년 차 직원에 가까운 수준으로 응대할 수 있다.

자동화의 세 단계, 그리고 어떤 것을 선택해야 할까

공급업체들은 서로 매우 다른 동작에 대해 같은 용어를 사용하므로, 발송된 메시지에 대해 누가 책임을 지는지에 따라 단계를 구분하는 것이 도움이 된다.

스크립트형 흐름은 여전히 표현이 거의 변하지 않는 좁고 물량이 많은 질문, 즉 주문 상태, 영업시간, 비밀번호 재설정 같은 영역에서 제 몫을 한다.

코파일럿은 그 외 모든 것에 대한 기본 선택지다. 최악의 결과가 몇 초의 시간 낭비에 그치는 반면, 자율 에이전트의 최악의 결과는 고객 한 명을 잃는 것이기 때문이다.

대다수 팀에 가장 적합한 방식: 반복되는 상위 다섯 개 질문에는 스크립트형 흐름을, 그 외 나머지에는 코파일럿을, 잘못된 답변을 되돌리는 비용이 적은 곳에서만 자율 방식을 사용한다.

받은편지함 속 코파일럿 모델

코파일럿 방식에서는 모델이 준비하고 상담원이 결정한다. 초안은 출처가 함께 표시된 채 대화 옆에 나타나고, 상담원은 이를 수정하거나 교체하거나 그대로 발송한다.

검토 단계는 형식적인 절차가 아니다. 이는 이따금 발생하는 잘못된 답변을 고객의 메일함이 아니라 우리 회사 내부에 붙잡아 두는 통제 장치다.

이 단계는 또한 자동화가 제대로 작동하는지 알려주는 신호도 만들어낸다. 모든 수정은 라벨이 붙은 교정 사례이며, 이러한 수정 비율이 뒤에서 설명할 정직한 품질 지표다.

답장 창을 넘어서는 자동화의 영역

AI를 라이브 채팅에 덧붙인 위젯 정도로 취급하면 대부분의 가치를 낭비하게 된다. 같은 계층이 대화와 맞닿아 있는 모든 모듈에서 해야 할 일이 있다.

지식 베이스에서는 해결된 대화 스레드로부터 문서 초안을 작성하고, 더 최신 답변과 모순되는 페이지에 표시를 남긴다. 자체적인 노후화를 알아차리지 못하는 고객 지원 지식 베이스 소프트웨어는 셀프서비스가 아무것도 흡수하지 못하게 되는 흔한 원인이다.

라우팅에서는 사람보다 먼저 의도를 읽어내므로, 청구 관련 질문이 별도의 분류 단계를 거치지 않고 곧바로 청구 담당 큐로 전달된다.

리포팅에서는 상담원이 기억해서 붙인 태그가 아니라 고객이 실제로 물어본 내용을 기준으로 대화를 그룹화하는데, 이것이 티켓 수치를 제품에 관한 의사결정으로 바꿔주는 요소다.

아웃바운드 작업에서는 같은 분류 체계가 캠페인 세그먼트를 이끌어, 방금 불만을 제기한 사람이 업셀 대상이 되지 않도록 해준다.

모듈 전반에 걸친 커버리지는 어시스턴트가 접근할 수 있는 자체 자료의 범위도 결정한다. 현재 채팅만 볼 수 있는 어시스턴트는 현재 채팅만 근거로 삼아 작성하지만, 고객 기록과 주문 이력, 최근 세 건의 티켓까지 볼 수 있는 어시스턴트는 그 모든 것을 근거로 작성한다.

자체 AI 연동: 모델 계정은 누가 보유하는가

거의 모든 데모에서 두 가지 질문이 뒤섞인다. 어시스턴트가 무엇을 할 수 있는지는 제품에 관한 질문이다. 모델 제공업체 계정을 누가 보유하는지는 상업적인 질문이며, 이는 더 나은 자동화가 총비용을 낮추는지 높이는지를 결정한다.

플랫폼이 계정을 보유하면 모델 사용량은 대개 크레딧이나 좌석 형태의 플랫폼 청구 항목으로 나타난다. 그러면 비용은 성공과 함께 오른다. AI가 처리하는 대화가 많아질수록 공급업체의 마진이 붙은 비용을 그만큼 더 많이 지불하게 된다.

자체 AI 연동은 이를 뒤집는다. 자신의 제공업체 키를 직접 연결하면 토큰 비용은 제공업체가 직접 청구하며, 플랫폼은 여기에 어떠한 마진도 붙이지 않는다. RolChat은 이러한 방식으로 일곱 개 제공업체의 텍스트 모델 62개와 네 개 제공업체의 음성 모델 23개, 총 85개 모델에서 작동한다.

토큰 비용은 대화가 아니라 맥락을 따라간다

자체 키를 처음 사용하는 팀은 보통 청구액이 대화 건수를 따라간다고 예상한다. 하지만 실제로는 맥락 길이를 따라간다.

최근 메시지 네 개를 바탕으로 작성한 답변은 예순 개짜리 스레드를 바탕으로 작성한 같은 답변보다 비용이 훨씬 적게 들고, 그 전체 스레드를 요약하는 작업은 둘 중 어느 쪽보다도 더 비용이 든다.

그래서 세 가지 설정이 대부분의 비용을 좌우한다. 맥락 창이 얼마나 과거까지 거슬러 올라가는지, 요약이 모든 스레드에서 실행되는지 긴 스레드에서만 실행되는지, 그리고 검색이 헬프 문서 세 개를 가져오는지 서른 개를 가져오는지.

이 중 어느 것도 요금제 비교 페이지에서는 보이지 않는다. 첫 주가 지나면 제공업체 대시보드에서 보이게 되는데, 이것이 계정을 직접 보유해야 하는 이유다.

작업별로 모델 선택하기

모든 작업에 하나의 모델만 쓰는 것은 값비싼 기본 선택이다. 각 작업이 필요로 하는 판단력의 정도에 따라 작업을 깔끔하게 나눌 수 있다.

이렇게 나누는 방식은 대개 어떤 프롬프트 튜닝보다도 청구액을 더 많이 줄여준다. 물량이 많은 작업이 저렴한 작업이고, 값비싼 모델은 그 값어치를 하는 곳에서만 실행되기 때문이다.

실용적인 초기 분배안: 분류와 태깅에는 빠른 모델을, 초안 작성에는 중형 모델을, 가장 강력한 모델은 금전 및 정책 관련 업무에 남겨둔다.

초안 작성 전에 이미 바뀌는 라우팅

눈에 보이는 이득의 대부분은 누군가가 한 글자라도 쓰기 전에 발생한다. 분류는 대화가 도착하는 즉시 이루어지므로, 상담원이 대화를 열었을 때 이미 태그가 붙어 있고 올바른 큐에 들어가 있으며 우선순위도 매겨져 있다.

이는 분류 담당 교대 근무를 없애준다. 이 단계는 물량이 늘어나면 팀이 추가했다가 사람이 부족해지면 없애곤 하는 단계다.

이는 또한 SLA가 측정하는 대상도 바꾼다. 사람이 메시지를 처음 읽었을 때 시작되는 시계는 분류 속도에 보상을 준다. 도착 즉시 시작되는 시계는 고객이 실제로 신경 쓰는 것에 보상을 주며, 자동 분류가 바로 후자를 감당할 수 있게 해주는 요소다.

두 번째 효과는 에스컬레이션에서 나타난다. 첫 메시지부터 의도와 감정이 태그로 붙으면, 화가 난 청구 관련 스레드를 시니어 상담원에게 넘기는 규칙이 두 번째 답변이 아니라 즉시 작동할 수 있다.

데모에서 확인할 가치가 있는 것: 분류가 대화 도착 시점에 실행되는지 아니면 처음 열람할 때 실행되는지. 전자만이 분류 단계를 실제로 없애준다.

어시스턴트가 절대 접근해서는 안 되는 데이터

어시스턴트를 자체 콘텐츠에 근거하게 만든다는 것은 무엇을 자체 콘텐츠로 볼 것인지 정한다는 뜻이다. 해결된 대화는 가장 유용한 학습 자료이면서, 동시에 고객이 채팅창에 붙여넣은 카드 번호나 신분증 정보가 포함되어 있을 가능성이 가장 큰 자료이기도 하다.

세 가지 통제 장치가 대부분의 부담을 진다. 모델에 도달하기 전의 정보 마스킹, 대화 기록에 대한 보관 기한 제한, 그리고 어시스턴트가 원본 대화 스레드가 아니라 게시된 헬프 문서에서 정보를 검색하도록 하는 규칙.

동의 절차도 같은 의사결정에 포함되어야 한다. RolChat에서는 이를 사이트당 5달러의 유료 부가 기능으로 처리하며, 사이트당 세 개의 동의 항목이 제공되고 Lite 요금제에서는 이용할 수 없다.

삭제 요청은 팀이 흔히 놓치는 부분이다. 헬프데스크에서는 삭제됐지만 벡터 인덱스에는 여전히 남아 있는 기록은 여전히 하나의 기록이므로, 삭제가 티켓 목록뿐 아니라 검색 대상에도 반영되는지 확인해야 한다.

답변의 정확성과 브랜드 어조 유지하기

두 가지 설정이 그대로 발송해도 되는 결과물과 다시 써야 하는 결과물을 갈라놓는다.

첫 번째는 근거다. 답변은 승인된 자료, 즉 헬프 문서와 해결된 대화를 바탕으로 작성되며, 초안에는 사용한 출처가 함께 표시된다. 근거가 전혀 없는 답변은 자신감 있는 어조를 입은 추측일 뿐이다.

두 번째는 어조다. 톤 설정과 사용해야 할 용어 및 사용하지 말아야 할 용어를 정리한 용어집은 초안이 일반적인 어시스턴트가 아니라 우리 팀처럼 들리게 해준다.

이 용어집은 여러 언어에 걸쳐 더욱 중요해진다. 제품명과 법률 용어는 별도로 지시하지 않으면 번역 계층이 친절하게도 번역해버리는 바로 그 단어들이다.

RolChat은 인터페이스와 위젯에서 40개 언어를 지원하며, 동일한 용어집이 모든 언어에 적용된다.

음성: 같은 질문, 더 촉박한 마감

음성은 검토할 초안이 없기 때문에 부담이 더 크다. 답변은 생성되는 즉시 말해지므로, 근거는 그 순간에 바로잡는 것이 아니라 사전에 정확해야 한다.

실용적인 구분 기준은 결과의 무게다. 모든 통화에 음성-텍스트 변환을 적용한다. 완벽하지 않아도 대화 기록은 유용하기 때문이다. 음성으로 이루어지는 자동 답변은 틀려도 부담이 적은 곳, 즉 영업시간, 상태 확인, 라우팅에만 적용한다.

RolChat에서는 통화 분(分)이 요금제와 별도로 청구되므로, 음성 사용량은 좌석 요금 안에 숨어 있는 예상치 못한 항목이 아니라 따로 지켜볼 수 있는 별도 항목이다.

도입 순서는 설정 못지않게 중요하다. 모든 것을 한꺼번에 켜는 팀은 어떤 변화가 어떤 수치를 움직였는지 구분할 수 없어서, 결국 전부를 유지하거나 전부를 포기하게 된다.

깔끔하게 읽히는 순서는 이렇다. 먼저 분류, 그다음 하나의 큐에서의 초안 작성, 그다음 전체로 확대된 초안 작성, 마지막으로 자율 처리. 각 단계마다 도입 전과 후를 비교할 수 있다.

자동화가 효과가 있었는지 측정하기

이탈 흡수율(deflection rate)은 공급업체들이 앞세우는 지표이면서 가장 쓸모가 적은 지표다. 사람 없이 종료된 대화는 답변이 나와서 끝났을 수도 있고 고객이 포기해서 끝났을 수도 있기 때문이다.

네 가지 수치가 더 많은 것을 말해준다. 근거가 개선될수록 낮아지는 초안 수정률. 코파일럿이 그 값을 하는 지점인 최초 응답 시간. 겉보기에만 해결된 것처럼 보였던 답변을 잡아내는 재개봉률. 자동 처리와 사람 처리로 나눈 고객 평점.

이 수치들을 같은 기간의 제공업체 청구서와 함께 살펴보라. 비용은 대화당 낮아지면서 품질은 개선되는 결과야말로 유지할 가치가 있는 결과이며, 둘 중 하나만으로는 부족하다.

분명히 짚고 넘어가야 할 한계

분명히 짚고 넘어가야 할 두 가지 한계가 있다. 온프레미스 배포는 Enterprise 요금제에서만 가능하며 하위 요금제에서는 이용할 수 없다. 자체 하드웨어에서 실행되는 모델은 현재 제공되지 않고 계획 단계에 있으므로, 오늘 로컬 추론이 필수 조건이라면 RolChat은 이를 충족하지 못한다.

요금은 상담원 단위가 아니라 회사 단위로 책정되며, Lite의 19달러부터 시작하며 Enterprise는 별도 문의로 책정되고, 30일 체험판은 카드 등록만으로 모든 기능을 열어준다.

자동화는 그 뒤에 있는 채널들이 이미 한곳에 모여 있을 때 판단하기가 더 쉬워지며, 이는 함께 보면 좋은 가이드에서 다루는 주제다.

자주 묻는 질문

Ruslan Nazarov

RolChat SEO 책임자

고객 지원 운영, 라이브 채팅, AI 지원 서비스, 그리고 뛰어난 고객 경험을 뒷받침하는 도구에 대해 씁니다.

LinkedIn