Tableau, Agentforce, Data Cloud로 100만 건 이상의 지원 요청 처리
100만여 건의 AI 에이전트 상호 작용을 모니터링하고 그중 일부가 인간에게 이관되는 이유 파악.
매주 4만 건 이상의 대화에서 응답 지연 시간을 50% 줄여 5점 만점에 4.5점이라는 경이로운 CSAT(고객 만족도) 달성.
약 5%의 지원 사례 잠재적 문의 회피율을 정확히 예측.
Salesforce의 AI 에이전트 구축 및 배포 플랫폼인 Agentforce는 2024년 10월 Salesforce Help 포털을 통해 출시되어 이미 100만 건 이상의 지원 요청을 처리했습니다. Salesforce Cloud Success BI 팀은 Tableau를 사용하여 35가지 핵심 메트릭에 따라 Agentforce의 성능을 모니터링합니다. 팀은 Tableau에서 고급 분석을 활용하고 여러 출처에서 얻은 데이터를 통합함으로써 기능 사용 현황을 파악하고, 고객의 상호 작용이 성공적인 해결에 기여하는 방식을 추적하고, 제품 팀에 의견을 제시하고, 궁극적으로 사용자 경험을 전체 규모로 개선할 수 있습니다.
고급 분석을 활용하고 다양한 출처에서 통합한 데이터를 Tableau에서 한데 모아 정교한 대시보드를 개발함으로써, 기능 사용에 대해 처음부터 끝까지 모든 단계에 대한 유입 경로를 만들어 Agentforce와 사용자의 상호 작용에 대한 심층적인 인사이트를 얻습니다.
과제
AI 에이전트의 효과를 어떻게 측정하나요?
2024년 10월 Salesforce Help 포털에 Agentforce를 출시하면서 제시한 목표는 세계적인 수준의 에이전트 서비스에 대한 기준을 세운다는 것이었습니다. Data Cloud로 구동되는 Agentforce는 계정 기록 및 제품 사용과 같은 정형 데이터와 기술 자료 및 제품 설명서와 같은 비정형 콘텐츠를 모두 분석하여 정확하고 개인화된 답변을 제공합니다. 또한 지원 담당 인간 엔지니어가 더 복잡한 문제에 집중할 시간을 확보하게 해줍니다.
Salesforce 분석 및 인사이트 팀은 Agentforce의 성능을 모니터링하는 것이 고객과 경영진의 성공에 매우 중요하다는 점을 즉시 깨달았습니다. AI 에이전트의 효과를 측정하는 방법에 대한 업계의 청사진이 없었던 Salesforce는 Tableau의 강력한 데이터 시각화를 Agentforce 이니셔티브에 통합하여 자체적인 청사진을 만들었습니다.
Tableau와 Agentforce를 통합한 목적은 다음과 같은 중요한 성능 관련 질문에 대한 답을 찾는 것이었습니다.
- Agentforce는 문제를 해결하거나 문제를 인간에게 넘기는 데 있어 얼마나 효율적인가요?
- Agentforce가 성공적인 부분이나 부족한 부분은 무엇이며 성공을 평가하기 위해 모니터링해야 할 KPI는 무엇인가요?
- 고객이 Agentforce의 가치를 활용하고 있으며 Agentforce가 서비스 품질을 향상하고 있나요?
Tableau가 돕는 방식
Tableau를 사용하여 Agentforce의 셀프 서비스를 정확하게 평가합니다.
관련성이 가장 높고 정확한 정보를 수집하고 조화롭게 일치시키기 위해 분석 및 인사이트 팀은 다양한 출처에서 노출 수, 재라우팅, 지연 시간 및 고객 만족도 데이터를 가져왔습니다. 그런 다음 Tableau를 기본 비주얼리제이션 및 보고서 작성 도구로 배포하여 Agentforce의 성능 및 인간에게 인계한 사례를 평가하는 35가지 핵심 메트릭을 정의했습니다.
이러한 메트릭에는 대화 비율과 지연 시간 중앙값부터 이관율과 고객 만족도까지 모든 것이 포함되며, 두 시간마다 업데이트되는 중앙 집중식 Tableau 성과표를 통해 보고됩니다.

또한 팀은 Agentforce 최적화를 위한 실행 가능한 인사이트를 제공하고 용량 요구 증가에 따라 확장할 수 있도록 AI 기반 분석 에코시스템도 구축했습니다. 이 에코시스템의 한 AI 모델은 고객 대화의 정서를 살펴보고 다른 모델은 대화의 관련성을 도출하여 문제가 실제로 해결되었는지, 또는 문제 해결의 방향을 전환해야 할지 더욱 정확히 측정할 수 있습니다.
측정할 수 있다면 개선할 수 있습니다.
팀은 추적할 핵심 메트릭을 표준화한 후, 수집한 Agentforce 성능 데이터에서 인사이트를 검색했습니다. 한 가지 눈에 띄는 메트릭이 있었는데, 바로 응답 지연 시간으로 평균 14초였습니다. 이런 결과를 인지했으므로 Agentforce 팀은 이 문제를 해결하기 위한 조치를 취할 수 있었습니다. 1년도 되지 않아 Agentforce의 응답 시간이 50% 향상되었습니다.
또한 팀은 Agentforce를 포함하여 고객이 AI 서비스 에이전트를 도입하는 데 사용할 수 있는 몇 가지 모범 사례를 다음과 같이 식별했습니다.
- 측정하려는 것이 무엇인지 확실히 파악하십시오. 대기열 시간, 이관, 포기, 인간 인계, 고객이 확인한 해결 방법 등 가장 중요한 점과 그 이유를 판별합니다.
- 단계적으로 출시하십시오. 모든 것을 한꺼번에 AI 에이전트로 전환하지 마십시오. 레거시 채널을 서서히 종료하면서, 기본적으로 인간 상담원에게 보내던 트래픽을 새로운 AI 에이전트로 옮기되, 필요한 경우 인간 상담원으로 이관하도록 허용합니다. 또 다른 가능한 경로는 모두 AI 에이전트로 전환하되, 단기간(예: 일주일)만 전환한 후 AI 에이전트 사용 경험에 대한 고객 의견을 수집하는 것입니다.
- 측정을 시작하면 열린 자세로 배우고 변경하십시오. 특정 도움말 페이지를 북마크하는 것과 같이, 일부 메트릭은 예상했던 모든 사용자 행동을 아우르지 못할 수도 있습니다.
Tableau의 차별화 요소
Cloud Success BI 팀은 Agentforce 서비스 메트릭에 Tableau를 활용하여 고도의 대화형 시각적 분석, 강력한 데이터 거버넌스와 확장성, 라이브 데이터 및 데이터 추출 모델의 유연성을 활용할 수 있었습니다. 그 결과, Salesforce Help 사이트에서 Agentforce의 성능을 파악할 수 있는 진정한 단일 정보 공급원을 구축했습니다. 또한 이 팀은 고객에게 강조해 보여줄 수 있는 선례도 확립했습니다. 점점 더 많은 고객이 Agentforce를 조직의 디지털 에이전트로 추가하기로 함에 따라, Salesforce는 The 360 Blog와 자세한 사례 연구 등을 통해 Agentforce의 효과를 평가하는 지원 메트릭과 모범 사례를 공유하고 있습니다.
결과
Agentforce는 Salesforce 셀프 서비스 전략의 핵심 구성 요소로서, 대규모로 진행되는 고객 경험 개선에서 이미 결정적인 역할을 하고 있습니다. 현재, Agentforce는 지원 요청의 85% 이상을 자율적으로 해결하고 있으며, 최근에는 Salesforce Help 사이트에서 처리된 지원 요청 건수가 100만 건을 넘어서고 해결률이 거의 80%에 달하는 중요한 지점에 도달했습니다. 사이트 트래픽이 2% 증가했음에도, 출시 이후 지원 사례 건수는 5% 감소했습니다. 방대한 양의 큰 노력이 들지 않는 작업을 AI가 전문적으로 관리하는 동안, 인간 상담원은 복잡한 문제에 집중할 시간이 생겼습니다.
팀은 계속해서 모든 고객이 먼저 Agentforce와 대화하도록 한다는 궁극적인 목표를 추구하고 있습니다. Tableau는 Cloud Success BI 팀에 주요 데이터 시각화 및 보고서 작성 도구를 제공하며 여전히 이러한 목표 달성에 핵심적인 역할을 담당하고 있습니다.