대화형 AI의 성공, 사용자 전문성 수준에 따른 기대를 반영하라.

 

 

연구 배경: 연속된 대화형 AI 서비스의 실패, 무엇이 문제인가?

AI 기술이 발전함에 따라 구글과 마이크로소프트를 비롯한 수많은 기업이 대화형 AI(chatbot, virtual agent) 서비스를 출시하였으나 성공하지 못했습니다. 그동안 대화형 AI의 성공 요인으로 기술적 측면, 윤리적 측면, 의인화(anthropomorphism) 특성에 주목했지만 아직까지 이 요인들과 대화형 AI 서비스에 대한 소비자 반응과의 관계가 명확하게 설명되지 못하고 있습니다. 이러한 배경에서 Greiner & Lemoine (2025)은 고객 기대(user expectation)에 초점을 두고, 서비스 사용자의 전문성(user expertise)과 사용자 기대(user expectation)의 관계를 살펴봄으로써 대화형 AI 서비스의 성공 요인을 탐구했습니다.

핵심 질문: 고객은 무엇을 기대하고, 전문성에 따라 어떻게 달라지는가?

고객 기대(customer expectation)가 서비스 품질 평가와 고객 만족의 근본이라는 것은 잘 알려져 있습니다. 대화형 AI 서비스에 대한 사용자 기대는 단순히 '더 똑똑하고 편리한 AI'를 넘어섭니다. 연구진은 선행 연구를 바탕으로 대화형 AI 서비스에 대한 사용자 기대를 세 가지로 구분했습니다.

   

[대화형 AI 서비스 사용자 기대 유형]

더 나아가 연구진은 대화형 AI 서비스에 대한 사용자 기대를 결정하는 요인으로 사용자 전문성(user expertise)에 주목했습니다. 사용자 전문성은 전문가(AI 개발자, 연구자 등), 준전문가(IT, 디지털 마케팅 등 관련 분야 종사자), 비전문가(일반 사용자)로 구분되며, 이들 집단의 심층 인터뷰를 통해 사용자 기대 차이를 면밀히 분석했습니다.

연구 핵심 결과: 전문가는 기술을, 비전문가는 공감을 원한다

연구 결과, 사용자들의 대화형 AI에 대한 기대는 그들의 전문성 수준에 따라 명확히 다른 양상을 보였습니다.

[전문가 그룹/비전문가 그룹의 의인화 기술 및 기술적 기대 정도]

전문가: 대화형 AI 서비스의 기술적 특성(정확성, 설명 가능성, 자율성, 효율성)을 가장 중요하게 여겼습니다. 이들은 의인화 특성을 '허상에 불과하다'고 인식하며, 불필요하거나 심지어 위험한 요소로 간주하는 경향을 보였습니다.

비전문가: 개인화된 성격이나 차별화된 목소리 등 의인화 기대가 가장 높았습니다. 기술적 측면에서는 높은 편의성·속도·정확성을 기대하지만, 문제가 해결되지 않을 경우 사람과 바로 연결되길 기대합니다.

준전문가: 전문가와 비전문가의 사이의 비판적, 실용적 기대를 가지며, 상황(업무용 vs. 여가용)에 따라 기대 내용이 달라집니다.

윤리적 기대: 전문성 수준과 관계없이 대체로 기대 수준이 높았습니다.

[전문성 정도에 따른 기대 유형 차이]

실무자를 위한 Action Plan

1. 고객 세분화: 사용자 전문성을 세분화에 활용하라

타겟 고객의 전문성 수준을 파악하고, 그에 맞는 대화형 AI 서비스 경험을 제공해야 합니다. 사용자 전문성 수준에 따라 사용자 기대가 다르므로 맞춤형 서비스가 아닌 경우 실패 확률이 높습니다.

Action Item: 설문이나 사용 로그를 활용하여 고객의 AI 친숙도 및 전문성을 진단하고 페르소나를 작성하십시오. 전문성이 높다면 기술적 설명을 강조하고, 비전문가인 일반 소비자라면 친근한 목소리와 개인화된 경험에 초점을 맞춰 서비스를 설계하십시오.

2. 비전문가 고객을 위해 ‘인간 Fallback 설계’를 강화하라

전문성이 낮은 사용자는 AI를 통해 문제가 해결되지 않을 때 사람과 바로 연결되지 않으면 불만족합니다. AI 서비스는 모든 문제를 해결할 수 없다는 전제하에 언제든지 사람이 개입할 수 있는 명확한 통로를 마련해야 합니다.

Action Item: AI가 문제를 해결하지 못할 때 즉시 상담원과 연결할 수 있는 전환 옵션을 제공하십시오. 이때, AI와의 대화 내용이 상담원에게 자동으로 전달되도록 시스템을 구축하는 것이 좋습니다.

3. 윤리적 가이드라인 및 투명성을 강화하라

모든 사용자는 대화형 AI의 윤리적 기대를 높게 가지고 있습니다. 데이터 활용, 알고리즘 편향 등에 대한 투명한 설명은 사용자의 신뢰를 얻는 중요한 요인입니다. 모든 고객군의 기대를 충족할 수 있는 윤리적 기준을 서비스 설계에 포함해야 합니다.

Action Item: AI의 정체성(인간이 아님)을 명확히 밝히고, 개인 정보 수집을 최소화하며 데이터 활용 목적을 투명하게 고지하십시오.

결론: 대화형 AI는 기술이 아닌 '서비스'다

대화형 AI 서비스의 성공은 서비스에 도입된 기술 수준이 결정하지 않습니다. 타겟 고객의 기대를 충족할 수 있는 맞춤형 서비스 설계가 필수입니다. 사용자의 전문성이 높다면 기술적 기대를, 일반 사용자에게는 인간적 친근함과 공감을, 투명성과 윤리성은 기본으로 제공해야 합니다.

과연 귀사의 대화형 AI 서비스는 타겟 고객의 기대를 충족시키고 있습니까?