점점 더 많은 기업이 인공지능(AI), 기계 학습, 자연어 처리의 기술 발전을 활용하여 소비자에게 추천 및 권장 서비스를 제공하고 있다. 그러나 이러한 기업들이 인공지능에 기반하는 서비스를 평가할 때는 다음과 같은 중요한 질문을 던져야 한다.
“소비자는 언제 ‘기계의 단어’를 신뢰하고 거부하는가?”
‘저널 오브 마케팅(Journal of Marketing)’에 발표된 새로운 연구에 따르면 인공 지능 추천 단어를 통합하는 방법을 결정하는 핵심 요소는 소비자가 ‘제품의 기능적 실제적 측면’ 또는 ‘제품의 경험적 감각적 쾌락적 측면’ 중 어디에 집중하는지의 여부이다.
3,000명 이상 참여자들의 데이터를 바탕으로 연구팀은 소위 ‘기계의 단어’ 효과를 뒷받침하는 증거를 발견했는데, 이는 제품의 ‘실용적 측면’과 ‘쾌락적 측면’ 간의 균형이 인공지능 추천에 대한 선호와 거부를 결정짓는 현상으로 정의될 수 있었다.
‘기계의 단어’ 효과는, 기능적 및 실제적 특성을 원하는 경우 인공지능 시스템이 어드바이스를 제공하는 데 있어 인간보다 더 유능하고, 원하는 바가 경험적이고 감각적인 경우 인간보다 덜 유능하다는 만연된 믿음으로부터 기인한다. 결과적으로 실용주의적 속성의 중요성이 인간보다 인공지능의 추천 혹은 권고에 대한 소비자 선호도를 결정한다는 것이다. 반면 감성적, 쾌락적 속성의 중요성은 인간보다 인공지능의 추천 혹은 권고에 대한 저항성을 결정한다.
연구원들은 소비자 경험과 추천 소스(recommendation sources)를 기반으로 제품을 선택하는 사람들의 경향을 평가하기 위해 고안된 실험을 사용하여 ‘기계의 단어’ 효과를 테스트했다. 한 연구원은 다음과 같이 설명한다.
“실용적이고 기능적인 측면에만 기반하여 제품을 선택하기 위한 지침이 제시되었을 때, 더 많은 참여자들이 인공지능이 추천하는 제품을 선택했습니다. 경험적이고 쾌락적인 속성만 고려하도록 요청받았을 경우에는 더 높은 비율의 참여자들이 인간의 추천을 선택했습니다.”
실용적인 기능이 가장 중요할 때, ‘기계의 단어’ 효과는 더 뚜렷했다. 한 연구에서 참여자들은 겨울 코트 구입을 상상하고 그들의 의사 결정에 예를 들어, 통기성과 같이 실용적이고 기능적인 속성과 직물 유형과 같은 경험적이고 쾌락적인 속성이 얼마나 중요한지 평가하도록 요청 받았다. 이때 실용적 기능적 기능에 높은 점수를 줄수록 인간의 도움보다는 인공지능에 대한 선호도가 높았고, 경험적 쾌락적 기능에 높은 점수를 줄수록 인공지능보다 인간의 도움에 대한 선호도가 높았다.
또 다른 연구에 따르면 소비자가 자신의 고유한 선호에 맞는 추천을 원할 때 쾌락적 또는 실용적 선호도에 관계없이 인공지능의 추천에 저항하고 인간의 추천을 선호하는 것으로 나타났다. 이러한 결과는 ‘모든 것에 적합한’ 범용 상품이나 서비스에 만족하는 고객을 보유한 기업의 경우, 인공지능 시스템에 의존할 수 있음을 시사한다. 높은 수준의 고객 개별 맞춤이 필요하지 않기 때문이다. 반면, 그 반대의 경우, 기업은 철저하게 사람에게 의존해야 한다..
인공지능의 추천에 있어 이렇게 ‘실용적인 속성’이 ‘소비자 신뢰’와 상관관계가 있음에도, 향수, 식품, 와인과 같은 보다 더 감각적인 경험을 약속하는 제품을 판매하는 기업들이 고객을 유치하기 위해 여전히 인공지능을 활용할 수도 있다. 인공지능이 인간과 협력하여 작동한다면 실제로 사람들은 그러한 추천을 수용하기 때문이다. 이는 인공지능이 인간 지능을 대체하는 것이 아니라 ‘증강’하는 보조 역할을 하는 것이다. 이때, 인공지능과 인간이라는 하이브리드 추천은 인간 전용 비서와 같은 것이다.
전반적으로 ‘기계의 단어’ 효과는 매우 중요한 의미를 가진다. 인공지능, 기계 학습, 자연어 처리의 개발 및 채택이 관리자와 정책 입안자들에게 혁신적 기술을 활용해야하는 도전과제를 던지기 때문이다. 디지털 시장은 혼잡하고, 소비자의 관심 범위는 짧다. 소비자가 신뢰하는, 그리고 신뢰하지 않는 조건들을 모두 이해함으로써 인공지능 추천은 기업들에게 이 디지털 분야에서의 경쟁력을 제공해줄 것이다.
Artificial Intelligence in Utilitarian vs. Hedonic Contexts: The “Word-of-Machine” Effect - Chiara Longoni, Luca Cian, 2020 (sagepub.com)
More and more companies are leveraging technological advances in AI, machine learning, and natural language processing to provide recommendations to consumers. As these companies evaluate AI-based assistance, one critical question must be asked: When do consumers trust “word of the machine,” and when do they resist it?
A new study published in the Journal of Marketing found that the key factor in deciding how to incorporate AI recommenders is whether consumers are focused on the functional and practical aspects of a product or on the experiential and sensory aspects of a product.
Relying on data from over 3,000 study participants, the research team found evidence supporting a so-called “word-of-machine” effect, defined as the phenomenon by which the trade-offs between utilitarian and hedonic aspects of a product determine the preference for, or resistance to, AI recommenders. The word-of-machine effect stems from a widespread belief that AI systems are more competent than humans at dispensing advice when functional and practical qualities are desired and less competent when the desired qualities are experiential and sensory-based. Consequently, the importance or salience of utilitarian attributes determines consumers’ preference for AI recommenders over human ones, while the importance or salience of hedonic attributes determine resistance to AI recommenders over human ones.
The researchers tested the word-of-machine effect using experiments designed to assess people’s tendency to choose products based on consumer experiences and recommendation sources. Longoni explains that “We found that when presented with instructions to choose products based solely on utilitarian/functional attributes, more participants chose AI-recommended products. When asked to only consider hedonic/experiential attributes, a higher percentage of participants chose human recommenders.”
When utilitarian features are most important, the word-of-machine effect was more distinct. In one study, participants were asked to imagine buying a winter coat and rate how important utilitarian/functional attributes (e.g., breathability) and hedonic/experiential attributes (e.g., fabric type) were in their decision making. The more utilitarian/functional features were highly rated, the greater the preference for AI over human assistance, and the more hedonic/experiential features were highly rated, the greater the preference for human over AI assistance.
Another study indicated that when consumers wanted recommendations matched to their unique preferences, they resisted AI recommenders and preferred human recommenders regardless of hedonic or utilitarian preferences. These results suggest that companies whose customers are known to be satisfied with “one size fits all” recommendations (i.e., not in need of a high level of customization) may rely on AI-systems. However, companies whose customers are known to desire personalized recommendations should rely on humans.
Although there is a clear correlation between utilitarian attributes and consumer trust in AI recommenders, companies selling products that promise more sensorial experiences (e.g., fragrances, food, wine) may still use AI to engage customers. In fact, people embrace AI’s recommendations, as long as AI works in partnership with humans. When AI plays an assistive role, “augmenting” human intelligence rather than replacing it, the AI-human hybrid recommender performs as well as a human-only assistant.
Overall, the word-of-machine effect has important implications as the development and adoption of AI, machine learning, and natural language processing challenges managers and policymakers to harness these transformative technologies. The digital marketplace is crowded and the consumer attention span is short. Understanding the conditions under which consumers trust, and do not trust, AI advice will give companies a competitive advantage in this space.
