서울여대 등 공동연구팀, AI 수용·저항 원인 규명 나서…심리·뇌파·AI 융합

[산업일보]
인공지능(AI)이 일상과 산업 전반으로 빠르게 확산하면서 기술의 성능뿐 아니라 이를 받아들이는 사람의 심리와 행동을 이해하려는 연구도 활발해지고 있다. 같은 AI 기술을 두고도 어떤 소비자는 편리함을 느끼는 반면, 다른 소비자는 인간의 판단이나 역할을 대신한다는 점에서 불편함이나 위협을 느끼기 때문이다.

서울여자대학교를 중심으로 서울대학교, 세종대학교, 뉴멕시코주립대학교 연구진이 소비자가 AI를 받아들이거나 거부하는 심리적 메커니즘을 규명하기 위한 다학제 연구를 진행하고 있다.

연구팀은 한국연구재단 글로벌 인문·사회융합연구지원사업을 통해 ‘AI 기술을 향한 소비자의 심리적 저항 및 극복 과정에 대한 다학제적 고찰’을 주제로 연구를 수행 중이다.

연구책임자는 김예리 서울여자대학교 데이터사이언스학과 교수다. 박기완 서울대학교 경영학과 교수, 권순일·손귀영 세종대학교 교수, 윤진호 뉴멕시코주립대학교 교수가 공동연구원으로 참여하고 있다.

연구팀은 AI의 기술적 성능 자체보다 이를 접하는 소비자의 인식과 심리적 반응에 주목한다. AI를 얼마나 인간과 유사한 존재로 인식하는지, AI에 어느 정도의 자율성을 허용할 때 심리적 저항이 발생하는지, 인간과 AI의 판단에 대한 공정성 인식은 어떻게 달라지는지 등을 단계적으로 살펴보는 것이 연구의 주요 방향이다.

김예리 교수는 “AI 기술의 성능이 빠르게 발전하고 있지만 기술적으로 우수하다는 이유만으로 소비자가 이를 신뢰하고 받아들이는 것은 아니다”며 “어떤 조건에서 AI를 자연스럽게 받아들이고, 반대로 어떤 상황에서 심리적 저항이 나타나는지를 다양한 방법론을 통해 규명하는 것이 연구의 핵심”이라고 설명했다.



AI를 바라보는 소비자의 마음, 행동과 뇌신호로 분석
연구팀이 주목하는 개념 가운데 하나는 ‘마음지각(Mind Perception)’이다. 알고리즘과 로봇, 셀프서비스 기술, 추천시스템, AI, 챗봇 등 다양한 하이테크 서비스를 소비자가 어떠한 마음과 능력을 지닌 대상으로 인식하는지를 살펴보는 것이다.

기존 AI 수용 연구에서 편리성이나 유용성 등 기능적 가치가 주요하게 다뤄져 왔다면, 연구팀은 소비자가 AI에 인간과 유사한 정신적 능력을 어느 정도 부여하는지, 이러한 인식이 AI에 대한 태도와 이용의향에 어떻게 연결되는지에 초점을 맞추고 있다.

연구팀의 선행 연구에서는 사람들이 기계를 어떠한 마음과 능력을 지닌 존재로 인식하는지를 분석했다. 그 결과 기계에 대한 마음지각이 정서(Affect), 인지(Cognition), 감각(Sense)의 세 가지 차원으로 구성될 수 있음을 확인했다. 연구팀은 이를 생성형 AI와 휴머노이드 로봇 등으로 확장해 AI에 대한 마음지각과 소비자 태도 및 이용의향 간 관계를 살펴보고 있다.

연구 방법도 설문과 행동실험에만 머물지 않는다. EEG(뇌전도)와 ERP(사건관련전위)를 활용해 소비자의 신경반응을 측정하고, 이를 머신러닝과 딥러닝 기법으로 분석하는 방법을 함께 적용하고 있다.

소비자가 설문을 통해 직접 표현하는 태도와 뇌신호에서 나타나는 반응을 함께 분석함으로써 자기보고식 조사만으로 포착하기 어려운 암묵적 반응까지 살펴보기 위해서다. 연구팀은 EEGNet, SVM-RBF, LDA 등 다양한 분석모델을 활용한 소비자 행동 분류 연구도 진행하고 있다.

김 교수는 “소비자가 말로 표현하는 태도와 실제 신경반응이 항상 동일하다고 볼 수는 없다”며 “행동·심리 데이터와 EEG·ERP와 같은 생체신호를 함께 분석하면 AI를 대하는 소비자의 반응을 보다 입체적으로 이해할 수 있을 것으로 보고 있다”고 말했다.


PLOS ONE 게재 연구…EEG 활용한 행동예측 가능성 확인
연구팀의 융합적 연구방법을 보여주는 성과로는 국제학술지 PLOS ONE에 게재된 ‘Predicting Entrepreneur Fundraising Success from Focus Group EEG Data’ 연구가 있다.

해당 연구에서는 참가자들이 창업자의 투자 유치 발표를 시청하는 과정에서 나타난 EEG 신호를 분석하고, 이를 집단 수준의 투자 관심과 실제 투자 성과와 연결해 분석했다. 연구 결과는 소규모 집단에서 측정한 신경반응을 활용해 보다 넓은 집단의 행동을 예측하는 ‘뉴로포캐스팅(Neuroforecasting)’ 접근의 가능성을 제시했다.

연구팀은 이러한 방법론을 현재 수행하고 있는 AI 수용·저항 연구에도 접목하고 있다. 설문과 행동실험을 통해 나타나는 소비자의 명시적 반응과 EEG·ERP에서 관찰되는 신경학적 반응을 함께 분석하고, 향후 실제 AI 수용이나 회피 행동을 설명하고 예측할 수 있는지 검증한다는 계획이다.

김 교수는 “PLOS ONE 연구는 뇌신호가 단순히 실험실 안의 반응을 측정하는 데 그치지 않고 실제 집단 수준의 행동을 예측하는 데 활용될 가능성을 살펴봤다는 데 의미가 있다”며 “현재 연구에서도 이러한 접근을 AI에 대한 소비자의 수용과 저항을 이해하는 데 적용하고 있다”고 밝혔다.

AI ‘자율성’과 ‘공정성’으로 연구 범위 확대
연구팀은 향후 AI의 자율성(Autonomy)과 공정성(Fairness)을 중심으로 연구 범위를 넓힐 예정이다.

우선 AI가 인간 고유의 능력을 위협한다고 인식되는 상황에서 높은 자율성을 가진 AI와 낮은 자율성을 가진 AI에 대한 소비자 반응이 어떻게 달라지는지 분석한다. 행동실험과 심층인터뷰, EEG·ERP 분석을 병행해 AI의 자율성이 심리적 저항으로 이어지는 조건과 그 과정에 대한 규명을 추진한다.

이후에는 AI의 공정성 문제로 연구 범위를 확대한다. 인간과 AI가 내린 판단을 소비자가 각각 얼마나 공정하다고 받아들이는지, 개인의 사회적 위치나 주어진 상황에 따라 인간과 AI 서비스 제공자에 대한 선호가 어떻게 달라지는지 등을 살펴볼 예정이다. 국내 연구를 넘어 국가 간 비교 연구로 확대하는 방안도 추진한다.

연구팀은 이와 함께 생체신호와 행동·심리 데이터를 통합 분석할 수 있는 딥러닝 기반 예측모델 개발도 추진하고 있다. 개인의 AI 수용·저항 행동을 정량적으로 분석하는 동시에 설명가능한 인공지능(XAI)을 활용해 모델의 판단에 영향을 미친 요인을 확인하는 것이 목표다. EEG·ERP 신호와 행동·심리적 요인이 예측 결과에 어느 정도 기여했는지를 시각적으로 제시하는 방안도 연구한다.

김 교수는 “궁극적으로 밝히고 싶은 것은 ‘사람들은 왜 어떤 AI는 자연스럽게 받아들이면서 다른 AI에는 심리적으로 저항하는가’라는 질문”이라며 “소비자심리와 인지과학, 생체신호 분석, 머신러닝을 연결해 AI 수용과 저항을 설명할 수 있는 통합적인 연구모델을 구축하고자 한다”고 말했다.

AI 기술이 고도화될수록 실제 사용자인 인간의 수용 여부는 기술 확산을 결정하는 주요 요인으로 꼽힌다. 연구팀은 기술의 성능을 높이는 것에 초점을 맞춘 기존 접근에서 나아가 소비자가 신뢰하고 받아들일 수 있는 AI의 조건을 규명하고, 이를 인간 중심 AI 서비스와 기술 설계에 활용할 수 있는 연구 기반을 마련한다는 계획이다.

< >