인공지능(AI)의 확산이 빠르게 현실이 되면서 많은 조직과 기업들이 고민에 빠졌습니다. ‘AI를 어디에 배치할 것인가?’, ‘어떤 업무는 여전히 사람이 맡아야 하는가?’, ‘사람과 AI는 어떻게 협업해야 하는가?’— 단순히 기술 도입을 넘어, 실질적인 역할 배분과 협업 방식에 대한 질문들이 쏟아지고 있습니다.
하지만 막상 현장에서 부딪히는 문제는 그리 간단하지 않습니다. 예컨대, AI가 더 정확할 것으로 기대한 분야에서도 오류가 발생하거나, 반대로 인간이 실수하기 쉬운 상황에서는 기계가 꾸준한 성과를 내는 경우도 있습니다. 결국 핵심은 ‘누가, 언제, 무엇을 더 잘할 수 있는가’에 대한 깊이 있는 이해입니다.
이 지점에서 카네기멜론대학 연구진이 발표한 《A Taxonomy of Human and ML Strengths in Decision-Making》은 우리가 관심을 가져야할 관점을 정리하고 있습니다. 비록 뛰어난 AI가 아닌 머신러닝(Machine Learning, 이하 ML)을 대상으로 했다는 것이 다소 아쉽기는 하지만, 현재 인간과 AI의 협업에 대한 고민에 의미있는 아이디어를 찾을 수 있습니다. 여기서 ML은 AI의 한 하위 분야로, 사람처럼 사고하는 것이 아니라 데이터로부터 학습하고 예측하는 능력에 초점을 둡니다. 흔히 ‘AI’라고 뭉뚱그려 부르는 것과 달리, ML은 명확히 정의된 판단 작업에 적합한 기술입니다.
[어떤 판단은 인간이, 어떤 판단은 ML이 더 잘한다]
이 연구는 인간과 ML의 능력을 단순 비교하는 데서 그치지 않고, 인간과 ML의 강점이 언제 발휘되는지를 세 가지 차원으로 구분하여 분석합니다. 여기서 중요한 건 ‘누가 더 뛰어난가’가 아니라, ‘어떤 조건에서 누가 더 잘하는가’입니다. 즉, 정답을 정하는 것이 아니라, 역할을 조정하는 것이 핵심입니다.
첫째, 정보 가용성이라는 차원에서는 ‘판단에 필요한 정보가 어떤 방식으로 존재하는가’에 따라 인간과 ML의 역할이 달라집니다. 구조화된 데이터—예를 들어 신용카드 거래 내역 분석 같은 경우는 ML이 매우 효율적입니다. 반면, 환자의 말투, 표정, 배경 이야기처럼 맥락적인 정보는 인간이 훨씬 잘 이해하죠. 단지 ‘많은 정보를 가진 쪽이 이긴다’는 문제가 아니라, 정보의 유형과 맥락 파악 능력에서 차이가 나는 것입니다.
둘째, 인지 처리 방식 차원에서는 ‘문제를 어떻게 생각하고 해결하는가’가 관건입니다. 인간은 전혀 새로운 문제, 한 번도 본 적 없는 상황을 만났을 때 놀라운 유연성과 창의성을 발휘할 수 있습니다. 반면 ML은 명확한 규칙과 학습된 패턴이 있는 경우 빠르고 정확하게 반응하죠. 복잡한 예외 상황이 많은 조직이라면, 인간의 사고를 중심에 두되, 반복적 연산은 ML에 맡기는 방식이 유효할 수 있습니다.
셋째, 성능 차원은 정밀도, 오류율, 일관성 같은 지표로 구체화됩니다. 여기서 ML은 매우 강합니다. 피로하지 않고, 감정 기복 없이, 수십만 건의 데이터를 동일한 기준으로 처리할 수 있기 때문입니다. 하지만 ML은 예외적인 윤리 문제나 사회적 맥락에 대한 고려는 하지 못합니다. 형평성, 공정성, 맥락 판단은 결국 사람의 몫입니다.
[우리는 어떤 상황에서 AI의 손을 잡아야 할까]
이쯤에서 스스로에게 질문해볼 필요가 있습니다. ‘지금 내가 하고 있는 이 업무는 어떤 유형의 정보에 기반하고 있는가?’, ‘문제가 주어졌을 때 규칙이 명확한가, 아니면 해석과 판단이 필요한가?’, ‘이 판단이 사회적 책임이나 감정적 배려와 연결되는가?’
이 질문들에 대한 답이 바로 AI와 인간의 협업 설계도가 됩니다. 실제로 이 연구는, 단순히 정확도를 높이기 위한 AI 도입이 아니라, 상황별로 어떤 판단은 기계에 맡기고, 어떤 판단은 인간이 개입해야 하는지를 시뮬레이션과 수학적 모델을 통해 분석합니다.
특히 연구진은 정보의 구조화 여부, 과업의 예측 가능성, 판단의 윤리적 무게에 따라 인간과 ML의 협업이 다르게 설계되어야 한다고 제안합니다. 그리고 그 설계는 추상적인 이상이 아니라, 실제 시스템 인터페이스, 업무 배분, 조직 프로세스에 반영될 수 있도록 정량적 근거를 제시합니다.
[결국 중요한 건, ‘협업의 설계’입니다]
그리고 하나 더 중요한 통찰이 있습니다. 인간 사이에서도 이러한 특성은 모두 동일하지 않습니다. 나이, 성별, 인지적 특성에 따라 ‘정보 해석 능력’, ‘처리 방식’, ‘판단의 일관성’은 다르게 나타납니다. ML과 인간 간의 협업을 고민하기 이전에, 조직 내부에서 개개인의 역량 차이와 보완 가능성을 먼저 진단해야 한다는 것이죠.
앞으로 기업이나 정부 기관이 AI를 도입하거나 자동화 전략을 구상할 때, 단순히 ‘몇 % 자동화할 것인가’가 아니라, ‘이 업무에서 사람과 기계는 어떤 관계를 맺어야 할까?’라는 질문부터 출발해야 할 것입니다. 그 질문에 정직하게 답하는 것이, 진짜 인간 중심의 AI 설계를 향한 첫걸음일지도 모릅니다.
[참고 문헌]
Rastogi, C., Leqi, L., Holstein, K., & Heidari, H. (2023). A Taxonomy of Human and ML Strengths in Decision-Making to Investigate Human-ML Complementarity. Carnegie Mellon University, School of Computer Science. Published at AAAI Conference on Human-Centered AI.
About the Author
AI FOCUS에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.
