Rethinking AI in Knowledge Work: From Assistant to Tool for Thought
「지식노동에서 AI를 다시 생각하다: 업무 보조자에서 사고의 도구로」
Microsoft Research, Advait Sarkar, Sean Rintel, Leon Reicherts, Lev Tankelevitch 등
Tools for Thought 연구진
○ 게재
2025년 9월 24일 Microsoft Research가 발표한 연구 해설 및 연구 방향 제안 글
이 글은 하나의 새로운 실증연구 결과를 보고하는 학술논문이라기보다, Microsoft Research의 Tools for Thought 프로젝트에서 진행해 온 여러 연구 결과를 종합하여 생성형 AI와 지식노동의 관계를 다시 검토하고, 앞으로 AI를 어떻게 설계하고 활용해야 하는지를 제안하는 글
AI를 인간의 일을 대신 처리하는 assistant(업무 보조자)로만 발전시킬 것인지, 아니면 인간이 더 깊고 넓게 생각할 수 있도록 돕는 tool for thought(사고의 도구)로 발전시킬 것인지라는 문제를 중심적으로 다룸.
[Microsoft Research 원문 — Rethinking AI in Knowledge Work: From Assistant to Tool for Thought](https://www.microsoft.com/en-us/research/articles/rethinking-ai-in-knowledge-work-from-assistant-to-tool-for-thought/?utm_source=chatgpt.com)
○ 주요 내용
Microsoft Research 연구진은 생성형 AI가 지식노동의 생산성을 크게 높이고 있다는 사실에서 출발한다. AI는 이메일과 문서를 요약하고, 보고서 초안을 작성하고, 데이터를 분석하며, 아이디어를 제안하고, 프레젠테이션을 만드는 등 과거 인간이 직접 수행하던 지적 업무의 상당 부분을 대신할 수 있게 되었다.
연구진이 주목하는 것은 업무의 효율성이 높아지는 동안 인간의 사고에는 어떤 변화가 일어나는가라는 문제다. AI가 업무를 빠르게 수행해주는 만큼 사람이 자료와 직접 씨름하고, 여러 가능성을 탐색하고, 자신의 생각을 수정하면서 문제를 이해해 가는 과정이 줄어들 수 있기 때문이다. 연구진은 관련 연구를 종합하여 AI 활용이 비판적 사고에 들이는 노력을 줄이거나, 아이디어의 다양성과 기억 등에 영향을 미칠 가능성에 주목한다.
Assistant에서 Tool for Thought로
연구진은 이러한 문제를 해결하기 위해 AI의 역할 자체를 다시 생각할 필요가 있다고 본다. 핵심적인 구별은 assistant와 tool for thought이다.
Assistant로서의 AI는 인간이 해야 할 일을 대신 수행하여 시간과 노력을 절약하고 빠르게 결과를 생산하는 것을 주요 목표로 한다. 사용자가 업무를 지시하면 AI가 그것을 수행하여 결과를 제공하는 방식이다.
반면 Tool for Thought로서의 AI는 인간의 사고를 대신하는 것보다 인간이 더 잘 생각하도록 돕는 것을 목표로 한다. AI가 사용자가 미처 발견하지 못한 관점을 제시하고, 자료 사이의 모순이나 긴장을 드러내며, 다른 해석의 가능성을 보여주고, 사용자의 전제를 의심하게 만들 수 있다.
따라서 AI의 목표도 단순한 output production(결과물 생산)에서 인간의 insight(통찰)을 촉진하는 방향으로 확장될 필요가 있다. 연구진은 지식노동에서 중요한 것이 단순한 실행만이 아니라 judgment(판단), sense-making(의미 구성), creativity(창의성)이기 때문에 이러한 변화가 중요하다고 본다.
이를 간결하게 정리하면 다음과 같다.
Assistant → 인간을 대신하여 수행
Tool for Thought → 인간과 함께 탐색하고 사고
결과물 생산(output) → 새로운 통찰(insight)
업무 효율 중심 → 판단·의미 구성·창의성의 확장
무조건 복종하는 AI보다 인간의 사고에 마찰을 일으키는 AI
Microsoft의 Tools for Thought 프로젝트가 제시하는 중요한 원칙 가운데 하나는 “challenge, not obey”, 즉 AI가 사용자의 요구를 무조건 따르는 데 그치지 않고 때로는 사용자의 사고에 도전해야 한다는 것이다.
AI가 사용자의 판단에서 문제가 되는 전제를 발견하면 그것을 지적하고, 탐색적인 질문을 던지고, 다른 관점을 제시하며, 반론을 만들어 사용자가 자신의 판단을 다시 검토하도록 할 수 있다.
사용자가 보고서 작성을 요청했을 때 AI가 곧바로 완성된 글을 제공하는 것만이 아니라 다음과 같은 개입을 할 수 있다.
“현재 자료만으로 이 원인을 확정하기 어렵습니다.”
“이해관계자 가운데 한 집단의 관점이 빠져 있습니다.”
“같은 자료를 다른 방향으로 해석할 가능성도 있습니다.”
“이 해결책이 가져올 부작용도 검토할 필요가 있습니다.”
이러한 AI의 개입은 사용자의 사고를 대신하기보다 다시 작동시키는 역할을 한다. 모든 ‘마찰’을 제거하는 것이 좋은 AI인가.
'인지적 마찰(cognitive friction)'이라는 개념에 대해 주목할 필요가 있다. 일반적으로 기술은 인간이 겪는 불편과 노력을 줄이는 방향으로 발전한다. AI 역시 더 적은 노력으로 더 빠르게 결과를 얻도록 만드는 방향으로 발전하고 있다. 그러나 인간이 지적 과업을 수행하면서 겪는 모든 어려움을 제거하는 것이 반드시 바람직한지는 별도의 문제다.
Tools for Thought 연구진은 이와 관련하여 adaptive friction, 즉 상황과 사용자에게 맞추어 조절되는 마찰이라는 접근을 탐색한다. 마찰이 지나치게 크면 사용자가 AI를 번거롭게 느끼거나 사용을 포기할 수 있다. 반대로 마찰이 지나치게 작으면 AI가 만들어준 결과를 충분히 검토하지 않고 받아들이기 쉽다. 따라서 필요한 것은 사람을 불필요하게 힘들게 하는 장애물이 아니라 한 번 더 생각하고 판단하도록 만드는 적절한 수준의 마찰이다.
이를 교육적 관점에서 보면 AI가 제거할 어려움을 구별할 필요가 있다.
반복적인 정리·형식화·단순 처리 → AI를 통해 줄일 수 있는 마찰
문제 정의·근거 검토·대안 비교·반론 검토·판단 수정 → 사고 능력과 관련된 생산적인 인지적 마찰
좋은 AI 활용은 모든 인지적 부담을 제거하는 것이 아니라, 불필요한 부담은 줄이면서 인간의 사고를 작동시키는 필요한 마찰은 남겨두는 방향으로 설계될 필요가 있다.
Microboundaries: 잠깐 멈추어 다시 생각하게 하는 작은 장치
Tools for Thought 프로젝트의 관련 연구에서는 이러한 생각을 microboundaries라는 작은 개입으로 구체화하기도 했다. AI의 제안을 사람이 바로 받아들이기 전에 잠시 멈추어 다시 생각하도록 만드는 작은 경계다.
AI의 추천에 짧은 질문이나 도전적인 관점을 추가하자 사용자가 AI의 결과를 그대로 받아들이기보다 평가하고, 질문하고, 수정하는 행동이 증가하고 최종 선택의 다양성도 높아지는 결과가 관찰되었다.
다음과 같은 질문은 작은 인지적 마찰의 예가 될 수 있다.
AI의 답에서 가장 의심스러운 전제는 무엇인가?
AI가 고려하지 않은 이해관계자는 누구인가?
이 해결책이 실패한다면 가장 가능성 높은 이유는 무엇인가?
같은 자료에서 다른 결론을 도출할 가능성은 없는가?
AI가 이러한 질문을 던지는 순간 사용자는 결과를 단순히 소비하는 위치에서 다시 검토하고 판단하는 위치로 돌아오게 된다.
‘지적 관광객’이 되지 않기 위해
연구진은 AI가 사고 과정의 지나치게 많은 부분을 대신할 경우 인간이 “intellectual tourists(지적 관광객)”가 될 위험도 지적한다. 어떤 분야의 개념과 결론을 접하고 그럴듯한 이야기를 할 수는 있지만, 그 문제의 모호함과 어려움을 직접 통과하며 충분히 이해하지는 못한 상태를 뜻한다.
좋은 사고 도구는 반대로 사용자가 문제의 모호함과 씨름하고, 자신의 추론을 되돌아보고, 다른 가능성을 탐색하며, 지적으로 계속 관여하도록 만들어야 한다.
AI 시대의 중요한 문제는 단순히 얼마나 많은 지식을 AI에게서 얻을 수 있는가가 아니다. AI를 사용하면서도 인간이 얼마나 충분히 사고 과정에 참여하고 있는가가 중요해진다.
○ 연구진이 제안하는 방향
AI의 역할을 정교하게 설계하자는 제안. 핵심적인 방향은 다음과 같이 정리
AI thinks for us → AI thinks with us
‘우리를 대신해 생각하는 AI → 우리와 함께 생각하는 AI’로의 전환
좋은 AI는 인간의 인지적 능력을 불필요하게 대체하기보다 인간이 혼자서는 발견하기 어려운 관계와 관점을 보여주고, 더 많은 가능성을 탐색하며, 자신의 판단을 검토하도록 함으로써 인간의 사고 능력을 확장(augment)하는 도구가 되어야 한다는 것.
○ 교육적으로 생각할 점
AI가 학생 대신 글을 쓰고, 분석하고, 대안을 만들 수 있다는 이유만으로 그러한 과정을 모두 AI에게 넘겨서는 곤란하다. 교육에서는 어떤 어려움은 제거하고 어떤 어려움은 의도적으로 남겨둘 것인가를 판단해야 한다. 단순 반복 작업에서 오는 부담은 AI를 이용해 줄일 수 있지만, 문제를 정의하고, 자료를 비교하고, 근거를 검토하고, 반론을 생각하고, 자신의 판단을 수정하는 어려움은 학습자의 사고력을 형성하는 과정일 수 있다.
AI 시대의 중요한 교육 문제는 AI를 사용하면서도 인간이 계속 생각하도록 어떻게 학습과 과업을 설계할 것인가
라는 질문에 가까워진다.
그리고 인간의 사고를 지켜주는 책임을 AI의 설계에만 맡길 수는 없다. 아무리 AI가 적절한 인지적 마찰을 제공하도록 설계되어도 사용자가 계속해서 “그것도 네가 알아서 해줘”라고 요구한다면 인간의 사고 과정은 다시 줄어들 수 있다.
AI 시대에는 무엇을 AI에게 맡길 것인지뿐 아니라 무엇만큼은 직접 관찰하고, 생각하고, 검토하고, 판단할 것인지 선택하는 인간 자신의 인지적 성실성과 의지도 중요한 조건이 된다.
© 삶과 언어. 무단 복제 및 재배포를 금합니다.