역량 형성의 역설

AI가 보고서를 써주는 시대, 인간은 무엇을 해야 하는가

[‘보고서 작성’은 본래 어떤 사고 과정이었나? → AI로 인해, 달라진 것은? → 인간의 역할은?]

보고서 작성 과정을 그저 ‘글 한 편을 생산하는 일’로 보아서는 곤란하다. '보고서 작성'은 현실 속의 특정 상태를 관찰하고, 그 가운데 중요한 문제를 발견하고, 원인을 분석하고, 해결책을 찾아 현실을 변화시키기 위해 작성하는 작업에 속한다. AI 시대의 보고서 작성에서 중요한 질문은 ‘누가 문장을 쓰는가’가 아니다. 인간의 현실을 개선하기 위해 AI를 활용한다면, 그 문제해결 과정에서 인간은 무엇을 해야 하는가가 더 근본적인 질문이 될 것이다.

1. 보고서 작성은 복합적인 사고 과정

일례로 대학 캠퍼스의 전동킥보드 이용 실태와 안전 문제를 조사하여 개선안을 제안하는 보고서를 작성한다고 해보자. 보고서는 컴퓨터 앞에서 첫 문장을 쓰는 순간부터 시작되지 않는다. 먼저 캠퍼스의 현실을 관찰해야 한다. 전동킥보드가 많아졌다는 것은 하나의 현상이다. 그런데 무엇이 문제인가. 사고가 늘어난 것인지, 보행자와 이동 동선이 충돌하는 것인지, 무질서한 주차가 통행을 방해하는 것인지, 특정 장소와 시간대에 위험이 집중되는 것인지 살펴야 한다. 같은 현실을 보더라도 무엇을 이상한 현상으로 포착하느냐에 따라 이후의 조사는 전혀 달라진다.

문제를 발견하고 정확하게 규정하는 일

현실에서 이상을 발견했다고 곧바로 조사할 수 있는 것은 아니다. ‘전동킥보드가 위험하다’는 막연한 판단을 조사 가능한 문제로 바꾸어야 한다. 누구에게 어떤 위험이 발생하는지, 어느 장소와 시간대에서 문제가 나타나는지, 사고의 빈도와 심각성 가운데 무엇을 살펴볼 것인지 범위를 정해야 한다. 이 과정에서 나타난 현상과 문제점을 구별하고, 여러 문제 가운데 핵심적인 것을 선별해내며, 조사하고 분석할 수 있는 형태로 문제를 구체화한다.

문제를 규정했으면, 무엇을 통해 그 문제의 실체를 파악할 수 있는지 생각해야 한다. 사고 발생 건수, 시간대별 이용량, 주요 사고 장소, 보행자 통행량, 주차 위치, 안전수칙 준수 정도, 학교의 관리규정 등 수많은 정보 가운데 어떤 것이 필요한지 결정해야 한다. 모든 정보를 조사할 수 없기 때문에 핵심적인 정보와 부차적인 정보도 구별해야 한다. 따라서 자료를 찾는 능력보다 앞서 필요한 것은 ‘무엇을 알아야 하는지를 알아내는 능력’이다.

자료를 선별하고 관계를 찾아내는 일

조사가 시작되면 또 다른 종류의 사고가 필요하다. 현장을 관찰하고, 사람들에게 질문하고, 설문을 실시하며, 학교 자료와 정부 통계, 선행연구 등을 수집한다. 그러나 자료가 있다고 모두 근거가 되는 것은 아니다. 출처가 신뢰할 만한지, 조사 시점과 대상은 적절한지, 서로 다른 자료를 같은 기준에서 비교할 수 있는지, 현재의 문제를 설명하는 데 실제로 필요한 자료인지를 판단해야 한다. 자료 수집은 정보를 많이 쌓는 일이 아니라 끊임없이 선택하고 버리는 과정이기도 하다.

흩어진 자료 사이에서 관계를 찾아내는 작업도 필요하다. 오후 5시에서 7시 사이에 전동킥보드 이용량이 많고, 같은 시간대에 특정 건물 앞에서 보행자 불편 신고가 증가하며, 그 장소에 별도의 이동 동선이 없다는 사실이 확인되었다고 하자. 보고서를 작성하는 사람은 이 정보들을 서로 연결하여 가능한 설명을 만들어야 한다. 이용량과 불편 신고가 함께 증가했다고 해서 곧바로 하나를 다른 하나의 원인이라고 단정해서도 안 된다. 수업 시간, 공간 구조, 주차 시설 부족과 같은 다른 요인이 개입했을 가능성도 검토해야 한다. 이 과정에서 비교, 관계 설정, 원인 추론, 다른 설명의 검토, 과잉 해석의 억제가 이루어진다.

자신의 생각을 자료에 맞추어 수정하는 일

조사를 시작할 때에는 ‘학생들이 안전수칙을 지키지 않기 때문에 사고가 발생한다’고 예상했을 수 있다. 그런데 자료를 살펴보니 안전수칙 준수 여부보다 보행자와 전동킥보드의 이동 동선이 겹치는 공간 구조가 더 중요한 요인으로 나타날 수도 있다. 그렇다면 처음의 생각을 수정해야 한다. 자신이 예상했던 방향과 일치하는 자료만 선택하는 것이 아니라, 예상과 맞지 않는 자료를 받아들이고 기존의 설명을 다시 구성해야 한다.

이것이 보고서 작성에서 매우 중요한 인지 활동이다. 제대로 된 조사는 자신의 생각을 뒷받침할 자료를 찾아가는 과정만이 아니다. 자신의 생각과 현실을 대조하고, 현실과 맞지 않는 생각을 수정하는 과정이기도 하다. 예상하고, 확인하고, 불일치를 발견하고, 기존 판단을 억제하고, 새로운 설명을 만드는 과정에서 비판적 사고가 작동한다.

여러 해결책을 비교하고 선택하는 일

현황과 원인을 파악한 뒤에는 ‘그래서 어떻게 할 것인가’를 판단해야 한다. 전용 동선을 설치할 것인지, 속도를 제한할 것인지, 주차구역을 확대할 것인지, 특정 시간대에 관리 인력을 배치할 것인지 여러 대안을 만들어야 한다. 그리고 효과, 비용, 실행 가능성, 안전성, 이용자 편의, 지속 가능성과 같은 기준을 세워 대안을 비교해야 한다.

좋은 문제해결은 여기에서 한 단계 더 나아간다. 하나의 문제를 해결하면서 다른 문제가 생기지 않는지도 살펴야 한다. 전용 동선을 만들면 안전성은 높아지지만 비용과 공간 문제가 생길 수 있다. 속도를 크게 제한하면 보행자는 안전해지지만 이용자의 편의가 지나치게 낮아질 수 있다. 학교 관리자, 학생 이용자, 보행자, 예산 담당자의 입장도 서로 다를 수 있다. 이 단계에서는 대안을 생성하고, 평가기준을 설정하고, 상충관계를 파악하고, 여러 이해관계를 조정하여 우선순위를 결정하는 전략적 사고가 필요하다.

글로 쓰면서 사고의 빈틈을 발견하는 일

그리고 이 모든 내용을 하나의 논리적인 구조로 만들어야 한다. 왜 이 문제가 중요한지, 현재 상황은 어떠한지, 조사에서 무엇을 발견했는지, 그 원인을 어떻게 설명할 수 있는지, 어떤 해결책이 가능하며 그 가운데 무엇이 가장 적절한지를 독자가 따라갈 수 있도록 배열한다.

글로 표현하는 과정에서 이전에는 보이지 않았던 사고의 빈틈이 드러난다. 결론을 뒷받침할 근거가 부족하다는 것을 발견하기도 하고, 앞뒤의 설명이 모순된다는 것을 알아차리기도 한다. 같은 내용을 반복했다는 것을 발견하여 삭제하고, 빠진 근거를 보충하고, 문단의 위치를 바꾸면서 논리를 다시 구성한다. 따라서 글쓰기는 이미 완성된 생각을 문자로 옮기는 작업만이 아니다. 생각을 눈앞에 외재화하여 그 구조와 빈틈을 다시 살피고 수정하는 사고 과정이기도 하다.

보고서 한 편을 직접 작성하는 동안 인간의 머리에서 일어나는 일을 압축하면 다음과 같다.

관찰 → 문제 발견 → 문제 정의 → 범위 설정 → 필요한 정보 판단 → 자료 수집 → 정보 선별 → 비교 → 관계 발견 → 원인 추론 → 가설 검토 → 생각 수정 → 대안 생성 → 평가기준 설정 → 대안 비교 → 부작용 예측 → 이해관계자 고려 → 우선순위 결정 → 결론 도출 → 논리적 구조화 → 표현 → 재검토 → 수정

이 과정이 힘든 이유는 각 단계에서 조금씩 다른 방식으로 머리를 써야 하기 때문이다. 그러나 바로 그 부담 속에서 문제관찰력, 분석력, 논리적 사고력, 비판적 사고력, 관점 전환 능력, 판단력과 문제해결력이 반복적으로 사용되고 훈련된다. 보고서 작성 과정에 존재했던 이러한 수많은 작은 어려움은 인간의 사고를 계속 작동시키는 인지적 마찰이었다.

2. AI는 이제 보고서가 아니라 ‘사고 과정’의 상당 부분을 대신할 수 있다

생성형 AI가 처음 등장했을 때에는 문장을 작성하고 요약하는 능력이 주로 주목받았다. 지금은 상황이 다르다. AI는 문제 후보를 제시하고, 조사 범위를 설정하고, 설문 문항을 만들고, 필요한 외부 자료를 찾을 수 있다. 제공된 데이터를 분류하고 통계를 내며 패턴을 찾아낼 수도 있다. 가능한 원인을 추론하고 반례를 검토하며, 여러 대안을 만들어 일정한 기준으로 비교할 수도 있다. 마지막에는 보고서의 구조를 만들고 본문을 작성하며 표와 그래프, 발표자료까지 제작할 수 있다.

이제 AI에게 외주화할 수 있는 것은 문장 작성만이 아니다. 과거에 인간이 보고서를 작성하면서 직접 수행했던 관찰 이후의 문제 정의, 조사 설계, 자료 분석, 관계 파악, 원인 추론, 대안 생성, 비교, 구조화와 표현에 이르는 사고 과정의 상당 부분이 AI의 도움을 받을 수 있는 영역으로 들어왔다.

‘할 수 있는 일’과 ‘맡겨도 되는 일’의 구별

AI가 할 수 있는 일이 늘어났다고 해서 그것을 모두 AI에게 맡기는 것이 바람직하다는 뜻은 아니다. 수백 건의 설문 응답을 일차적으로 분류하고, 반복되는 자료를 정리하고, 계산하고, 표의 형식을 맞추는 작업은 AI에게 맡기는 것이 효율적일 수 있다. 이런 작업에서 절약한 시간과 인지적 자원을 인간이 더 중요한 판단에 사용할 수도 있다.

그러나 문제를 처음 규정하는 일, 자료에서 이상한 점을 발견하는 일, 서로 다른 설명 가운데 무엇이 더 타당한지 판단하는 일, 여러 해결책의 상충관계를 검토하는 일까지 계속 AI에게 맡긴다면 다른 문제가 생긴다. 이러한 활동은 단순히 결과를 얻기 위해 치러야 했던 수고가 아니라 그 결과가 좋은지 나쁜지를 판단할 수 있는 인간의 능력을 형성하는 경험이기도 했기 때문이다.

AI 시대의 ‘역량 형성의 역설’

여기에서 하나의 역설이 발생한다. AI가 문제를 정의할 수 있지만, 문제를 직접 정의해본 경험이 부족한 사람은 AI가 엉뚱한 문제를 풀고 있을 때 그것을 발견하기 어렵다. AI가 데이터의 이상치를 찾아줄 수 있지만, 데이터를 직접 들여다보며 이상한 수치를 발견해본 경험이 부족한 사람은 AI가 놓친 것을 알아차리기 어렵다. AI가 여러 대안을 비교해줄 수 있지만, 대안을 만들고 기준을 세워 직접 비교해본 경험이 없다면 AI의 판단이 적절한지 평가하기 어렵다.

AI에게 맡길 수 있는 일이 많아질수록 AI가 제대로 일했는지를 판단하는 인간의 능력은 더 중요해지는데, 역설적으로 그 판단 능력을 형성해왔던 활동들까지 AI에게 맡길 수 있게 된 상황이 만들어진다. 따라서 AI 시대의 교육에서 중요한 것은 AI를 사용하게 할 것인가 금지할 것인가의 문제가 아니다. 어떤 인지적 부담은 AI에게 넘기고, 어떤 인지적 활동은 인간의 능력을 형성하고 유지하기 위해 계속 직접 수행해야 하는지를 구별하는 일이 중요하다.

3. 인간은 현실과 AI 사이에서 문제해결을 매개해야 한다

여기에서 문제를 한 단계 더 근본적으로 생각할 필요가 있다. 우리가 조사하고 보고서를 작성하고 해결책을 찾는 이유가 무엇이었던가를 돌아보아야 한다. 인간이 살아가는 현실에서 어떤 문제가 발생했기 때문이다. 공장의 기계가 이상하게 작동하고, 교통사고가 반복되고, 새로운 시스템을 사용하는 사람들이 예상하지 못했던 어려움을 겪고, 어떤 제도가 수치상으로는 잘 운영되는데 구성원들의 피로가 계속 증가하기 때문에 조사와 분석이 필요해진다.

문제해결의 출발점은 언제나 살아 있는 현실이다. 인간이 살아가는 현실의 모든 국면을 AI가 직접 완전하게 감지할 수 없다면, 그 현실과 AI 사이를 연결하는 역할이 필요하다. 그 역할을 수행해야 하는 것이 인간이다.

현실의 변화를 감지하고 정확하게 전달하는 인간

공장의 기계에 이상이 생겼다고 하자. 평소보다 미세한 진동이 커졌는지, 특정 시간에만 소리가 달라지는지, 최근 어떤 부품을 교체했는지, 작업 조건이 어떻게 바뀌었는지와 같은 사실은 현장에서 확인해야 한다. 아직 데이터로 정리되지 않은 변화라면 누군가가 먼저 “전과 조금 다른데?”라고 알아차려야 한다.

그다음에는 관찰한 현실을 정확하게 기술해야 한다. 확인한 사실과 자신의 추정을 구별하고, 언제부터 무엇이 달라졌는지 설명하며, AI의 판단에 필요한 조건을 빠뜨리지 않고 제공해야 한다. 인간이 현실을 부정확하게 파악하면 AI에게 전달되는 현실의 표상도 부정확해진다. 따라서 AI와 협업하는 능력의 출발점은 프롬프트 기술이 아니라 현실을 예민하게 관찰하고 정확하게 기술하는 능력이다.

무엇이 중요한 문제인지 판단하는 인간

현실의 모든 변화가 해결해야 할 문제는 아니다. 무엇을 중요하게 볼 것인지에도 인간의 판단이 필요하다. 생산량이 증가했지만 작업자의 피로가 지나치게 커졌다면 인간은 그것을 중요한 문제로 제기할 수 있다. 시스템의 효율이 높아졌지만 노인들이 이용하기 어려워졌다면 그것 역시 개선해야 할 조건으로 포함할 수 있다. 경제적 효용이 크지 않더라도 어떤 자연환경이나 문화적 가치를 보존해야 한다고 판단할 수도 있다.

인간은 단순히 현실의 데이터를 AI에게 전달하는 존재가 아니다. 누구에게 무엇이 중요한지, 무엇을 지켜야 하는지, 어떤 상태를 더 나은 상태라고 볼 것인지 판단하여 문제해결의 방향을 설정하는 주체이기도 하다. AI가 인간을 위해 제대로 작동하려면 인간은 자신이 중요하게 여기는 가치와 목표를 문제와 조건의 형태로 구성하여 AI에게 알려주어야 한다.

AI가 다룰 수 있는 문제로 현실을 구성하는 인간

살아 있는 현실은 처음부터 AI가 처리하기 좋은 형태로 존재하지 않는다. 사람, 조직, 기계, 자연환경, 감정, 이해관계, 문화적 조건과 예외적인 사건들이 복잡하게 얽혀 있다. 인간은 그 가운데 무엇이 중요한지 선별하고, 필요한 자료가 무엇인지 결정하며, 목표와 제약조건을 설정하여 AI가 분석할 수 있는 문제로 구성해야 한다.

이것은 단순히 질문 한 문장을 잘 만드는 프롬프트 기술과는 다르다. 현실을 충분히 이해해야 무엇을 질문해야 하는지를 알 수 있고, 문제의 구조를 알아야 어떤 조건을 AI에게 제공해야 하는지를 판단할 수 있다. 따라서 좋은 AI 활용의 앞에는 언제나 좋은 현실 이해와 좋은 문제 구성이 필요하다.

AI의 답을 다시 현실에 가져오는 인간

AI가 분석과 해결책을 제시했다고 문제해결이 끝나는 것도 아니다. AI가 제시한 설명이 실제 현장과 맞는지 확인해야 한다. 해결책을 적용했을 때 예상했던 효과가 나타나는지, 새로운 문제가 생기지는 않는지, 처음에 고려하지 않았던 조건이 발견되는지도 살펴야 한다.

현실과 맞지 않는 부분이 발견되면 새로운 정보를 AI에게 제공하고 문제를 다시 구성해야 한다. 처음의 원인 추정이 잘못되었다면 수정하고, 새로운 제약조건이 발견되었다면 대안을 다시 만들어야 한다. 따라서 인간과 AI의 협업은 한 번의 ‘질문-답변’으로 끝나는 관계가 아니라 현실과 AI 사이를 반복해서 왕복하는 문제해결의 순환이다.

현실 관찰 → 문제 발견 → 현실 기술 → 문제 구성 → AI의 분석과 제안 → 인간의 검토와 판단 → 현실 적용 → 결과 관찰 → 새로운 정보 제공 → 문제와 해결책 수정

이 순환 속에서 인간은 AI에게 처음 지시만 내리는 사람이 아니다. AI가 제시한 답을 마지막에 승인하는 사람만도 아니다. 현실과 AI 사이를 계속 오가며 문제해결의 방향을 조정하고 전체 과정을 이끌어가는 매개자이다.

잘못된 현실을 뛰어난 AI에게 주었을 때의 위험

바로 이 때문에 인간의 인지역량이 중요하다. 관찰력이 부족하면 중요한 변화를 발견하지 못한다. 분석력이 부족하면 무엇을 AI에게 알려주어야 하는지 판단하기 어렵다. 문제에 대한 이해가 부족하면 AI가 엉뚱한 방향으로 분석해도 알아차리지 못한다. 논리적 판단력이 부족하면 AI가 제시한 설명 가운데 무엇이 타당하고 무엇이 의심스러운지 구별하기 어렵다. 문제해결 과정에 대한 이해가 부족하면 다음 단계에서 무엇을 확인하고 어떤 정보를 다시 제공해야 하는지도 알기 어렵다.

이러한 문제는 하나의 연쇄로 이어질 수 있다. 현실의 부정확한 파악 → 불충분하거나 왜곡된 정보 제공 → AI의 잘못된 문제 이해 → 잘못된 분석 → 부적절한 해결책이다. AI가 뛰어나다고 해서 이 문제가 자동으로 사라지는 것은 아니다.

오히려 AI가 뛰어날수록 다른 종류의 위험이 생길 수도 있다. 인간이 현실을 잘못 전달했는데 AI가 그 잘못된 전제를 토대로 매우 논리적이고 정교하게 추론한다면 결과는 상당히 그럴듯해 보일 수 있다. 허술한 추론은 오류가 쉽게 드러나지만, 잘못 표상된 현실을 바탕으로 한 정교한 추론은 오히려 오류를 발견하기 어려울 수 있다. 따라서 AI의 추론 능력이 높아질수록 AI에게 제공되는 현실의 정확성과 그것을 검토하는 인간의 판단력이 더욱 중요해질 수 있다.

결국 필요한 것은 AI와 함께 문제를 해결할 수 있는 인간이다

AI 시대에 인간이 과거의 모든 작업을 직접 해야 한다는 결론으로 돌아갈 필요는 없다. AI가 더 잘할 수 있는 계산, 대량 자료의 일차 분류, 반복적인 정리, 형식화와 같은 작업은 적극적으로 맡길 수 있다. 중요한 것은 일을 나누어 맡기면서도 문제해결의 주도권까지 함께 넘기지 않는 것이다.

앞으로 필요한 사람은 AI보다 많은 정보를 기억하거나 AI보다 빠르게 보고서를 작성하는 사람이 아니다. 현실의 작은 변화를 감지하고, 사실과 해석을 구별하며, 중요한 것과 사소한 것을 선별하고, 문제를 정확하게 규정하며, AI에게 필요한 현실 정보를 제공할 수 있는 사람이 필요하다. AI가 내놓은 분석을 현실과 대조하고, 빠진 조건과 잘못된 판단을 발견하며, 새로운 정보를 다시 제공하여 해결의 방향을 수정할 수 있는 사람도 필요하다. 여기에 확인하지 않은 것을 확인했다고 말하지 않고, 불확실한 것은 불확실하다고 표시하며, 중요한 조건을 대충 넘기지 않는 인지적 성실성도 필요하다.

문제는 이러한 능력이 저절로 만들어지지 않는다는 데 있다. 현실을 관찰하고, 조사하고, 읽고, 비교하고, 관계를 찾고, 원인을 추론하고, 다른 가능성을 검토하고, 자신의 생각을 수정하고, 그것을 논리적인 글로 구성하는 경험을 통해 이러한 능력은 형성된다. 보고서 작성과 같은 힘든 지적 활동은 단지 보고서 한 편을 얻기 위한 과정이 아니었다. 인간이 복잡한 현실을 다루는 방법을 배우는 훈련이기도 했다.

바로 여기에 AI 시대의 교육이 직면한 역설이 있다. AI를 제대로 활용하려면 높은 수준의 관찰력, 분석력, 판단력과 문제해결력이 필요한데, AI에게 모든 과정을 맡기면 바로 그 능력을 연습하고 형성할 기회가 줄어들 수 있다. 따라서 앞으로의 글쓰기 교육은 AI 이전의 모든 수고를 그대로 반복시키는 교육도, AI가 있으니 모든 과정을 맡겨버리는 교육도 되어서는 안 된다. 인간이 계속 직접 경험해야 할 인지적 활동이 무엇인지를 찾아내고, 그 부분에서는 충분히 생각하고 판단하게 하는 교육이 필요하다.

AI 시대의 핵심 역량은 AI보다 더 많은 일을 직접 해내는 능력이 아니다. 인간의 현실을 정확하게 읽고, 인간에게 중요한 문제를 구성하며, AI의 높은 지적 능력이 그 현실을 위해 제대로 작동하도록 문제해결의 전 과정을 주체적으로 매개하고 이끌어가는 능력이다.

AI 시대의 교육에서 물어야 할 질문도 달라져야 한다. ‘AI에게 어디까지 맡길 수 있는가’만을 묻는 것으로는 충분하지 않다. 그보다 더 중요한 질문이 남는다. 뛰어난 AI와 함께 인간의 현실 문제를 해결해나가기 위해, 인간은 무엇을 직접 보고, 생각하고, 판단하고, 훈련해야 하는가.