1주 · 시청–광화문 배송 회사에 트럭이 생긴다면

논문이 풀려는 문제: 같은 능력이 있어도 왜 행동은 달라질까

이 논문을 자기 자신을 믿으라는 격려의 글로 읽으면 가장 중요한 부분을 놓친다.[1] Bandura가 다루는 것은 행동 변화의 설명이다.[1] 사람은 왜 어떤 상황을 피하고, 어떤 상황에는 들어가며, 어려움을 만났을 때 얼마나 오래 시도하는가.[1] 그는 여러 심리적 개입의 효과를 연결하는 설명으로 자기효능감, 곧 특정 행동을 성공적으로 수행할 수 있다는 기대를 제시한다.[1]

논문의 출발점에서 흥미로운 것은 능력을 가지고 있다는 사실만으로 행동을 충분히 설명할 수 없다는 점이다.[1] 어떤 사람은 필요한 동작을 할 수 있어도 자신이 그 상황을 감당할 수 없다고 생각해 시작하지 않는다.[1] 다른 사람은 어려움을 만났을 때 다시 시도한다.[1] Bandura는 이러한 선택과 노력, 지속성에 자기효능감이 중요한 역할을 한다고 설명한다.[1]

그러나 믿음이 실제 기술과 동기를 대신한다는 주장은 아니다. 논문은 필요한 구성 능력이 없다면 기대만으로 원하는 수행이 만들어지지 않으며, 해낼 수 있는 일이라도 유인이 없으면 하지 않을 수 있다고 명시한다.[1] 수업에서는 이 단서를 특히 기억해야 한다. AI를 잘 쓸 수 있다는 자신감, 실제로 도구를 운영하는 능력, 그 일을 해야 할 이유는 구분해서 살펴보아야 한다.

가장 먼저 구분할 것: 결과기대와 효능기대

논문의 핵심 구분은 결과기대와 효능기대다.[1] 결과기대는 어떤 행동을 하면 어떤 결과가 나올 것이라는 판단이다.[1] 효능기대는 그 결과에 필요한 행동을 내가 성공적으로 수행할 수 있다는 판단이다.[1] 논문의 그림 1은 사람에서 행동으로 이어지는 연결과, 행동에서 결과로 이어지는 연결을 나누어 보여 준다.[1] 어떤 방법이 효과적이라고 믿으면서도 자신은 그 방법을 실행할 수 없다고 생각할 수 있기 때문이다.[1]

배송 회사에 적용해 보면 차이가 선명해진다. 트럭을 이용하면 많은 상자를 전달할 수 있다고 믿는 것과, 내가 안전하게 운전하고 적재하고 예외 상황을 처리할 수 있다고 믿는 것은 다르다. AI가 좋은 보고서를 만들 수 있다고 생각하는 것과, 내가 요구사항을 정리하고 자료를 제공하고 결과를 점검할 수 있다고 생각하는 것도 다르다. 여기서 트럭과 AI의 예는 논문의 원래 실험이 아니라 개념을 이해하기 위한 수업의 적용이다.

따라서 누군가 AI를 쓰지 않는다고 해서 곧바로 AI의 성능을 믿지 않는다고 해석해서는 안 된다. 그 사람은 도구의 잠재력을 인정하면서도 자신의 사용 능력을 의심할 수 있다. 반대로 사용 능력에는 자신이 있지만, 그렇게 만든 결과가 조직에서 인정받지 못한다고 생각할 수도 있다. 두 상태를 같은 저항으로 묶으면 대응도 어긋난다. 앞의 경우에는 학습과 지원이, 뒤의 경우에는 평가와 권한의 조건을 살펴보는 일이 더 중요할 수 있다.

믿음을 만들어 주는 네 가지 정보

Bandura는 효능기대의 주요 정보원을 수행 성취, 대리 경험, 언어적 설득, 정서적 각성으로 정리한다.[1] 직접 해내 본 경험, 다른 사람이 해내는 것을 관찰한 경험, 자신이 해낼 수 있다는 말을 듣는 경험, 어려운 상황에서 자신의 긴장과 신체적 반응을 해석하는 경험이다.[1] 이것은 네 가지 응원 기법의 목록이 아니다.[1] 사람이 자신의 능력을 판단할 때 어떤 정보를 사용하는지에 관한 설명이다.[1]

직접 수행한 성취는 실제 경험에 근거하므로 특히 중요한 정보원이 된다.[1] 하지만 성공을 쌓는 방식도 중요하다.[1] 논문은 처음의 실패, 반복된 성공 이후의 실패, 노력으로 극복한 장애가 같게 작용하지 않을 수 있다고 설명한다.[1] 대리 경험에서는 관찰 대상이 자신과 얼마나 비슷한지, 처음부터 능숙한 사람인지 아니면 어려움을 극복해 가는 사람인지, 성공의 결과가 분명하게 보이는지가 중요해진다.[1]

언어적 설득은 쉽게 사용할 수 있지만 실제 성취의 기반이 부족하면 약해질 수 있다.[1] 논문은 성공을 가능하게 하는 조건을 마련하지 않은 채 능력에 대한 기대만 높이면 실패가 설득자의 신뢰와 당사자의 효능감을 훼손할 수 있다고 경고한다.[1] 정서적 각성 역시 그 자체만으로 능력을 말해 주는 것은 아니다.[1] 사람이 자신의 상태를 어떻게 해석하는지가 중요하다.[1]

이 구분을 AI 교육에 가져오면, 놀라운 시연을 보여 주거나 누구나 할 수 있다고 말하는 것만으로 충분하다고 가정할 수 없게 된다. 학습자가 감당할 수 있는 과제를 직접 수행하고, 결과를 확인하고, 비슷한 동료가 오류를 수정하는 과정을 볼 기회를 설계할 수 있다. 이것은 네 정보원을 바탕으로 한 교육 제안이지, 해당 논문이 검증한 AI 교육 프로그램은 아니다.

성공한 사건과, 내가 배웠다고 느끼는 경험은 다르다

AI 시대에 특히 중요한 대목은 효능 정보의 인지적 처리다.[1] Bandura는 환경에서 일어난 사건과, 개인이 그 사건을 처리하고 해석한 정보를 구분한다.[1] 성공했다는 사실만으로 강한 자기효능감이 자동으로 생기지 않는다.[1] 성공의 원인을 자신의 기술로 이해하는지, 우연이나 특별한 외부 도움으로 이해하는지에 따라 그 경험이 갖는 의미가 달라질 수 있다.[1]

그렇다고 도움을 받으면 학습이 무효라는 결론도 아니다.[1] 논문은 처음부터 아무 도움 없이 혼자 해야 한다는 처방에 의문을 제기한다.[1] 필요한 지원으로 수행을 시작하게 하고, 이후 자기주도적으로 성취할 기회를 제공하는 방식을 논의한다.[1] 지원을 통해 가능해진 수행과, 자신의 능력을 확인하고 일반화하는 경험을 연결하려는 것이다.[1]

수업에 적용하면 AI를 쓰지 않고 처음부터 끝까지 해야만 진짜 능력이라는 기준과, AI로 결과를 얻었으니 능력이 늘었다는 기준을 모두 경계할 수 있다. 예컨대 AI의 도움으로 자료를 정리한 뒤 그 분류 기준을 설명할 수 있는지, 오류를 찾아낼 수 있는지, 다른 자료에서도 적절한 기준을 만들 수 있는지 살펴볼 수 있다. 도구를 금지하기보다 무엇을 배우고 무엇을 맡겼는지 드러내는 방식이다.

다만 원래 연구의 외부 지원을 줄이는 절차를 모든 AI 업무에 그대로 옮길 이유는 없다. 도구를 지속적으로 이용하는 것이 합리적인 업무도 있다. 중요한 것은 도구 없이 할 수 있는 능력과 도구를 활용해 수행하는 능력을 혼동하지 않는 것이다. 둘 다 가치가 있을 수 있지만, 실패 상황에서 필요한 대응과 학습의 목표는 달라질 수 있다.

AI를 잘한다는 한 문장으로는 부족하다

논문은 효능기대를 난이도의 수준, 일반성, 강도의 차원으로 분석한다.[1] 쉬운 행동에만 자신이 있는지 어려운 행동까지 할 수 있다고 보는지, 특정 상황의 자신감이 다른 상황에도 이어지는지, 반대되는 경험을 만나도 얼마나 유지되는지를 구분하는 것이다.[1] 또한 자기효능감을 막연한 성격 특성으로 다루기보다 특정 행동과 조건에 맞추어 세밀하게 살펴보아야 한다고 주장한다.[1]

AI 사용에도 이런 세분화가 필요하다. 문장의 표현을 다듬는 데 자신이 있는 것과, 논문의 근거를 검토하는 데 자신이 있는 것은 다르다. 공개 자료를 요약하는 것과, 개인정보가 포함된 업무를 처리하는 것도 다르다. 읽기만 하는 도구를 운영하는 것과 실제 외부 시스템을 수정하는 에이전트를 운영하는 데 필요한 판단은 더욱 다르다. 이 예시들은 논문의 세 차원을 현재의 업무에 적용한 것이다.

그래서 우리는 AI를 잘 쓰는 사람이라는 통합된 명칭보다 더 정확한 문장을 연습한다. 나는 공개 문서의 핵심 주장을 정리할 수 있다. 나는 원문과 요약을 비교해 누락을 찾을 수 있다. 나는 어떤 상황에서 실행을 멈추고 승인을 받아야 하는지 판단할 수 있다. 이런 문장은 자신감을 낮추려는 것이 아니다. 자신감의 대상과 경계를 분명히 하려는 것이다.

논문은 어떻게 자신의 설명을 시험하는가

원문에는 뱀에 대한 강한 공포를 가진 성인을 대상으로 한 연구의 설명이 등장한다.[1] 필요한 도움을 받아 점점 더 어려운 상호작용을 직접 수행하는 참여 모델링, 같은 행동을 관찰하는 모델링, 처치를 받지 않는 통제 조건을 비교한다.[1] 연구에서는 행동 검사에 앞서 구체적 과제를 수행할 수 있다고 판단하는지와 그 확신의 강도를 측정하고, 이후 실제 접근 행동과 비교한다.[1]

보고된 결과에서 직접 수행에 근거한 경험은 관찰 경험보다 더 높고 강하며 일반화된 효능기대를 만들었고, 관찰 경험은 통제 조건보다 높았다.[1] 또한 서로 다른 방식으로 형성된 효능기대가 이후 수행과 밀접하게 대응했다.[1] 논문은 전체 점수의 관계만 보는 데서 그치지 않고, 구체적 과제마다 할 수 있다는 판단과 실제 수행이 맞는지도 분석한다.[1]

여기서 배울 것은 뱀 공포를 AI 사용 불안에 그대로 대입하는 방법이 아니다. 자신의 설명을 관찰 가능한 질문으로 바꾸는 연구의 방식이다. 무엇을 할 수 있다고 믿는지 먼저 정하고, 그것과 실제 수행을 구분해 확인하며, 비슷하지만 다른 상황에도 이어지는지 살펴본다. 오늘의 자기평가가 미래의 실제 행동과 어떻게 연결되는지 묻는 태도를 가져오는 것이다.

이 논문이 논의하는 실험과 이론은 AI가 장기적으로 인간의 능력을 높인다는 직접 증거가 아니다. 또한 처치가 여러 요소를 함께 바꾸는 경우, 자기효능감만이 독립적으로 모든 변화를 일으켰다고 단순화해서는 안 된다. 세미나에서는 논문의 설명력을 인정하면서도 연구 대상과 측정, 비교 조건이 허용하는 범위를 지켜 읽는다.

조직에 가져오면: 자신감을 요구하기 전에 조건을 보라

논문의 후반부에는 조직 문제를 생각하는 데 유용한 구분이 있다.[1] 사람은 자신이 필요한 행동을 할 수 없다고 느껴 시도를 포기할 수도 있지만, 할 수 있다고 느끼면서도 그 행동이 반응하지 않는 환경에서 아무 효과를 내지 못하거나 처벌받을 것이라고 생각해 포기할 수도 있다.[1] Bandura는 앞의 경우에는 역량과 효능기대의 발달이, 뒤의 경우에는 행동이 의미 있는 결과를 낳도록 환경의 조건을 바꾸는 일이 필요하다고 설명한다.[1]

배송 회사의 직원에게 운전 교육을 제공했어도 새 업무를 제안할 권한이 없고, 기존 달리기 기록만으로 평가받는다면 새 능력을 쓸 이유는 약하다. AI 교육을 제공했어도 결과를 검토할 시간이나 자료 접근 권한이 없다면 적극적으로 쓰라는 요구가 공허해질 수 있다. 이것은 자기효능감 이론을 조직의 제도와 연결해 읽는 수업의 해석이다.

이 논문에서 배워야 할 것은 사람의 마음을 바꾸면 조직 문제가 해결된다는 생각이 아니다. 능력에 대한 판단, 실제 역량, 기대하는 결과, 환경의 반응을 구별하는 것이다. 직원에게 더 자신감을 가지라고 말하기 전에, 무엇을 배우면 되는지와 무엇이 제도 때문에 막혀 있는지를 함께 물어야 한다. 트럭 앞의 불안을 모두 개인의 자신감 부족으로 설명하는 순간, 이 논문의 정교한 구분은 오히려 사라진다.

제목을 끝까지 읽어야 보이는 연구의 질문

이 논문의 제목은 생성형 AI가 비판적 사고에 미치는 영향이라는 큰 질문으로 시작하지만, 부제는 자기보고한 인지적 노력의 감소와 확신의 효과를 지식 노동자 설문으로 살핀다고 범위를 명시한다.[2] 연구자들이 직접 관찰한 것은 사람들의 뇌나 장기간의 능력 변화가 아니라, 사람들이 자신의 업무 경험을 어떻게 설명하고 평가하는가다.[2]

연구에는 업무에서 적어도 주 한 번 생성형 AI를 사용하는 지식 노동자 319명의 응답과, 이들이 공유한 사용 사례 936개가 포함된다.[2] 연구자들은 언제 어떤 방식으로 비판적 사고를 했다고 느끼는지, AI 사용으로 그 노력은 어떻게 달라졌다고 느끼는지 묻는다.[2] 같은 사람이 여러 사례를 제공했으므로 936개의 사례를 서로 독립적인 936명의 사람이나 실험으로 읽어서는 안 된다.[2]

이 접근의 가치는 실제 업무 맥락을 풍부하게 드러낸다는 데 있다. 하나의 정답 시험으로는 보기 어려운 목표 설정, 결과 수정, 조직의 요구와 시간 압박을 함께 살펴볼 수 있다. 대신 자신이 했던 생각을 정확하게 기억하고 보고할 수 있는지라는 한계를 안고 있다. 이 논문을 읽는 첫 번째 훈련은 큰 제목에서 받은 인상을, 실제로 수집한 자료와 질문의 범위에 맞춰 수정하는 것이다.

비판적 사고는 AI를 의심하는 표정이 아니다

논문에서 다루는 비판적 사고의 실행은 무조건 AI를 반대하는 태도가 아니다.[2] 연구자들은 참여자들에게 해당 업무에서 비판적 사고를 했다고 보는지, 왜 그렇게 답했는지, 어떤 방법을 썼고 어떤 장애가 있었는지 질문한다.[2] 인지적 노력의 변화는 기억, 이해, 적용, 분석, 종합, 평가라는 활동을 구분해, AI를 쓰지 않을 때와 비교해 얼마나 달라졌다고 느끼는지 묻는다.[2]

응답에서 나타나는 활동에는 목표를 분명히 정하는 일, 프롬프트를 다듬는 일, 결과를 기준에 맞춰 평가하는 일, 외부 자료와 자신의 전문 지식으로 내용을 확인하는 일이 포함된다.[2] 따라서 비판적 사고를 답변의 틀린 부분을 찾는 일로만 줄일 수 없다.[2] 어떤 결과를 원하는지 정하고, 그 결과가 지금 상황에 적합한지 판단하는 일도 중요하다.[2]

흥미롭게도 원문은 AI의 답변을 수정하지 않았다는 사실만으로 비판적 사고를 하지 않았다고 추정할 수 없다고 지적한다. 사용자가 검토한 뒤 그대로 사용하기로 판단했을 수도 있기 때문이다.[2] 수업에서도 제출물의 겉모습만 보고 사고의 유무를 단정하지 않는다. 어떤 기준으로 판단했는지, 무엇을 확인했고 왜 수정하거나 수정하지 않았는지를 설명할 수 있는지가 더 유용한 질문이다.

누구를 믿는가: 나, AI, 그리고 나의 평가 능력

연구는 과제별로 자신이 AI 없이 그 일을 할 수 있다는 확신, AI가 그 일을 할 수 있다는 확신, AI의 결과를 평가할 수 있다는 확신을 따로 질문한다.[2] 이 구분은 AI를 믿는지 안 믿는지라는 하나의 질문보다 정밀하다.[2] 일반적인 AI 신뢰와, 특정 과제에서 AI가 잘할 것이라는 판단도 구분해서 살펴본다.[2]

보고된 분석에서 특정 과제를 수행하는 AI에 대한 높은 확신은 비판적 사고를 덜 실행한다는 자기보고와 연결되었고, 자신의 과제 수행 능력에 대한 높은 확신은 더 실행한다는 자기보고와 연결되었다.[2] 논문의 논의에서는 AI에 대한 확신과 자신의 능력에 대한 확신이 인지적 노력과 다르게 연결되는 양상도 강조한다.[2] 연구자들은 이 분석이 인과관계를 확립하지 않는다고 명시한다.[2]

따라서 AI를 믿으면 사고력이 떨어진다고 바꾸어 말하면 안 된다. 특정 업무에 익숙한 사람이 자신의 기준을 가지고 더 적극적으로 점검했을 수도 있고, 상대적으로 쉽거나 중요도가 낮은 일을 AI에 맡기는 사람이 높은 확신과 적은 검토를 함께 보고했을 수도 있다. 이런 설명은 후속 검증이 필요한 대안이다. 이 설문만으로 어느 요인이 무엇을 일으켰는지, 개인의 사고 능력이 시간이 지나며 어떻게 변했는지 결정할 수 없다.

수업에서 얻는 질문은 도구를 불신하라는 것이 아니라, 믿음의 근거와 범위를 분리하라는 것이다. AI가 좋은 표현을 만들 것이라는 믿음이 그 표현 속 사실도 정확할 것이라는 믿음으로 넘어갔는가. 내가 해당 분야를 잘 모른다는 이유로 AI의 답변을 평가할 기준까지 포기했는가. 잘 쓰는 능력과 평가하는 능력을 각각 어떻게 기를 것인가.

첫 번째 이동: 정보를 모으는 일에서 확인하는 일로

연구자들은 생성형 AI 사용에서 비판적 사고의 노력이 이동하는 세 가지 방향을 논의한다.[2] 첫째는 정보 수집에서 정보 검증으로의 이동이다.[2] 정보를 가져오는 데 드는 노력이 줄어드는 한편, AI가 제시한 내용을 외부 출처와 전문 지식에 비추어 확인하는 일이 중요해진다는 설명이다.[2] 이것은 설문 자료에서 나타난 경험과 연구자들의 해석이며, 모든 업무의 시간 배분을 측정해 확립한 법칙은 아니다.[2]

수업의 예를 들어 보자. AI가 논문 다섯 편을 골라 요약해 주었다면 목록이 있다는 사실과 그 논문이 실제로 존재한다는 사실은 다르다. 제목과 저자를 확인하고, 원문이 실제로 그 결론을 내렸는지 살펴보고, 요약이 연구의 한계를 빼버리지 않았는지 읽어야 한다. 특히 주장에 맞는 논문을 찾는 일과, 찾은 논문이 그 주장을 뒷받침하는지는 다른 문제다.

검증은 AI에게 한 번 더 맞느냐고 묻는 것만으로 끝나지 않는다. 같은 시스템이 비슷한 오류를 반복할 수 있으므로 원문, 공식 자료, 직접 계산, 실제 실행 등 해당 주장에 맞는 독립적인 근거가 필요하다. 어떤 검증 수단이 적절한지는 업무에 따라 다르다. 이 문단은 설문의 직접 결과가 아니라, 정보 검증이라는 이동을 세미나의 읽기 활동에 적용한 제안이다.

두 번째 이동: 답을 만드는 일에서 내 상황에 넣는 일로

둘째는 문제 해결에서 AI 응답의 통합으로의 이동이다.[2] 원문은 사용자가 생성된 내용을 자신의 과제에 관련성이 있고 적용 가능한지 판단하고, 목적과 독자에 맞추어 수정해야 하는 상황을 설명한다.[2] 답변이 그럴듯한 것과 실제 업무에서 사용할 수 있는 것은 같지 않다.[2]

예컨대 AI가 전국 배송 사업 계획을 만들었다고 하자. 계획서에 물류센터와 관제센터라는 단어가 있다고 해서 사업이 성립하지는 않는다. 실제 고객이 원하는 배송 시간, 이미 사용할 수 있는 네트워크, 초기 투자와 운영 비용, 사고 책임, 조직이 감당할 수 있는 범위를 넣어 읽어야 한다. 어느 지역은 직접 운영하고 어느 지역은 협력 업체를 이용할지 달라질 수도 있다. 이 예는 배송 회사 이야기를 응답 통합의 문제와 연결한 수업의 적용이다.

AI가 답을 빠르게 만드는 상황에서는 답안을 받아 적는 능력보다, 그 답이 어떤 조건에서 맞고 어떤 조건에서 어긋나는지 판단하는 능력이 중요해질 수 있다. 기존의 현장 경험도 여기서 다시 의미를 얻는다. 다만 경험이 있다는 사실만으로 언제나 옳은 판단을 하는 것은 아니다. 경험의 가정을 드러내고 새로운 자료와 비교할 수 있어야 한다.

세 번째 이동: 직접 수행에서 과업을 맡아 관리하는 일로

셋째는 과업 실행에서 과업의 stewardship으로의 이동이다.[2] 여기서는 이를 과업의 방향과 결과를 맡아 관리하는 일로 읽는다.[2] 원문은 실행이 사라졌다거나 감독이 새로 발명되었다고 말하지 않는다.[2] 생성형 AI가 산출물을 만드는 일을 일부 맡는 동안, 사용자는 목표를 안내하고 과정을 점검하며 결과의 책임을 계속 지는 쪽으로 무게가 이동한다고 설명한다.[2]

이 개념을 이해하면 AI를 썼으니 할 일이 없어졌다는 말과, 사람이 모든 단계를 직접 해야 책임을 질 수 있다는 말 사이에 다른 가능성이 보인다. 예를 들어 어떤 결과를 만들지 정하고, 사용할 자료와 제약을 제공하고, 결과가 기준을 충족했는지 확인하고, 필요하면 방향을 바꾸는 일이 남는다. 빠르게 만들어진 산출물이 많아질수록 무엇을 승인하고 무엇을 폐기할지도 중요한 판단이 된다.

그러나 챗봇 중심의 설문을 지속적으로 행동하는 에이전트에 대한 실증 결과로 바꾸어 읽어서는 안 된다. 외부 도구를 호출하고 파일이나 시스템을 수정하는 에이전트에서는 실행 권한, 승인 단계, 기록, 중단과 복구 절차까지 생각해야 한다. 이 부분은 논문의 개념을 더 넓은 조직 설계 문제로 확장하는 수업의 질문이다. 해당 연구가 자율 에이전트의 안전성과 효과를 검증한 것은 아니다.

또한 조직에서 책임을 개인 사용자에게만 몰아주는 것과 책임의 주체를 분명히 하는 것은 다르다. 검토할 시간, 필요한 지식, 권한이 없는 사람에게 마지막 책임만 지우는 구조는 검토 기능을 제대로 만들지 못할 수 있다. 누가 기준을 정하고 누가 확인하고 누가 실행을 승인하는지를 제도와 자원에 연결해 생각해야 한다. 이 역시 논문의 결과 자체가 아니라 조직에 대한 우리의 해석이다.

덜 힘들었다는 말은 덜 생각했다는 말과 같은가

논문의 한계 절에서 가장 중요한 지적 가운데 하나는 일부 응답자가 AI 사용의 전반적인 노력 감소와 비판적 사고 노력의 감소를 혼동했다는 것이다.[2] 연구자들은 자기보고가 부정확해질 가능성을 인정하며, 소리 내어 사고 과정을 설명하게 하는 방법이나 실제 과제 기반 평가 같은 다른 측정 방식이 필요하다고 제안한다.[2] 자기 능력에 대한 주관적 확신이 객관적인 전문성과 항상 잘 맞는 것도 아니라고 명시한다.[2]

이 구분은 수업의 결론을 좌우한다. 자료 찾기가 쉬워져 전체 일이 덜 힘들어졌어도 판단의 질은 유지되거나 좋아질 수 있다. 반대로 검토를 생략해 편해졌을 수도 있다. 노력의 양, 판단의 질, 결과의 정확성, 나중에 독립적으로 수행하는 능력은 각각 다른 대상이다. 설문의 노력 변화만으로 이 네 가지가 같은 방향으로 움직였다고 결론 내릴 수 없다.

표본의 범위도 중요하다.[2] 조사는 영어로 이루어졌고 영어에 능숙한 참여자를 대상으로 했으며, 젊고 기술 활용에 익숙하고 AI를 정기적으로 사용하는 참여자 쪽으로 치우쳤다고 논문은 설명한다.[2] 한국어 업무, AI를 쓰지 않는 사람, 다른 연령과 조직 환경에 그대로 일반화하기 어렵다.[2] 도구가 계속 변한다는 점에서 장기 추적 연구의 필요성도 제시한다.[2]

따라서 이 논문을 AI가 인간을 생각하지 못하게 만든다는 최종 판결로 읽을 필요도, 설문이니 의미가 없다고 버릴 필요도 없다. 사람들의 실제 업무 경험에서 어떤 패턴과 문제를 발견했는지 이해하고, 그 설명이 어디까지 가능한지 판단하면 된다. 논문을 비판적으로 읽는 가장 좋은 연습은 논문이 경고하는 바로 그 검증을 논문 자체에도 적용하는 것이다.

배워야 할 것: 검토를 요구하는 것과 검토가 가능하게 만드는 것

논문은 비판적 사고를 가로막는 조건을 인식, 동기, 실행 능력과 연결해 논의한다.[2] 중요한 과제에서 검토할 필요를 알아차리지 못할 수도 있고, 시간 압박이나 업무 범위 때문에 검토를 할 이유를 느끼지 못할 수도 있으며, 낯선 분야라 내용을 개선하거나 판단할 능력이 부족할 수도 있다.[2] 연구자들은 이러한 장벽을 고려한 도구 설계와 학습 지원을 제안한다.[2]

조직에 적용하면 AI가 만든 것은 반드시 검토하라는 문장만으로 충분한지 묻게 된다. 검토자가 원문에 접근할 수 있는가. 무엇이 합격 기준인지 아는가. 오류를 발견했을 때 수정하거나 실행을 멈출 권한이 있는가. 일정에는 검토 시간이 포함되어 있는가. 검토를 수행하는 조건이 없는 채 검토 의무만 늘어나면, 트럭 위원회의 도장이 실제 안전을 대신하는 상황이 될 수 있다.

이 논문에서 가져갈 시사점은 AI가 일을 해주더라도 사람은 무조건 더 열심히 생각해야 한다는 도덕적 훈계가 아니다. 어떤 인지적 일이 줄고, 어떤 인지적 일이 남거나 새로 중요해지는지 구체적으로 설계하자는 것이다. 편해진 시간을 무엇에 쓰는지, 도구를 믿을 근거를 어떻게 얻는지, 필요한 역량을 어떻게 유지하고 배울지를 사람과 제도의 문제로 함께 다룬다.