6주 · 누가 운전하고, 사고가 나면 누가 책임지는가
AI 에이전트 시대의 개인과 조직의 변화
2027년 1학기 · 유호현 · 읽기·토론 세미나
장면과 강의 · 이번 주의 질문
이야기 속 장면 · 위원회가 자격과 운행 범위를 정한다. 모든 행동을 승인하면 일이 멈추지만, 감독 없이 맡기면 다른 사람에게 피해를 줄 수 있다.
이번 주 질문 · 어디까지 맡길 수 있고, 무엇을 확인해야 하며, 언제 멈춰야 할까?
사업과 조직의 변화 · 위임 가능한 범위, 승인할 행동, 중단 권한과 사고 대응 책임을 나눈다.
살펴볼 변화 · 적절한 신뢰 · 과신과 회피 · 책임의 체감 · 통제감
강의 내용 · 차량 안전의 비유와 실제 에이전트의 불확실성을 구분한다. 사람의 자신감보다 행동의 영향, 검토 가능성, 승인과 중단 조건을 먼저 본다. 운영자가 감독 권한은 갖고 있어도 정보와 시간이 부족하면 실질적 통제가 어려울 수 있음을 살핀다.
두 읽기 비교 질문 · 전통적 자동화의 사용·오용·불사용 틀은 행동형 에이전트에서 어떻게 달라지는가? 코드로 측정한 자율성이 실제 운영 안전과 사람의 신뢰를 보장하는가?
주차별 읽기 자료
Parasuraman & Riley (1997) · 이론·연구 종합 · Human Factors
고전 · Humans and Automation: Use, Misuse, Disuse, Abuse (새 탭에서 열림)1997 학술지 출판본 · MIT 공개 자료 · 스캔 PDF · 원문 사이트에서 열람·저장 가능
대표 저자 · Raja Parasuraman · h-index 95 · Raja Parasuraman 조회 출처 (새 탭)
인간과 자동화의 신뢰·의존을 연구한 인간공학 학자
저자와 연구 맥락 · Raja Parasuraman과 Victor Riley는 인간과 자동화의 관계를 사용자의 판단·의존과 설계의 문제로 다룬다. 이 글은 사용·오용·불사용·남용을 나눠 자동화와 인간의 상호작용을 분석하는 대표적인 인간공학 연구다.[26]
학술적 의의 · 자동화가 있느냐 없느냐보다 어떻게 의존하고 언제 개입하는지가 중요하다는 분석 틀을 제공한다. 무조건 신뢰하거나 무조건 피하는 두 극단 대신, 과업별로 적절한 신뢰와 감독의 조건을 검토할 수 있게 한다.[26]
이 주차의 선정 이유 · 트럭 이용 허가와 사고 책임을 정하는 장면에서 적절한 의존을 설명하려고 읽는다. 신뢰를 무조건 높이기보다 과신과 불사용을 구분하고, 검토할 수 있는 조건을 먼저 찾는 기준을 만든다.
읽기의 한계 · 전통적 자동화 연구의 틀이다. 생성형 AI의 오류와 지속 행동형 에이전트의 감독 조건은 최근 자료와 별도로 비교한다.
Cihon et al. (2025 공개본) · 평가 틀·적용 사례 · SoLaR 2024 워크숍 / arXiv 2025 공개본
최근 · Measuring AI Agent Autonomy: Towards a Scalable Approach with Code Inspection (새 탭에서 열림)원문 새 탭 · Measuring AI Agent Autonomy: Towards a Scalable Approach with Code Inspection (새 탭)PDF 내려받기 · Measuring AI Agent Autonomy: Towards a Scalable Approach with Code Inspection2025 arXiv v1 · SoLaR 2024 워크숍 논문 · 원본 PDF · 변경 없음
Peter Cihon, Merlin Stein, Gagan Bansal, Sam Manning, Kevin Xu · CC BY 4.0 · 원출처 · PDF 변경 없음
대표 저자 · Peter Cihon · h-index 8 · Peter Cihon 조회 출처 (새 탭)
AI 거버넌스·에이전트 자율성 평가 연구자
저자와 연구 맥락 · Peter Cihon, Gagan Bansal 등 공동저자들은 에이전트의 자율성을 잠재적 영향과 감독 조건으로 평가하는 틀을 제안한다. AI의 정책·평가와 인간의 감독을 연결하는 연구로, 강한 모델이라는 표현보다 위임 구조를 구체적으로 살핀다.[32]
학술적 의의 · 모델의 성능과 행동을 맡기는 범위를 구분하고, 에이전트의 조정 코드에서 자율성을 평가하려는 접근이다. 누구에게 어떤 행동을 허용하고 어떤 감독을 남길지 논의할 언어를 제공하지만, 사람의 경험이나 실제 사고 확률을 직접 측정하지는 않는다.[32]
이 주차의 선정 이유 · 에이전트가 미치는 영향과 사람이 감독하는 범위를 나눈 평가 틀로 위임·승인·중단 원칙을 검토한다. 코드 점수가 실제 안전을 보장하지 않음을 확인하면서 책임의 경계를 구체화한다.
읽기의 한계 · 코드 기반 평가 제안이다. 사람의 신뢰나 웰빙을 측정한 심리 실험이 아니며, 코드 점수만으로 실제 운영의 안전을 보장하지 않는다.
남기는 것 · 위임 범위·승인 조건·멈춤 기준·책임자를 포함한 운영 원칙
출처와 서지 확인
h-index는 표시한 대표 저자 1명의 OpenAlex 조회값(2026-10-06)이며 숫자를 누르면 출처를 볼 수 있다. 미확인 값은 생략했다. 저자의 영향력을 참고하는 지표이지 논문의 품질 점수는 아니다.
저자 소개와 학술적 의의는 아래 공개 출처에 근거한다. 주차별 선정 이유는 수업을 위한 해석이며, 고전 이론을 에이전트에 대해 검증된 결론으로 취급하지 않는다. 원문의 판본과 접근·재배포 조건은 각 읽기 자료에 표시했다.
읽기와 토론의 원칙
트럭 그림은 설명용 비유이며 변화의 필연적 순서가 아니다. AI의 오류·불확실성처럼 비유로 설명할 수 없는 부분은 실제 사례와 문헌으로 검토한다. 경험·해석·실증·가치 판단을 구분하고 강사의 전망에도 반론을 제시할 수 있다.
원문을 확인하고 AI를 사용한 범위를 밝힌다. 개인 경험의 공개는 선택이며, 실제 내담자·고객·동료의 민감정보나 비공개 조직 자료를 AI·공유 공간에 입력하지 않는다. 평가와 운영 안내는 전체 강의계획에서 확인한다.