부록 3. 서른 날 판단 훈련
좋은 원칙은 읽는 순간보다 반복해서 사용할 때 힘을 가집니다. 아래 훈련은 AI를 더 많이 쓰기 위한 계획이 아니라, AI와 함께 일하면서도 자신의 판단권을 잃지 않기 위한 서른 날의 기록법입니다. 개인은 하루에 십 분씩 진행할 수 있고, 조직은 주간 회의의 짧은 점검 항목으로 사용할 수 있습니다.
첫째 주: 맡긴 일을 보이게 합니다
첫 주에는 새로운 도구를 찾지 않습니다. 이미 AI에 맡기고 있는 일을 기록합니다. 검색, 요약, 번역, 글쓰기, 일정 조정, 코드 작성처럼 작은 일도 포함합니다.
매번 사용한 뒤 네 문장을 남깁니다.
- 내가 해결하려던 문제는 무엇이었습니까?
- AI가 실제로 대신한 단계는 무엇입니까?
- 내가 다시 확인한 부분은 무엇입니까?
- 확인하지 않고 받아들인 부분은 무엇입니까?
일주일이 지나면 편리함의 지도가 생깁니다. 동시에 검토 없이 통과시키는 구간도 보입니다. 가장 자주 맡긴 일이 가장 중요한 일과 같지는 않습니다. 반복이 많은 일일수록 자동으로 신뢰하게 되므로, 사용 빈도와 위험도를 따로 표시해야 합니다.
둘째 주: 한 번은 반대편에서 검토합니다
둘째 주에는 결과마다 반대 질문을 하나 붙입니다. “이 답이 틀렸다면 무엇이 가장 먼저 달라질까?”, “누가 이 결론에서 불리해질까?”, “다른 자료를 사용하면 결론이 바뀔까?”와 같은 질문입니다.
검토는 모든 문장을 처음부터 다시 쓰는 일이 아닙니다. 결론을 떠받치는 핵심 전제 두세 개를 찾고, 그 전제가 무너지는 조건을 살피는 일입니다. 출처가 있는 답은 원문을 확인하고, 계산이 있는 답은 단위를 확인하며, 사람에 관한 판단은 당사자가 말할 기회를 가졌는지 확인합니다.
이 과정에서 AI를 다시 사용할 수도 있습니다. 다만 첫 번째 답을 만든 대화와 검토 대화를 분리하십시오. 같은 문맥 안에서 “정말 맞습니까?”라고 묻는 것보다 새로운 대화에서 반대 근거를 요청하는 편이 초기 답과 거리를 두는 데 도움이 됩니다.
셋째 주: 멈춤 조건을 정합니다
셋째 주에는 자동화가 아니라 중단을 설계합니다. 다음 상황 가운데 하나가 발생하면 사람이 다시 검토하도록 규칙을 정합니다.
- 출처를 확인할 수 없을 때
- 금액, 건강, 법률, 안전에 영향을 줄 때
- 특정 사람의 기회나 평판을 바꿀 때
- 되돌리기 어려운 외부 전송이나 실행이 포함될 때
- 같은 오류가 두 번 이상 반복될 때
- 사용자가 결과에 이의를 제기했을 때
멈춤 조건은 실패를 인정하는 장치가 아닙니다. 시스템이 감당할 수 있는 범위를 명확히 하는 장치입니다. 무엇이든 처리하는 시스템보다 자신의 경계를 아는 시스템이 더 신뢰할 만합니다.
넷째 주: 책임의 문장을 완성합니다
마지막 주에는 중요한 작업 하나를 골라 다음 문장을 완성합니다.
이 작업의 목표는 ______입니다. AI는 ______ 단계에서 사용합니다. 결과는 ______가 확인합니다. ______ 상황에서는 자동 처리를 멈춥니다. 영향을 받는 사람은 ______ 방식으로 이의를 제기할 수 있습니다. 최종 책임은 ______에게 있습니다.
빈칸을 채우기 어렵다면 기술이 부족해서가 아니라 역할과 권한이 정리되지 않았기 때문일 수 있습니다. 조직에서는 이 문장을 개발자만 작성해서는 안 됩니다. 현장 담당자, 관리자, 보안·법무 담당자, 실제 영향을 받는 사용자가 함께 읽어야 합니다.
서른 날 뒤에 남겨야 할 것
훈련이 끝났을 때 완벽한 규정집을 만들 필요는 없습니다. 대신 세 가지가 남아야 합니다. 자주 맡기는 일의 목록, 반드시 사람이 확인해야 하는 경계, 문제가 생겼을 때 멈추고 되돌아가는 절차입니다.
AI 시대의 자율성은 모든 일을 직접 하는 상태가 아닙니다. 무엇을 맡겼는지 알고, 필요할 때 되찾을 수 있으며, 결과를 다른 사람에게 설명할 수 있는 상태입니다. 서른 날의 기록은 그 자율성을 추상적인 다짐에서 실제 습관으로 옮기는 작은 시작입니다.