AI 에이전트 도입 전에 정해야 할 네 가지 경계

1. 어떤 정보를 읽어도 되는가

에이전트가 사용할 문서와 접근하면 안 되는 정보를 먼저 구분해야 합니다. 개인정보와 비공개 사업 정보는 필요한 범위만 사용하고, 외부 AI 서비스로 보내기 전에 가림 처리와 권한 확인이 필요합니다.

담당자가 결과를 다시 확인할 수 있도록 참고 문서와 처리 기록도 남겨야 합니다. 필요한 자료를 찾지 못했을 때는 임의로 채우지 않고 작업을 멈추게 합니다.

2. 어떤 업무를 자동으로 처리할 것인가

초안 작성, 분류, 형식 변환처럼 담당자가 되돌리기 쉬운 일은 자동화하기 좋습니다. 같은 작업을 여러 번 실행해도 중복 결과가 생기지 않도록 처리 기준도 함께 정해야 합니다.

3. 어떤 행동에 사람의 승인이 필요한가

외부 발송, 공개 게시, 계약, 결제와 데이터 삭제처럼 상대방이나 회사 기록에 영향을 주는 행동은 담당자의 승인을 거쳐야 합니다. 승인 화면에는 에이전트가 무엇을 하려는지와 판단에 사용한 자료가 함께 보여야 합니다.

4. 문제가 생기면 누구에게 넘길 것인가

자료 부족, 품질 기준 미달, 권한 부족과 예상하지 못한 입력이 발생하면 담당자에게 현재 상태와 필요한 결정을 전달해야 합니다. 조용히 실패하거나 임의로 내용을 보완하면 문제를 늦게 발견하게 됩니다.

처음에는 자동 처리, 사람 확인, 예외 대응의 세 단계를 유지하고, 반복 기록을 확인한 업무만 사람의 확인 단계를 줄이는 것이 안전합니다.

업무 하나에서 시작하세요

첫 도입은 조직 전체가 아니라 담당자와 완료 조건이 분명한 업무 하나로 시작하는 것이 좋습니다. 프로토타입에서 정상 처리뿐 아니라 중단과 승인 상황을 함께 확인하면 필요한 자동화 수준을 판단할 수 있습니다.