"에이전트가 PR 을 올렸는데, 누가 머지하나?"
AI 에이전트 사내 도입 워크숍에서 가장 자주 받는 질문입니다. "에이전트가 코드를 쓰면, PR 리뷰는 누가 하나? 사고가 나면 누가 책임지나?"
이 질문에 답하지 못한 채 에이전트를 도입한 팀은 3-6개월 안에 도입을 포기 하거나, 에이전트가 만든 문제를 사람이 뒷처리하는 데 더 많은 시간 을 씁니다.
도입 전에 신뢰의 계층 을 설계해야 합니다. 이 글은 그 설계 원칙 5가지를 정리합니다.
원칙 1 — 권한 분리 (Privilege Separation)
원칙: 에이전트의 역할(role) 별로 시스템 접근 권한을 분리한다. 최소 권한 원칙(Least Privilege) 적용.
왜: 하나의 만능 에이전트는 사고 시 영향 범위가 무한대입니다. 역할별로 권한을 쪼개면 사고 영향을 한 영역에 가둘 수 있습니다.
실무 적용:
- 백엔드 에이전트: DB 읽기 + 코드 작성 권한, 프로덕션 배포 권한 X
- 프론트 에이전트: UI 코드 작성 + 디자인 토큰 읽기, 백엔드 코드 권한 X
- 데이터 에이전트: 분석용 read replica 만 접근, 원본 DB write X
도구 단위에서는 MCP 서버별로 권한을 부여합니다.
원칙 2 — 감사 로그 (Audit Logs)
원칙: 모든 에이전트 행동을 기록한다. 누가·언제·왜 결정했는지 추적 가능해야 한다.
왜: "이 코드는 왜 이렇게 짜여 있지?" 라는 질문에 답할 수 없으면, 에이전트 결과물의 신뢰성은 0 에 수렴합니다. 감사 가능성은 신뢰의 전제 조건입니다.
실무 적용:
- 에이전트가 호출한 모든 MCP 도구 기록 (어떤 도구 · 어떤 인자 · 어떤 응답)
- 각 결정(태스크 분해·우선순위 변경)의 근거 프롬프트 보존
- 인간이 개입한 시점·이유 기록
Marblo 의 칸반 보드는 각 카드(태스크) 의 활동 로그를 영구 보존합니다.
원칙 3 — 롤백 경로 (Reversible Paths)
원칙: 모든 에이전트 결정에 대해 되돌릴 수 있는 경로 를 항상 확보한다.
왜: AI 가 100% 정확하다는 가정은 위험합니다. 사람도 실수합니다. 차이는 얼마나 빨리 되돌릴 수 있는가 입니다.
실무 적용:
- 코드 변경 → Git revert 가능한 단위로 커밋
- DB 변경 → 마이그레이션은 항상 down 함수 필수
- 외부 API 호출 (이메일·결제) → dry-run 모드 우선
특히 결제·고객 알림 같은 비가역 작업은 반드시 사람의 승인 게이트를 거치도록 설계합니다.
원칙 4 — 측정 지표 (Measurable KPIs)
원칙: 에이전트 도입의 핵심 지표를 정의하고, 주기적으로 측정한다.
왜: "AI 도입한 것 같은데 효과가 있나?" 는 추측이 아닌 측정의 영역입니다. 지표가 없으면 도입의 정당성도, 개선 방향도 잡을 수 없습니다.
측정 지표 예시:
| 카테고리 | 지표 |
|---|---|
| 비용 | 월 토큰 비용 · 모델별 분담 |
| 정확도 | 자동 머지율 (인간 수정 없는 PR 비율) |
| 시간 | 태스크당 평균 처리 시간 |
| 안정성 | 롤백률 · 인시던트 발생 빈도 |
| 만족도 | 사내 사용자 NPS |
월 1회 거버넌스 리뷰에서 위 지표를 함께 확인합니다.
원칙 5 — 팀원 교육 (Team Training)
원칙: 에이전트는 도구이자 동료 다. 사내 팀원이 에이전트와 협업하는 법을 학습한다.
왜: 가장 좋은 거버넌스 정책도 사람이 쓰지 않으면 의미가 없습니다. 에이전트와 협업하는 새로운 일하는 방식을 팀이 습득해야 합니다.
실무 적용:
- 에이전틱 팀워크 워크숍 — 어떤 작업을 에이전트에 위임할지 / 어떤 작업은 직접 할지 판단력 키우기
- 프롬프트 리뷰 문화 — 동료의 프롬프트를 리뷰하는 정기 모임
- 인시던트 회고 — 에이전트가 실수한 사례를 함께 분석
5원칙을 한 번에 — Marblo + 컨설팅
위 5원칙을 모두 코드로 구현 하는 것은 만만치 않습니다. Marblo 는 다음을 기본 제공 합니다:
- 에이전트 역할별 권한 분리 (원칙 1)
- 모든 행동의 자동 감사 로그 (원칙 2)
- 칸반 카드 단위 롤백 (원칙 3)
- 비용·시간·안정성 대시보드 (원칙 4)
원칙 5(팀원 교육) 는 도구만으로는 부족합니다. 사내 AI 에이전트 도입 컨설팅 에서는 5원칙 전체를 귀사의 환경에 맞게 함께 설계하고, 사내 팀원 교육까지 동반합니다.
마무리
거버넌스는 나중에 추가하는 보조 장치가 아닙니다. 처음부터 함께 설계하지 않으면 도입 후 6개월 안에 사고가 나고, 그때 거버넌스를 만들기 시작하면 늦습니다.
AI 에이전트 시대의 PM·CTO 의 가장 중요한 일은 "무엇을 자동화할 것인가" 가 아니라 "자동화의 신뢰 계층을 어떻게 설계할 것인가" 입니다.