AI 비용 거버넌스

담당 역할: FinOps 실무자, AI 플랫폼 담당, CTO실

Part 5에서 다룬 FinOps 원칙은 AI 토큰 지출에도 그대로 적용된다. 다만 AI 비용에는 클라우드 인프라 비용과 다른 특징이 있다. 사용량이 개인의 프롬프트 습관에 따라 크게 요동치고, 팀별 예측이 인프라 비용보다 어렵다. FinOps Foundation은 2026년 프레임워크 개정에서 “FinOps for AI”를 별도 Technology Category로 신설해 이 특징을 공식적으로 인정했다 — AI 투자는 비용 복잡성·지출 예측 불가능성·고유한 거버넌스 필요를 동반한다고 명시한다.

• 종량제와 정액제의 트레이드오프: 종량제(Enterprise 플랜 등)는 실사용량에 비례해 과금되어 유연하지만 예측이 어렵다. 정액제(Team 플랜 등)는 예측 가능하지만 헤비유저를 흡수하는 안전판으로 쓰일 경우 통제 기능이 약할 수 있다.

• 거버넌스 비대칭: 정액 플랜에 감사 로그·분석 API가 없는 경우, 헤비유저일수록 오히려 통제가 약한 플랜에 놓이는 역설이 생긴다. 하이브리드 운용을 택할 때는 이 비대칭을 별도로 보완해야 한다.

• AI 코딩 에이전트 사용량 관측: CloudWatch, OTLP 같은 텔레메트리로 실제 API 호출·토큰 소비를 관측하는 접근은, 플랜 자체의 리포팅 기능이 부족할 때 이를 보완하는 상보적 수단이다.

FinOps Foundation의 Technology Category 구조는 각 카테고리마다 FinOps Considerations, Personas, Framework Domains and Capabilities, Measures of Success and KPIs, FOCUS Alignment라는 동일한 다섯 절로 문서화된다. “FinOps for AI”도 이 구조를 따르며, Part 5.2의 Inform-Optimize-Operate 3단계 순환을 AI 토큰 지출에 그대로 적용하도록 안내한다 — Inform은 토큰 사용량 가시화, Optimize는 프롬프트·모델 선택 최적화, Operate는 플랜 재배치·상한 조정이다.

1. 1단계 — 기본 플랜과 개인 상한 설정 — 종량제(Enterprise) 플랜에 개인별 월간 이용 상한을 걸고, 예산·사용량을 상시 모니터링하라.

2. 2단계 — 상한 도달자 대응 — 상한에 도달하는 사용자가 속출하면, 일시적으로 상한을 완화하되 동시에 토큰 절약 노하우 스터디를 열어 수요 측을 교육하라.

3. 3단계 — 구조적 헤비유저 이전 — 일시적 완화로 해결되지 않는 구조적 헤비유저는 CTO실이 관리하는 정액 플랜으로 옮겨 비용을 예측 가능하게 만들어라.

4. 4단계 — 정액 플랜의 통제 공백 보완 — 정액 플랜에 감사 로그·분석 API가 없다면, 취급 가능 정보를 구분하고 접속 가능 툴을 제한해 통제 공백을 메워라.

5. 5단계 — 텔레메트리로 보완 — 플랜 자체 리포팅이 부족한 구간은 사용량 관측 텔레메트리로 채워라.

Enterprise 종량 + Team 정액 하이브리드 — 한 조직의 Claude Enterprise 운용에서 정식화된 패턴이다. 기본은 종량제에 개인 상한을 건 상시 모니터링 체제다. 상한 도달자가 속출하면 일시적 완화와 절약 교육을 함께 시행한다. 그래도 해결되지 않는 구조적 헤비유저는 CTO실 관리 정액 플랜으로 옮겨 비용을 예측 가능하게 만든다. 다만 정액 플랜은 종량제와 달리 감사 로그·분석 API가 없어, 헤비유저일수록 오히려 통제가 약한 플랜에 남는 역설이 생긴다. 이 조직은 정액 이용자에게 취급 가능 정보 구분과 접속 가능 툴 제한을 부과해 이 공백을 보완했다. 정액 플랜이 항구적이지 않을 가능성이 높다는 점에서, 정액 하에서도 토큰 관리의 의의를 유지시키는 동기 설계는 여전히 풀리지 않은 과제로 남아 있다.

• AI 토큰 사용량에 개인별 상한과 상시 모니터링이 설정되어 있는가?

• 상한 도달자를 위한 완화·교육 프로세스가 있는가?

• 구조적 헤비유저를 정액 플랜으로 옮기는 기준과 절차가 있는가?

• 정액 플랜의 감사 로그 공백을 보완하는 별도 통제(정보 구분, 툴 제한 등)가 있는가?

• AI 토큰 비용이 Part 5의 클라우드 FinOps 대시보드와 통합되어 있는가, 별도로 방치되어 있지 않은가?

• AI 비용을 클라우드 인프라 비용과 별개로 관리한다: 전사 비용 가시화가 쪼개지고, 경영진 보고에서 AI 지출이 누락되기 쉽다.

• 정액 플랜을 통제 강화 수단으로 착각한다: 감사 기능이 없는 정액 플랜은 오히려 헤비유저에 대한 가시성을 잃게 만들 수 있다.

• 상한 도달을 처벌로만 다룬다: 일시적 완화와 절약 교육을 병행하지 않으면 사용자는 개인 계정 같은 우회 경로를 찾는다.

• 플랜 전환 기준을 정성적으로만 둔다: “헤비유저 같다”는 인상만으로 플랜을 옮기면 형평성 시비가 생긴다. 사용량 데이터 기준을 명문화하라.