[기획] AI 토큰 비용, 인건비를 넘어서고 있다

"AI 컴퓨팅 비용이 직원 인건비를 훨씬 초과한다" 엔비디아 브라이언 응용 딥러닝 부사장 ©Getty Images for HumanX Conference

최근 X(트위터)에 긴 글 하나가 퍼졌다. 개인의 주장이었지만, 다양한 글로벌 IT 매체들이 다룰 정도로 테크 업계가 주목했다. 내용은 이렇다.

"AI가 사람보다 비싸졌다."

마이크로소프트가 자사 엔지니어 수만 명에게 AI 코딩 도구 사용을 금지했다. 우버는 연간 AI 예산을 4개월 만에 다 써버렸다. 엔비디아 부사장은 공개 인터뷰에서 AI 컴퓨팅 비용이 직원 인건비를 훨씬 초과한다고 말했다.

골드만삭스는 2030년까지 AI 토큰 소비량이 24배 늘어날 것으로 내다봤다. 가트너는 토큰 단가가 90% 떨어지더라도 기업의 AI 총비용은 오히려 증가할 것이라고 경고했다. AI가 단순 질답을 넘어 스스로 작업을 수행하는 '에이전트' 방식으로 진화할수록, 작업 하나에 소비하는 토큰이 기하급수적으로 늘기 때문이다.

지난 2년간 모든 CEO가 똑같은 말을 했다. AI가 생산성을 높이고 비용을 줄여줄 것이라고. 하지만 실제로 AI를 대규모로 써본 기업들은 지금 다른 현실을 마주하고 있다. 쓰면 쓸수록 AI 비용이 불어난다. 그런데도 주식시장은 여전히 'AI가 효율적'이라며 기업들을 평가하고 있다.

이 글은 댓글 1,800개, 리트윗 1만 회, 좋아요 2만 2,000개를 기록했다. 반응은 크게 둘로 갈렸다. "AI 거품이 꺼지고 있다"는 공감의 목소리가 쏟아진 한편, "비용이 늘었다는 것과 손해라는 건 다른 얘기"라며 논리적 비약을 지적하는 반론도 있었다.

기업의 AI 비용은 정말로 늘었을까?

"AI 기술을 쓰는 게 인간을 고용하는 것보다 비싸다" 사티아 나델라 MS CEO ©picture alliance via Getty Images

이 글이 IT 업계 사람들에게 순식간에 퍼진 데는 그만한 이유가 있다. 마이크로소프트나 우버, 엔비디아 같은 내로라하는 기업들의 실제 이야기들을 꺼내 든 데다, 요즘 AI를 일터에 들여온 사람들이 생각하는 고민을 시원하게 긁어줬기 때문이다. "일 잘하려고 AI를 썼더니, 오히려 돈이 더 많이 든다"는 불안감은 이미 많은 이들이 느끼고 있는 현실이다.

열심히 쓸수록 지갑이 가벼워지는 이유는 무엇일까. 바로 AI 서비스가 가진 과금 방식 때문이다.

사람들은 AI 역시 넷플릭스나 오피스 프로그램처럼 '인당 얼마'씩 내는 고정 구독제일 것으로 생각하고 접근한다. 우리가 일상에서 쓰는 '챗GPT 플러스' 나 '클로드 프로' 같은 유료 서비스가 실제로 매달 고정된 금액만 내면 무제한으로 쓸 수 있는 정액제 형태이기 때문이다.

하지만 기업들이 자사 시스템에 AI를 연동하거나 대규모 직원을 투입해 본격적으로 활용할 때 쓰는 '기업용 API'의 세계는 완전히 딴판이다. 이때부터 AI는 헬스장 월정액이 아니라 탈 때마다 미터기가 올라가는 콜택시로 변한다. 기술적으로는 이를 '토큰 기반 과금'이라고 부른다. AI와 주고받는 데이터와 텍스트를 잘게 쪼갠 단위를 토큰이라 하고, 이 토큰을 소비한 만큼 비용이 실시간으로 청구되는 방식이다. 코드 한 줄을 검토하거나 버그를 찾아달라고 요청할 때마다 데이터 요금이 미터기처럼 꼬박꼬박 누적된다.

여기서 역설이 생긴다. 도구가 좋을수록, 직원들이 신나서 많이 쓸수록 비용은 가파르게 오른다.

12분의 1로 떨어진 AI 토큰 가격, 그러나 폭발하는 총비용

"시간이 흘러 AI 토큰의 단가가 싸지면 이 비용 문제도 저절로 해결되지 않을까?" 답은 아니다. 실제 시장의 흐름은 정반대로 움직이고 있다. AI의 원재료 격인 토큰 단가 자체는 출시부터 지금까지 계속 가파르게 내려왔다. 'GPT-4'가 처음 출시된 2023년 3월만 해도 토큰 100만개당 가격은 입력 기준 30달러(약 4만5,000원)에 달했다. 하지만 현재 같은 성능대의 최신 모델은 2.50달러(약 3,750원) 수준에 불과하다. 불과 3년 만에 AI를 쓰는 원가가 12분의 1로 뚝 떨어졌다.

원가가 내려가자 기업들은 지출을 늘렸다. 가격이 싸지니 기업들이 AI를 더 많은 업무에, 훨씬 더 자주 쓰려고 했다. 아무리 개당 단가가 반값으로 내려가도, 신나서 대량으로 쓰면 전체 총비용은 결국 오를 수밖에 없다.

여기에 스스로 판단하고 움직이는 'AI 에이전트'의 등장이 기름을 부었다.

명령 하나에 수백 가지 일을 하는 'AI 에이전트'

©Grok

AI 에이전트는 사용자의 질문에 단순히 답만 하던 기존 AI와 달리, 스스로 판단하고 복잡한 단계를 거쳐 목표를 완수하는 자율형 AI 시스템을 말한다.

일반적인 AI 사용은 단순하다. "이 문장 다듬어줘"라고 입력하면 텍스트를 한 번 주고받는 것으로 끝이고 비용도 미미하다.

반면 AI 에이전트는 다르게 작동한다. "우리 서비스의 결제 오류를 고쳐줘"라는 지시를 받으면, 에이전트는 코드 파일 전체를 읽고, 로그를 분석하고, 코드를 고치고, 테스트를 돌리는 전 과정을 혼자 힘으로 수행한다. 문제가 해결될 때까지 이 과정을 무한 반복한다.

이 과정에서 무시무시한 토큰 소비가 일어난다. 에이전트는 다음 행동을 결정할 때마다 지금까지 진행된 모든 작업 내역과 소스코드를 통째로 다시 집어넣고 학습해야 하기 때문이다. 사용자는 단 한 줄의 명령어를 입력했을 뿐인데, 백엔드에서는 AI가 수십 번씩 컴퓨터와 대화하며 방대한 데이터를 읽어 대느라 토큰 청구서가 기하급수적으로 늘어나게 된다.

앤트로픽(Anthropic)이 공개한 기업 배포 데이터에 따르면, 클로드 코드(Claude Code)를 사용하는 엔지니어의 평균 비용은 활성 사용일 기준 하루 13달러(약 1만 9,500원), 월 150~250달러(약 22만 5,000~37만 5,000원) 수준이다. 이것이 평균이다. 에이전트를 적극적으로 활용하는 개발자 한 명이 8개월간 클로드 코드를 매일 사용한 결과 소비한 토큰은 최대 100억 개에 달했다. API 가격으로 환산하면 1만 5,000달러(약 2,250만 원)가 넘는 규모다.

게다가 기업들은 이러한 비용 폭발을 제대로 파악하지 못하고, 'AI를 많이 쓰는 것이 혁신이자 능력'이라며 부추겨 왔다.

대표적인 기업이 메타(Meta)다. 메타는 사내 8만5,000명 이상의 직원을 대상으로 누가 AI를 가장 많이 쓰는지 실시간으로 등수를 매기는 '클로드노믹스(Claudeonomics)'라는 내부 대시보드를 운영했다. AI 사용량 자체가 직원의 성과를 평가하는 지표처럼 관리되기 시작한 것이다. 그 결과는 눈에 보듯 뻔했다. 회사에서 사용을 독려하고 경쟁을 붙이자 직원들은 토큰을 더 무섭게 소비했고, 이는 고스란히 기업의 감당할 수 없는 비용 청구서로 돌아왔다.

AI를 비용만큼 제대로 활용한 곳은 10곳 중 단 3곳

"AI 투자 비용에 대한 회수 이익의 격차가 점점 커지고 있다"는 통계 ©mavvrik, Lindsey Tishgart

이처럼 걷잡을 수 없이 불어난 비용은 과연 제 값을 하고 있을까. 매달 날아오는 청구서의 숫자는 명확하지만, 그 돈이 실제로 기업에 그만큼의 이익을 돌려주었는지는 전혀 다른 문제다. 기술 혁신이라는 화려한 수식어 뒤에 숨은 'AI 투자 대비 효과(ROI)'의 성적표는 생각보다 훨씬 냉혹하다.

2025년부터 2026년까지 주요 글로벌 조사 기관들이 발표한 자료에 따르면 이러한 현상이 수치로 증명된다. 랜드 연구소(RAND Corporation)의 보고서 분석 결과, 전체 기업 AI 프로젝트의 80.3%가 당초 계획했던 비즈니스 가치를 실현하지 못한 것으로 나타났다. 매사추세츠 공과대학교(MIT)가 300개 이상의 실제 배포 사례를 분석한 결과에서도, AI 파일럿 프로그램 중 의미 있는 성과를 거둔 곳은 5% 수준이었다. 가트너(Gartner)가 글로벌 IT 인프라 책임자 782명을 대상으로 실시한 조사에 따르면, AI 프로젝트 중 ROI 목표를 달성한 비율은 28%였으며, 20%는 프로젝트를 중단한 것으로 확인됐다.

이러한 프로젝트 결과는 기업 경영진들의 평가에도 반영되고 있다. 글로벌 컨설팅 그룹 맥킨지(McKinsey)의 조사 결과, 88%의 기업이 AI를 도입했으나 기업 전체 수익에 실질적인 영향을 미쳤다고 답한 비율은 39%였다. 미국 경제 전문지 포춘(Fortune)이 2026년 2월 글로벌 기업의 최고경영진(C-Level) 6,000명을 대상으로 진행한 설문에서도 응답자의 90%가 "지난 3년간 자사에서 AI가 생산성을 높였거나 고용 구조를 변경했다는 명확한 증거를 찾지 못했다"라고 답했다.

거시 경제 관점의 분석도 일치하는 흐름을 보인다. 투자은행 골드만삭스(Goldman Sachs)는 "현재 경제 전반의 AI 도입률과 생산성 사이에 통계적으로 의미 있는 상관관계는 확인되지 않는다"라는 분석을 내놨다. 다만 고객 서비스와 소프트웨어 개발 등 일부 직군에 한해 약 30% 수준의 생산성 향상이 확인된 상태다. 아폴로(Apollo)의 수석 이코노미스트 토르스텐 슬록(Torsten Slok)은 투자 규모 대비 지표 반영의 시차를 두고 "AI는 지금 어디에나 있다. 그런데 경제 지표에는 없다"라고 분석했다.

비용 문제뿐만 아니라 인력 운용 측면의 변화도 관측된다. UC버클리(UC Berkeley) 연구팀이 2026년 발표한 연구에 따르면, AI 도입 이후 직원의 67%가 이전보다 업무 시간이 늘어난 것으로 조사됐다. 업무 처리 속도가 빨라짐에 따라 할당되는 업무의 총량이 함께 증가하는 구조적 요인 때문이다. 하버드 비즈니스 리뷰(Harvard Business Review)의 2026년 연구에서도 AI를 집중적으로 사용하는 직원의 88%가 업무 피로도 증가를 경험했다고 답했다. AI를 통해 확보된 시간이 추가 업무로 대체되는 현상이 나타나고 있는 것이다.

이러한 결과는 산출물의 품질 데이터에서도 확인된다. 개발 분석 플랫폼 깃클리어(GitClear)가 2억1,100만 줄의 소스코드를 5년간 추적한 보고서에 따르면, AI 도입 이후 코드의 재수정 비율이 증가했다. 작성 후 2주 이내에 오류가 발생해 다시 수정해야 하는 코드의 비율이 2020년 5.5%에서 2024년 7.9%로 상승했기 때문이다. 같은 기간 단순 중복된 코드 블록의 양도 8배 증가한 것으로 집계됐다.

지금까지 수많은 통계 지표와 수치들이 가리키는 방향은 결국 하나다. 막대한 돈을 들여 AI에 투자한 기업 중 실질적인 이득을 챙긴 곳은 많아야 세 곳 중 하나(약 30%) 수준이다. 나머지 둘은 여전히 값비싼 청구서만 받아 든 채 답을 찾고 있다.

기름값 비싸다고 자동차 안 탈 수는 없다

"AI 값이 사람 월급보다 비싸졌다"는 말은, AI를 엄청나게 많이 쓰는 몇몇 팀이나 최신 AI 시스템을 통째로 들여온 곳에서는 실제로 일어나는 일이다. 엔비디아 부사장이 직접 한 말이나 우버 개발자들의 청구서가 이를 보여준다.

하지만 AI를 쓰는 비용이 사람 인건비보다 많이 나온다고 해서 무조건 실패라고 볼 수는 없다. 내는 돈보다 AI가 더 많은 가치를 만들어내면 결과적으로 이득이기 때문이다. 과거 자동차가 처음 나왔을 때 기름값과 유지비는 마차를 끄는 말을 키우는 비용보다 훨씬 많이 들었다. 그럼에도 사람들이 결국 자동차를 선택한 이유는 마차보다 훨씬 빠르고 멀리, 더 많은 짐을 실어 나를 수 있었기 때문이다.

결국 지금의 논쟁은 산업이 통째로 바뀌는 와중에 변화의 속도가 너무 빨라 생기는 과도기적 진통에 가깝다. 지금 AI 비용이 폭발하는 진짜 원인은 기술 자체의 결함이 아니다. 미터기처럼 실시간으로 올라가는 요금 구조 안에서 AI를 낭비 없이 알뜰하게 쓰는 법을 기업들이 아직은 잘 모른다.

지금 기업들에게 필요한 것은 AI를 쓰느냐 마느냐의 이분법적 선택이 아니다. 새는 요금을 꼼꼼히 통제하면서, 우리 회사 어떤 업무에 AI를 투입해야 돈값을 톡톡히 할 수 있을지 제대로 '운전하는 법'을 배우는 것이다. 결국 "돈은 엄청 쓰는데, 어떻게 해야 본전을 뽑고 제대로 굴릴 수 있을까?"라는 요즘 AI 업계의 큰 고민이, 이번 'AI와 인건비'라는 비교 논쟁을 통해 수면 위로 드러난 셈이다.