기업들은 더 큰 모델과 더 많은 토큰, 더 복잡한 에이전트를 경쟁적으로 도입했다. 그러나 AI에 일을 많이 시킨다고 성과까지 같은 비율로 증가하지는 않았다. AI 경쟁의 진짜 기준은 연산량이 아니라 필요한 업무에 필요한 만큼의 지능을 배치하는 능력으로 옮겨가고 있었다.

***

회의가 시작되자 담당자가 새로 구축한 AI 시스템을 소개했다. 시장조사 에이전트가 자료를 수집하면 분석 에이전트가 의미를 해석하고, 비판 에이전트가 허점을 찾아냈다. 또 다른 에이전트는 보고서를 작성했고 마지막 에이전트는 문장을 다듬었다. 한 사람이 질문을 입력하면 여러 AI가 서로 의견을 주고받으며 그럴듯한 결과물을 완성하는 구조였다. 설명만 들으면 사람으로 구성된 전문 프로젝트팀이 디지털 공간에 들어간 것처럼 보였다.

문제는 그다음이었다. 같은 질문이 여러 모델을 오가며 반복 처리됐고, 에이전트들은 서로의 답변을 다시 읽고 평가하느라 막대한 토큰을 소비했다. 처리 시간은 예상보다 길어졌으며 결과물을 검토하는 사람의 일도 줄어들지 않았다. 화려한 시스템을 구축했지만 단순한 시장 동향 보고서 한 편을 만드는 데 사용된 비용은 기존 방식보다 몇 배나 커질 수 있었다. 정작 최종 보고서는 숙련된 직원이 범용 생성형 AI에 정확한 질문을 던져 만든 결과와 크게 다르지 않았다.

2026년 5월, 학술지 Nature Machine Intelligence는 이러한 현상을 ‘토큰맥싱(tokenmaxxing)’이라는 말로 압축했다. ‘최대한으로 키운다’는 의미를 가진 인터넷식 표현에 토큰을 결합한 말이었다. AI가 텍스트를 이해하고 답변을 생성할 때 처리하는 기본 단위인 토큰을 더 많이 투입하면 더 좋은 결과가 나올 것이라는 믿음을 꼬집은 표현이기도 했다.

사설은 기업과 기술 인력, 연구자들이 에이전틱 AI를 업무에 끼워 넣기 위해 일종의 열풍에 빠졌다고 지적했다. 뒤처지지 않으려는 불안이 경쟁을 만들었고, 경쟁은 더 많은 모델과 에이전트, 연산 자원을 투입하는 방향으로 흘렀다. AI가 해결해야 할 문제가 무엇인지 묻기 전에 “우리도 에이전트를 도입했는가”부터 확인하는 분위기가 형성된 것이다.

토큰맥싱은 단순히 긴 질문을 입력하거나 긴 답변을 받는 행위를 뜻하지 않았다. 필요한 수준을 넘어선 모델 호출, 과도한 추론 단계, 목적이 불분명한 다중 에이전트 구성, 효과가 입증되지 않은 자동화까지 아우르는 개념이었다. 이는 AI 시대의 새로운 과시 소비와 닮아 있었다. 과거에는 더 많은 서버와 더 큰 데이터센터가 기술력을 보여주는 상징이었다면, 이제는 더 많은 토큰과 더 복잡한 에이전트가 혁신의 증거처럼 취급됐다.

그러나 자동차의 엔진이 크다고 모든 길에서 빠른 것은 아니다. 좁은 골목을 오가거나 가까운 거리를 이동하는 데 경주용 엔진은 오히려 불편하고 비효율적이다. AI도 마찬가지였다. 가장 강력한 모델을 모든 업무에 투입하는 것이 기술적으로 인상적일 수는 있지만, 경영적으로 현명한 선택이라는 보장은 없었다.

생성형 AI의 초기에는 모델의 크기가 중요한 경쟁력이었다. 더 많은 데이터를 학습하고 더 많은 매개변수를 가진 모델은 대체로 복잡한 언어를 잘 이해했고, 다양한 질문에 유연하게 대응했다. 이후에는 모델이 답을 내놓기 전에 여러 단계로 추론하도록 만드는 방식이 주목받았다. 한 번에 대답하게 하는 대신 문제를 나누고, 중간 결과를 점검하고, 다른 가능성을 검토하게 하면 어려운 수학이나 코딩, 과학 문제에서 성능을 높일 수 있었다.

에이전틱 AI는 여기에서 한 단계 더 나아갔다. 하나의 모델이 질문에 대답하는 데 그치지 않고 목표를 세우고, 필요한 도구를 선택하고, 자료를 검색하고, 작업 결과를 평가한 뒤 다음 행동을 결정하도록 설계됐다. 여러 에이전트가 역할을 나눠 협력하게 할 수도 있었다. 계획자, 조사자, 작성자, 검토자가 각자 움직이는 방식이었다. 복잡하고 개방적인 과제를 수행할 때 이러한 구조는 분명한 가능성을 보여줬다.

하지만 모든 질문에 깊은 추론이 필요한 것은 아니었다. 고객이 배송 현황을 물었는데 AI가 여러 가능성을 검토하고 장문의 추론을 거칠 필요는 없었다. 사내 문서의 형식을 바꾸거나 회의 시간을 찾아주는 일에도 다섯 개의 에이전트가 토론할 이유는 없었다. 정답이 명확하고 절차가 반복되는 업무에서는 단순한 규칙 기반 프로그램이나 작은 AI 모델이 더 빠르고 안정적일 수 있었다.

더 많은 추론이 정확성을 자동으로 보장하지 않는다는 점도 중요했다. AI가 첫 단계에서 잘못된 가정을 세우면 이후의 긴 추론은 그 오류를 정교하게 포장할 수 있었다. 여러 에이전트가 참여하더라도 모두 비슷한 데이터와 모델에 의존한다면 같은 오류를 반복할 가능성이 컸다. 한 에이전트가 만든 잘못된 정보를 다른 에이전트가 사실로 받아들이고, 세 번째 에이전트가 그 위에 새로운 분석을 쌓는 연쇄 오류도 발생할 수 있었다.

사람이 많은 회의가 항상 좋은 결정을 만드는 것은 아닌 것과 비슷했다. 참석자가 늘어나면 다양한 관점을 얻을 수 있지만, 책임이 분산되고 논의가 길어지며 핵심이 흐려질 수도 있다. AI 에이전트 역시 수가 많다는 이유만으로 집단지성을 형성하지는 않았다. 역할이 겹치거나 평가 기준이 불분명하면 서로의 말을 되풀이하면서 비용만 증가시켰다.

AI가 오래 생각하는 모습은 사용자에게 신뢰감을 주기도 했다. 복잡한 과정과 긴 설명은 충분히 검토된 답변처럼 보였다. 그러나 추론의 길이와 사실의 정확성은 다른 문제였다. 틀린 결론도 매우 논리적인 문장으로 제시될 수 있었다. AI의 품질을 토큰 수나 작업 단계로 판단하는 순간, 기업은 성과가 아니라 ‘생각하는 것처럼 보이는 모습’에 비용을 지불하게 됐다.

직원이 생성형 AI 창에 질문 하나를 입력하는 순간에는 비용이 거의 느껴지지 않았다. 몇 초 뒤 답변이 나타났고, 손에 잡히는 원재료도 필요하지 않았다. 이러한 경험은 AI를 무한히 사용할 수 있는 자원처럼 보이게 했다. 하지만 화면 뒤에서는 데이터센터의 연산 장치가 움직였고, 모델이 읽고 생성한 토큰마다 비용이 발생했다.

기업용 AI에서는 작은 비용도 사용 규모에 따라 빠르게 커졌다. 직원 한 명이 하루에 몇 차례 사용하는 수준에서는 부담이 작았지만, 수천 명의 직원과 수백만 명의 고객을 상대하는 시스템에서는 사정이 달라졌다. 하나의 요청을 여러 에이전트가 처리하고, 각각이 긴 문서를 읽고, 결과를 반복 검토하게 하면 단순한 질문 하나도 수많은 모델 호출로 확대될 수 있었다.

여기에 숨어 있는 비용은 사용료만이 아니었다. 응답이 늦어지는 지연 비용, 시스템을 감시하고 수정하는 운영 비용, 잘못된 결과를 검증하는 인건비, 민감한 정보가 여러 도구를 오가면서 발생하는 보안 비용이 뒤따랐다. AI가 외부 검색, 사내 데이터베이스, 이메일, 결제 시스템과 연결될수록 관리해야 할 접점도 늘어났다. 자동화 단계가 하나 추가될 때마다 편리함과 함께 새로운 실패 지점이 생겼다.

고객 서비스 현장을 떠올려보면 문제가 더 선명해졌다. 단순한 영업시간 문의에 고성능 추론 모델을 사용하면 답변의 가치는 거의 달라지지 않지만 비용과 대기시간은 증가했다. 반대로 계약 해지나 보험금 지급처럼 고객의 권리와 금전이 걸린 문제를 지나치게 가벼운 모델에 맡기면 오류 위험이 커졌다. 중요한 것은 가장 비싼 AI를 사용하는 것도, 가장 싼 AI를 사용하는 것도 아니었다. 질문의 난이도와 위험에 맞는 시스템을 선택하는 일이었다.

에너지 문제도 외면할 수 없었다. AI가 더 많은 토큰을 처리하고 더 긴 추론을 수행할수록 더 많은 연산이 필요했다. 개별 질문 하나의 소비량은 작아 보여도 전 세계 기업과 사용자가 같은 방식으로 AI를 반복 호출하면 총량은 달라졌다. 데이터센터를 확충하고 전력을 확보하며 냉각 시설을 운영하는 문제는 AI 산업의 물리적 한계와 연결됐다.

따라서 토큰은 기술적인 단위인 동시에 경영 자원이 됐다. 기업이 클라우드 사용량과 광고비, 물류비를 관리하듯 AI가 소비하는 토큰과 연산량도 관리해야 했다. 아무 제한 없이 사용량을 늘린 뒤 월말 청구서를 확인하는 방식으로는 지속 가능한 운영이 어려웠다. 어떤 업무에서 토큰이 얼마나 사용됐고, 그 결과 어떤 가치가 만들어졌는지 추적할 필요가 있었다.

질문은 단순했다. 더 많은 토큰을 사용한 만큼 고객 만족도가 높아졌는가. 직원의 업무시간이 줄었는가. 매출이나 생산성이 증가했는가. 오류와 재작업이 감소했는가. 이러한 질문에 답할 수 없다면 AI 사용량 증가는 혁신의 증거가 아니라 관리되지 않은 비용일 가능성이 컸다.

망치를 새로 산 사람에게 모든 문제가 못처럼 보인다는 말이 있다. 에이전틱 AI가 주목받자 기업 안에서도 비슷한 일이 벌어졌다. 문서 요약, 일정 관리, 고객 상담, 시장조사, 인사 평가, 구매 승인까지 거의 모든 업무가 에이전트의 후보로 분류됐다. 기존 시스템으로 충분히 처리하던 절차까지 AI로 다시 만들려는 움직임도 나타났다.

그러나 업무에는 서로 다른 종류의 지능이 필요했다. 정해진 양식에 데이터를 옮기거나 조건에 따라 알림을 보내는 일은 전통적인 자동화가 더 적합했다. 문서를 분류하고 핵심 내용을 추출하는 작업에는 작은 언어모델로도 충분할 수 있었다. 여러 자료 사이의 모순을 찾고 불확실한 상황에서 대안을 비교해야 하는 업무에 이르러서야 고성능 추론 모델이나 복수의 에이전트가 제 역할을 할 수 있었다.

이를 구분하지 않으면 고급 인력을 단순 업무에 배치하는 것과 같은 낭비가 발생했다. 최고 수준의 법률 전문가를 불러 서류의 페이지 번호를 매기게 하거나, 전략 컨설턴트에게 매일 반복되는 숫자 입력을 맡기는 것과 다르지 않았다. 강력한 AI는 필요한 곳에 집중될 때 가치가 커졌다.

현명한 배치의 출발점은 기술이 아니라 업무였다. 먼저 어떤 문제가 반복되고 있는지, 현재 방식에서 시간과 비용이 어디에서 발생하는지, 오류가 생겼을 때 피해가 얼마나 큰지 살펴봐야 했다. 그다음에 규칙 기반 자동화, 검색 시스템, 작은 AI 모델, 범용 생성형 AI, 고성능 추론 모델, 다중 에이전트 가운데 적절한 수단을 선택할 수 있었다.

예를 들어 회사 규정에서 휴가 일수를 찾아 알려주는 업무는 문서 검색과 간단한 답변 생성만으로 충분했다. 반면 여러 국가의 규제 변화를 비교하고 신제품 출시 위험을 검토하는 작업은 검색, 분석, 반론, 종합 역할을 나눈 에이전트 구조가 유용할 수 있었다. 전자는 속도와 비용이 중요했고, 후자는 분석의 폭과 검증 가능성이 중요했다. 두 업무에 같은 AI 구조를 적용하는 것은 효율적이지 않았다.

위험 수준에 따른 구분도 필요했다. 광고 문구의 초안을 만드는 AI가 다소 어색한 표현을 내놓으면 사람이 고치면 됐다. 하지만 채용, 대출, 의료, 보험, 안전관리처럼 사람의 삶과 권리에 영향을 주는 업무에서는 작은 오류도 큰 피해를 만들 수 있었다. 이런 분야에서는 모델의 성능만이 아니라 데이터의 품질, 판단 근거의 기록, 인간 검토, 이의 제기 절차까지 설계돼야 했다.

에이전트에게 주어진 권한 역시 세밀하게 조정해야 했다. 자료를 찾아 초안을 작성하는 권한과 실제 계약을 체결하거나 돈을 송금하는 권한은 전혀 다른 문제였다. AI가 행동할 수 있는 범위가 넓어질수록 편리함은 커지지만 사고의 영향도 확대됐다. 따라서 처음부터 모든 권한을 부여하기보다 관찰, 추천, 제한된 실행, 조건부 자율 실행의 순서로 넓혀가는 접근이 안전했다.

AI 도입은 한 번의 구매로 끝나는 일이 아니었다. 신입 직원을 채용하듯 역할과 책임을 정하고, 성과를 평가하고, 실수를 점검하며, 맡길 수 있는 일의 범위를 조정해야 했다. 다만 AI는 사람이 아니므로 열심히 일하는 모습이나 자신감 있는 말투가 아니라 측정 가능한 결과로 평가해야 했다.

많은 기업은 AI 도입 성과를 사용량으로 측정하려는 유혹에 빠졌다. 가입한 직원 수, 생성된 계정 수, 입력된 프롬프트 수, 소비된 토큰 수가 대시보드에 올라갔다. 숫자가 빠르게 증가하면 조직이 AI 전환에 성공하는 듯 보였다. 그러나 사용량은 활동을 보여줄 뿐 성과를 증명하지 못했다.

회사에서 회의가 두 배로 늘었다고 생산성이 두 배로 높아졌다고 말할 수 없는 것과 같았다. 이메일을 많이 보냈다고 협업이 좋아졌다고 판단할 수도 없었다. AI 역시 많이 사용했다는 사실만으로 유용했다고 평가하기 어려웠다. 더 많은 토큰을 소비하면서도 직원이 결과를 다시 확인하고 수정하느라 이전보다 많은 시간을 쓸 수 있었다.

성과 측정은 업무 단위에서 시작돼야 했다. AI 도입 전과 비교해 처리 시간이 얼마나 줄었는지, 한 사람이 처리할 수 있는 업무량이 얼마나 늘었는지, 오류율과 재작업률이 어떻게 변했는지를 살펴봐야 했다. 고객 상담이라면 해결률과 재문의율, 만족도, 사람 상담원에게 넘어간 비율을 함께 확인할 수 있었다. 소프트웨어 개발이라면 코드 생성량보다 배포 속도, 결함률, 보안 취약점, 유지보수 시간을 평가하는 편이 정확했다.

품질을 하나의 숫자로 단순화해서도 안 됐다. 답변이 빠르지만 자주 틀리는 시스템과, 정확하지만 지나치게 느리고 비싼 시스템 사이에는 분명한 차이가 있었다. 기업은 정확성, 속도, 비용, 안전성 가운데 어떤 요소를 우선할지 업무별로 결정해야 했다. 사내 아이디어 회의에서는 속도와 다양성이 중요할 수 있지만, 재무 공시 자료를 검토할 때는 정확성과 추적 가능성이 우선이었다.

여기서 중요한 개념이 ‘충분히 좋은 AI’였다. 모든 상황에서 최고 점수를 받는 모델이 아니라, 주어진 업무의 품질 기준을 안정적으로 충족하면서 비용과 위험을 통제할 수 있는 모델이었다. 99점짜리 답변이 90점짜리 답변보다 열 배 비싸다면 추가된 9점이 실제로 그만한 가치를 만드는지 따져봐야 했다. 반대로 1점의 오류가 막대한 손실을 초래하는 분야라면 높은 비용을 감수할 이유가 있었다.

AI 시스템의 성능은 처음부터 고정되는 것도 아니었다. 사용자가 질문하는 방식, 연결된 데이터의 품질, 도구의 구성, 검토 절차에 따라 달라졌다. 무조건 더 큰 모델로 교체하기 전에 프롬프트를 단순화하고, 필요한 정보만 제공하고, 검색 범위를 정리하고, 중복 호출을 제거하는 편이 더 효과적일 수 있었다. 모델 자체보다 주변의 업무 설계를 개선해 성과를 높이는 길이었다.

기업에는 일종의 ‘AI 예산 규칙’도 필요했다. 한 업무를 처리하는 데 허용할 토큰과 비용, 응답시간, 에이전트 호출 횟수의 상한을 정하고, 기준을 초과할 경우 그 이유를 확인하는 방식이었다. 중요한 과제에는 더 많은 연산을 허용하되 일상적 업무에는 가벼운 경로를 적용할 수 있었다. 모든 차량이 고속도로의 추월 차선만 달릴 필요가 없는 것과 같았다.

토큰맥싱의 배경에는 기술적 불안보다 조직적 불안이 자리 잡고 있었다. 경쟁사가 AI 에이전트를 도입했다는 소식이 들리면 경영진은 뒤처질 수 있다고 우려했다. 담당 부서는 가시적인 성과를 보여주기 위해 더 크고 복잡한 시스템을 제안했다. 현장의 필요보다 시장의 유행과 경영진의 조급함이 투자 결정을 앞서기 쉬웠다.

AI를 도입하지 않는 위험이 존재하는 것처럼, 충분한 검토 없이 도입하는 위험도 존재했다. 효과가 불분명한 시스템에 예산과 인력을 집중하면 더 중요한 디지털 전환 과제가 밀려날 수 있었다. 복잡한 AI에 조직이 의존하기 시작한 뒤에는 비용이 올라도 쉽게 중단하기 어려웠다. 직원들이 판단 과정을 잊거나 기존 업무 역량을 잃는 문제도 발생할 수 있었다.

현명한 기업은 먼저 작게 시험하고 결과를 비교했다. AI를 사용하지 않은 방식, 단일 모델을 사용한 방식, 여러 에이전트를 사용한 방식을 같은 조건에서 평가할 수 있었다. 가장 복잡한 시스템이 아니라 비용 대비 성과가 가장 높은 방식을 선택하는 것이다. 때로는 다중 에이전트가 뛰어난 결과를 냈고, 때로는 단순한 검색 기능이 더 안정적이었다. 중요한 것은 기술의 유행이 아니라 비교 가능한 증거였다.

사람의 역할도 새롭게 정의할 필요가 있었다. AI의 모든 결과를 사람이 일일이 확인하면 자동화의 이점이 사라졌고, 아무것도 확인하지 않으면 위험이 커졌다. 따라서 사람이 개입해야 할 조건을 명확히 정해야 했다. 금액이 일정 수준을 넘거나, 모델의 확신이 낮거나, 서로 다른 에이전트의 판단이 충돌하거나, 민감한 정보가 포함된 경우에만 사람에게 넘기는 방식이 가능했다.

조직 내부의 책임 구조도 중요했다. AI 시스템을 구축한 기술 부서, 업무에 적용한 현업 부서, 예산을 승인한 경영진 가운데 누가 성과와 사고에 책임지는지가 분명해야 했다. 책임이 불분명하면 성공했을 때는 모두가 공을 주장하고 문제가 발생했을 때는 모델 탓으로 돌리기 쉬웠다. AI가 결정을 지원했더라도 그것을 조직에 배치하고 권한을 부여한 주체는 사람이었다.

좋은 AI 전략은 더 많은 것을 추가하는 데서만 나오지 않았다. 불필요한 에이전트를 빼고, 중복된 질문을 줄이고, 작은 모델로 대체하고, 어떤 업무는 기존 방식으로 남겨두는 판단에서도 만들어졌다. 시스템을 단순하게 만드는 능력은 기술을 덜 이해한다는 뜻이 아니라, 기술의 역할을 정확하게 이해한다는 뜻에 가까웠다.

AI의 다음 경쟁은 누가 가장 많은 토큰을 소비하는가를 겨루는 경기가 아닐 가능성이 컸다. 같은 성과를 더 적은 연산으로 만들어내고, 중요한 문제에는 충분한 자원을 집중하며, 결과의 품질과 책임을 함께 관리하는 기업이 앞서갈 가능성이 높았다. 비용이 낮아지면 더 많은 사용자가 혜택을 얻고, 시스템이 단순해지면 오류를 찾기도 쉬워졌다. 효율성은 혁신의 반대말이 아니라 혁신을 오래 지속하게 만드는 조건이었다.

컴퓨터의 역사는 자원이 풍부해지는 과정인 동시에 자원을 더 영리하게 사용하는 과정이었다. 저장 공간과 통신 속도, 연산 능력이 커질 때마다 사람들은 그것을 무한한 자원처럼 사용했지만, 규모가 커진 뒤에는 다시 효율을 고민했다. AI도 같은 단계에 들어서고 있었다. 더 큰 모델과 더 긴 추론이 가능해진 시대일수록 무엇을 하지 않을지 결정하는 능력이 중요해졌다.

기업이 던져야 할 질문도 달라져야 했다. “우리 회사는 몇 개의 AI 에이전트를 도입했는가”가 아니라 “이 업무에 에이전트가 필요한가”라고 물어야 했다. “얼마나 많은 토큰을 사용했는가”가 아니라 “그 토큰이 어떤 가치를 만들었는가”를 확인해야 했다. “가장 강력한 모델을 쓰고 있는가”보다 “목적에 가장 잘 맞는 모델을 쓰고 있는가”를 살펴야 했다.

많이 쓰는 것이 앞선다는 믿음은 기술 열풍이 만들어낸 가장 단순한 착각이었다. AI의 가치는 시스템의 크기나 에이전트의 수가 아니라 문제를 해결한 정도에서 드러났다. 필요한 곳에는 충분히 강한 AI를 투입하고, 그렇지 않은 곳에서는 가벼운 도구를 선택하는 절제가 새로운 기술 경쟁력이 되고 있었다.

AI 시대의 승자는 가장 거대한 디지털 조직을 만든 기업이 아닐 수 있다. 복잡한 기술을 자랑하기보다 업무의 성격을 이해하고, 비용과 품질을 함께 측정하며, 사람과 기계의 역할을 정확히 나눈 기업일 가능성이 높다. 더 많이 생각하게 만드는 기술보다 언제 깊이 생각해야 하는지를 판단하는 설계가 중요해졌다. 현명한 AI 배치는 기술을 덜 사용하는 전략이 아니라, 기술이 가장 큰 가치를 만들도록 사용하는 전략이었다.

Nature Machine Intelligence, May 2026, Nature Machine Intelligence Editorial Team, Stop ‘Tokenmaxxing’ and Deploy AI Sensibly Instead

Companies competitively adopted larger models, more tokens, and increasingly complex agents. Yet assigning more work to AI did not necessarily increase performance at the same rate. The true measure of AI competitiveness was shifting away from computational volume and toward the ability to deploy the right level of intelligence for the right task.

***

As the meeting began, the person in charge introduced the company’s newly built AI system. A market research agent collected data, an analysis agent interpreted its meaning, and a critique agent searched for weaknesses. Another agent wrote the report, while a final agent polished the language. Once a person entered a question, multiple AI agents exchanged opinions and produced a seemingly well-crafted result. From the description alone, it appeared as though a professional project team made up of people had been recreated in a digital space.

The problem emerged afterward. The same question was repeatedly processed as it passed through multiple models, and the agents consumed enormous numbers of tokens while rereading and evaluating one another’s answers. Processing took longer than expected, while the workload of the people reviewing the output did not decrease. Although the company had built an impressive system, producing a simple market-trends report could cost several times more than the previous method. More importantly, the final report was not significantly different from what an experienced employee could have produced by asking a general-purpose generative AI tool a carefully formulated question.

In May 2026, the journal Nature Machine Intelligence described this phenomenon with the term “tokenmaxxing.” The expression combined “token” with the internet slang suffix “maxxing,” meaning to maximize something as much as possible. It also satirized the belief that investing more tokens?the basic units AI uses to process text and generate responses?would automatically lead to better results.

The editorial pointed out that companies, technology professionals, and researchers had become caught up in a frenzy to insert agentic AI into their workflows. Anxiety about falling behind created a race, and that race moved toward deploying more models, more agents, and more computational resources. Organizations began asking, “Have we also adopted AI agents?” before asking what problem those agents were supposed to solve.

Tokenmaxxing did not simply mean entering long prompts or receiving lengthy answers. It encompassed model calls beyond what was necessary, excessive reasoning stages, multi-agent architectures without a clear purpose, and automation whose effectiveness had not been demonstrated. In that sense, it resembled a new form of conspicuous consumption in the AI era. In the past, more servers and larger data centers served as symbols of technological prowess. Now, more tokens and more complex collections of agents were being treated as evidence of innovation.

Yet a car does not travel faster on every road simply because it has a bigger engine. A racing engine can be inefficient and inconvenient when navigating narrow streets or traveling a short distance. AI worked in much the same way. Deploying the most powerful model for every task might appear technologically impressive, but it was not necessarily a sound business decision.

During the early years of generative AI, model size was an important source of competitive advantage. Models trained on more data and equipped with more parameters generally understood complex language better and responded more flexibly to a wide range of questions. Later, attention turned toward methods that encouraged models to reason through several stages before producing an answer. Instead of answering immediately, a model could improve its performance on difficult mathematical, coding, and scientific problems by dividing the problem into parts, checking intermediate results, and examining alternative possibilities.

Agentic AI took this idea one step further. Rather than merely responding to a question, it was designed to set goals, choose the necessary tools, search for information, evaluate the results of its work, and decide what action to take next. Multiple agents could also divide responsibilities and collaborate. One agent could plan, another could conduct research, a third could write, and a fourth could review the output. This structure demonstrated clear potential when applied to complex, open-ended tasks.

Not every question, however, required deep reasoning. If a customer asked where a delivery was, there was no need for AI to examine multiple possibilities and conduct a lengthy chain of reasoning. There was also little reason for five agents to hold a discussion before reformatting an internal document or finding an available meeting time. For tasks with clear answers and repeatable procedures, a simple rules-based program or a smaller AI model could be faster and more reliable.

More reasoning did not automatically guarantee greater accuracy. If AI made an incorrect assumption at the first stage, the lengthy reasoning that followed could merely wrap the error in a more sophisticated explanation. Even when multiple agents participated, they could repeat the same mistake if they relied on similar models and data. Cascading errors could also arise when one agent generated false information, another accepted it as fact, and a third built further analysis on top of it.

It was similar to the way a meeting did not necessarily produce better decisions simply because more people attended. Additional participants could contribute a broader range of perspectives, but they could also diffuse responsibility, prolong the discussion, and obscure the central issue. AI agents did not automatically create collective intelligence merely because there were many of them. If their roles overlapped or their evaluation criteria remained unclear, they simply repeated one another while increasing costs.

The appearance of an AI thinking for a long time could also inspire trust in users. A complex process and lengthy explanation appeared to suggest that the answer had been thoroughly reviewed. Yet the length of the reasoning and the accuracy of the facts were separate issues. An incorrect conclusion could still be delivered in highly logical language. The moment a company judged AI quality by the number of tokens or stages in a workflow, it began paying for the appearance of thinking rather than for performance.

When an employee entered a question into a generative AI interface, the cost was almost invisible. An answer appeared within seconds, and no tangible raw materials seemed to be required. This experience made AI look like a resource that could be used without limit. Behind the screen, however, computing devices in data centers were working, and every token the model read or generated carried a cost.

In enterprise AI systems, even small costs could grow rapidly with scale. The burden remained modest when one employee used the system only a few times a day. The situation changed when thousands of employees and millions of customers interacted with it. If multiple agents processed a single request, each read lengthy documents, and the output was reviewed repeatedly, one simple question could expand into a large number of model calls.

Usage fees were not the only hidden expense. They were accompanied by latency costs caused by slower responses, operating costs for monitoring and correcting the system, labor costs for verifying inaccurate output, and security costs created when sensitive information moved among multiple tools. As AI became connected to external search engines, internal databases, email systems, and payment platforms, the number of points requiring management also increased. Every additional stage of automation created a new potential point of failure alongside the convenience it provided.

The issue became clearer when viewed through customer service. If a high-performance reasoning model handled a simple question about business hours, the value of the answer barely changed, but the cost and waiting time increased. Conversely, assigning an excessively lightweight model to matters involving contract termination or insurance payments could raise the risk of error because customers’ rights and money were at stake. The goal was neither to use the most expensive AI nor to use the cheapest one. It was to select a system suited to the difficulty and risk level of each question.

The energy issue could not be ignored either. The more tokens AI processed and the longer its reasoning continued, the more computation it required. The consumption associated with one individual question might appear small, but the total changed when companies and users around the world repeatedly called AI systems in the same way. Expanding data centers, securing electricity, and operating cooling facilities were all connected to the physical limits of the AI industry.

Tokens therefore became a management resource as well as a technical unit. Just as companies managed cloud usage, advertising expenditure, and logistics costs, they also needed to manage the tokens and computing power consumed by AI. A sustainable operation could not be built by allowing usage to expand without limits and checking the bill only at the end of the month. Companies needed to track how many tokens each task consumed and what value that consumption created.

The questions were simple. Did customer satisfaction rise in proportion to the additional tokens consumed? Did employees spend less time on their work? Did revenue or productivity increase? Did errors and rework decrease? If a company could not answer these questions, higher AI usage was more likely to indicate unmanaged costs than successful innovation.

There is a saying that to a person with a new hammer, every problem looks like a nail. Something similar happened inside companies as agentic AI attracted attention. Document summarization, scheduling, customer service, market research, employee evaluation, and purchasing approval were all classified as possible tasks for agents. Some organizations even attempted to rebuild with AI processes that their existing systems already handled adequately.

Different tasks, however, required different kinds of intelligence. Transferring data into a prescribed format or sending alerts according to predetermined conditions was often better suited to conventional automation. A small language model could be sufficient for classifying documents and extracting key information. High-performance reasoning models or multiple agents became valuable only when a task required identifying contradictions across several sources and comparing alternatives under uncertain conditions.

Failing to distinguish among these tasks created the equivalent of assigning highly skilled professionals to routine administrative work. It was like hiring a top legal expert to number the pages of a document or asking a strategy consultant to enter the same figures every day. Powerful AI generated greater value when it was concentrated where it was truly needed.

Sensible deployment began with the work, not with the technology. Organizations first had to determine which problems recurred, where the existing process consumed time and money, and how much damage an error could cause. Only then could they select the appropriate tool from among rules-based automation, search systems, small AI models, general-purpose generative AI, high-performance reasoning models, and multi-agent systems.

For example, finding the number of vacation days specified in company policy required little more than document retrieval and simple answer generation. By contrast, comparing regulatory changes across several countries and evaluating the risks of launching a new product could benefit from an agent system in which research, analysis, counterargument, and synthesis were assigned to different roles. Speed and cost mattered most in the first task, while breadth of analysis and verifiability mattered more in the second. Applying the same AI architecture to both would not have been efficient.

Classification by risk level was also necessary. If AI produced an awkward draft of an advertising message, a person could simply revise it. In recruitment, lending, healthcare, insurance, and safety management, however, even a small error could cause serious harm because people’s lives and rights were involved. In these areas, organizations had to design not only for model performance but also for data quality, decision records, human review, and procedures for appeal.

The authority given to an agent also required careful calibration. The authority to search for information and prepare a draft was fundamentally different from the authority to sign a contract or transfer money. As the range of actions available to AI expanded, convenience increased, but so did the potential impact of an accident. It was therefore safer to expand authority gradually?from observation to recommendation, limited execution, and finally conditional autonomous execution?rather than granting full authority from the beginning.

AI adoption did not end with a single purchase. As with hiring a new employee, an organization had to define roles and responsibilities, evaluate performance, review mistakes, and adjust the scope of the work assigned. AI was not a person, however, so it had to be evaluated according to measurable results rather than the appearance of hard work or a confident tone.

Many companies were tempted to measure the success of AI adoption through usage. Dashboards displayed the number of employees registered, the number of accounts created, the number of prompts entered, and the number of tokens consumed. When these figures rose quickly, the organization appeared to be succeeding in its AI transformation. Usage, however, revealed activity rather than performance.

It was the same as assuming that doubling the number of meetings would double productivity. Nor could a company conclude that collaboration had improved merely because employees sent more emails. Likewise, frequent AI use did not by itself prove that AI was useful. Employees could consume more tokens while spending more time than before checking and correcting the output.

Performance measurement had to begin at the task level. Companies needed to compare conditions before and after AI adoption and examine how much processing time had fallen, how much more work each person could handle, and how error and rework rates had changed. In customer service, appropriate indicators could include resolution rates, repeat inquiries, customer satisfaction, and the proportion of cases transferred to human agents. In software development, deployment speed, defect rates, security vulnerabilities, and maintenance time were more meaningful than the volume of AI-generated code.

Quality also could not be reduced to a single number. A system that responded quickly but was often wrong differed fundamentally from one that was accurate but excessively slow and expensive. Companies had to decide which factors?accuracy, speed, cost, and safety?took priority for each task. Speed and variety might be important during an internal brainstorming session, while accuracy and traceability took precedence when reviewing financial disclosures.

This was where the concept of “good-enough AI” became important. It did not mean a model that achieved the highest score under every condition. It meant one that reliably met the quality requirements of a given task while keeping costs and risks under control. If a 99-point answer cost ten times more than a 90-point answer, companies had to determine whether the additional nine points created enough real value to justify the expense. Conversely, in a field where a one-point error could cause enormous losses, paying the higher cost could be entirely reasonable.

The performance of an AI system was not fixed from the beginning. It varied according to how users formulated questions, the quality of the connected data, the configuration of tools, and the review process. Before automatically replacing a model with a larger one, companies could often achieve better results by simplifying prompts, providing only the necessary information, organizing the search scope, and eliminating duplicate calls. This was a way to improve performance by redesigning the surrounding workflow rather than changing the model itself.

Companies also needed a kind of “AI budget rule.” They could set limits for the number of tokens, cost, response time, and agent calls permitted for a task, and investigate the reason whenever a system exceeded those thresholds. More computation could be allowed for critical assignments, while a lighter processing path could be applied to routine tasks. Not every vehicle needed to travel in the overtaking lane of a highway.

Behind tokenmaxxing lay organizational anxiety as much as technical anxiety. When executives heard that a competitor had introduced AI agents, they worried that their company might fall behind. Departments proposed larger and more complex systems to demonstrate visible progress. Market trends and managerial impatience could easily take precedence over the actual needs of employees.

Just as there were risks in failing to adopt AI, there were also risks in adopting it without sufficient review. If a company concentrated its budget and staff on a system of uncertain value, more important digital transformation initiatives could be delayed. Once an organization became dependent on a complex AI system, it could be difficult to discontinue it even if the costs increased. Employees could also forget how to make decisions or lose capabilities they had previously possessed.

Sensible companies began with small-scale trials and compared the results. They could evaluate, under the same conditions, a process without AI, a process using a single model, and one using multiple agents. The objective was to select the approach that delivered the best performance for the cost, not the most complex system. In some cases, multiple agents produced excellent results. In others, a simple search function proved more dependable. What mattered was comparable evidence rather than technological fashion.

The role of people also needed to be redefined. If people manually checked every AI output, the benefits of automation disappeared. If they checked nothing, the risks increased. Organizations therefore had to specify the conditions requiring human intervention. A task could be transferred to a person only when the financial amount exceeded a set level, the model’s confidence was low, different agents produced conflicting judgments, or sensitive information was involved.

The internal structure of responsibility mattered as well. It had to be clear whether the technology department that built the AI system, the operational department that applied it, or the executives who approved the budget were accountable for performance and failures. When responsibility remained unclear, everyone could claim credit for success and blame the model when a problem occurred. Even if AI supported a decision, people were still responsible for deploying it within the organization and giving it authority.

A sound AI strategy did not emerge only by adding more components. It could also be created by removing unnecessary agents, reducing duplicate questions, replacing large models with smaller ones, and deciding that some tasks should remain under the existing process. The ability to simplify a system did not indicate a weaker understanding of technology. It showed a more precise understanding of technology’s proper role.

The next stage of AI competition was unlikely to be a contest over who could consume the most tokens. Companies were more likely to advance by producing the same results with less computation, concentrating sufficient resources on important problems, and managing both quality and accountability. Lower costs allowed more users to benefit, while simpler systems made errors easier to identify. Efficiency was not the opposite of innovation; it was a condition that allowed innovation to endure.

The history of computing had been a story of expanding resources as well as using those resources more intelligently. Each time storage capacity, communication speed, and computing power increased, people treated them as though they were unlimited. Once the scale of use expanded, however, efficiency became important again. AI was entering the same stage. In an era when larger models and longer reasoning were possible, the ability to decide what not to do became increasingly important.

The questions companies needed to ask also had to change. Instead of asking, “How many AI agents has our company introduced?” they had to ask, “Does this task need an agent?” Instead of asking, “How many tokens did we use?” they had to ask, “What value did those tokens create?” Rather than asking, “Are we using the most powerful model?” they had to examine whether they were using the model best suited to their purpose.

The belief that using more meant staying ahead was one of the simplest illusions created by the technology boom. The value of AI was revealed not by the size of the system or the number of agents but by the extent to which it solved a problem. Restraint?deploying sufficiently powerful AI where it was needed and choosing lighter tools where it was not?was becoming a new form of technological competitiveness.

The winners of the AI era might not be the companies that built the largest digital workforces. They were more likely to be the companies that understood the nature of their work, measured cost and quality together, and clearly divided the roles of people and machines instead of displaying the complexity of their technology. The design that determined when deep thinking was necessary became more important than technology that simply enabled more thinking. Sensible AI deployment was not a strategy of using less technology. It was a strategy of using technology where it could create the greatest value.

Nature Machine Intelligence, May 2026, Nature Machine Intelligence Editorial Team, Stop ‘Tokenmaxxing’ and Deploy AI Sensibly Instead