생각하는 기계가 초래하는 숨겨진 비용
ㅡ의사결정형 AI가 에너지, 환경과 인간의 복지에 미치는 대가
*다나다 칸타 미슈라(Dhanada Kanta Mishra)
2026년 9월 초, 한 인공지능(AI) 기업이 수학의 7대 밀레니엄상(賞)이 걸린 문제 중 하나에 대한 해결 방안을 제안했다고 발표하였다. 오픈AI를 통해 구동된 약 1만 개의 AI 에이전트가 88시간 동안 병렬로 작업하여 90년 동안 미해결로 남아 있던 나비에-스토크스 문제의 핵심 부분을 해결하는, 165페이지 분량의 증명을 이끌어 냈다.
이 에이전트들은 약 270만 건의 메시지를 주고받았으며, AI 모델이 처리하는 데이터의 기본 단위인 출력 토큰을 약 1,300억 개 소비했는데, 여기에 든 비용은 1,000만 달러에서 4,000만 달러로 추산된다. 며칠 전, 이 회사는 10만 개 이상의 GPU로 훈련된 모델인 GPT-6 '아스트라(Astra)'를 공개했으며, 회사의 사장은 “AGI 시대가 열렸다.”고 선언하였다. 여기서 GPU는 그래픽처리장치(Graphics Processing Unit)로, 컴퓨터의 속도와 효율성을 높여주는 전자회로를 의미하며, AGI는 인공일반지능(Artificial General Intelligence)을 뜻한다. 이는 단순히 질문에 답하는 것을 넘어 추론하고, 학습하며, 지식을 창의적으로 한 분야에서 다른 분야로 적용해 복잡한 문제를 독립적으로 해결할 수 있는 디지털 기반 지능이다.
에이전트형 AI, 곧 전체적인 대규모 작업의 일부를 각각 관리하며 스스로 목표를 계획하고 추구하는 개별 AI '에이전트'를 활용하는 AI는 더 이상 연구상의 호기심이나 공상과학 소설 속의 환상이 아니다. 이미 현실에 존재하며 작동 중이며, 그 자원 소비 규모는 이제야 파악되기 시작한 수준이다.
단 하나의 복잡한 에이전틱 쿼리만으로도 표준 챗봇의 응답보다 136.5배 더 많은 전력을 소모할 수 있으며, 2026년 2월에 인간이 주도하는 쿼리를 추월한 에이전틱 토큰 사용량은 8월까지 14배 증가해 7.3조 토큰에 달했다.
이러한 자율 시스템이 우리의 일과 삶의 방식을 재편함에 따라, 이제 문제는 그들이 도래할 것인지 여부가 아니라 지구와 우리 자신에게 어떤 대가를 치르게 할 것인지가 관심사로 떠오른다.
챗봇에서 에이전트로
기존 AI와 에이전트형 AI의 차이는 상당하다.
AI 챗봇은 질문에 답하고 나면 그만이다. 반면 에이전트는 계획을 세우고, 도구를 활용하며, 자신의 작업을 점검하고, 목표가 달성될 때까지 계속 진행한다. 인간의 감독을 훨씬 덜 필요로 한다.
아스트라 자체는 에이전트형 AI라는 개념으로 마케팅되고 있다. 이 시스템은 온라인 양식을 작성하고, 고객 기록을 업데이트하며, 일정을 관리하고, 조사를 수행하고, 웹사이트를 구축한다.
이러한 변화는 환경적으로도 중요한 의미를 지닌다. 에이전트형 작업 부하는 단순한 쿼리보다 작업당 훨씬 많은 도구 호출, 더 많은 토큰, 더 많은 유휴 GPU 사이클을 수반하기 때문이다. 모든 계획 루프, 모든 숙고의 순간, 모든 '사고 토큰'은 프롬프트당 컴퓨팅 비용을 100배 이상 증가시킬 수 있다.
챗봇에게 길을 묻는 것은 비용이 적게 들지만, 곁에서 걸으며 매 걸음마다 확인해야 하는 팀원은 그렇지 않다.
'사고(思考)'의 숨겨진 비용
나비에-스토크스 연구 성과는 추상적인 개념을 구체적인 수치로 바꿔 놓았다. 단 한 건의 연구 결과만으로도 1,300억 개의 출력 토큰과 수백만 달러 상당의 계산 자원이 소모되었다. 이는 일반적인 패턴의 극단적인 사례일 뿐 예외적인 현상은 아니다.
한국의 국립 연구 대학인 KAIST의 감사 결과에 따르면, 에이전트 기반의 작업은 유사한 챗봇 응답보다 136배 더 많은 에너지를 소비할 수 있는데, 이는 주로 도구의 응답을 기다리는 동안 GPU가 유휴 상태로 있기 때문이다.
스탠퍼드대학의 에이전트형 코딩 워크로드 연구에 따르면, 이는 단순한 코드 채팅보다 최대 1,000배 더 많은 토큰을 사용할 수 있으며, 입력 토큰(컨텍스트 및 도구 정의)이 비용의 대부분을 차지한다.
그린 소프트웨어 재단(Green Software Foundation)의 나빈 발라니(Navveen Balani) 전무이사는 계획 루프, 도구 호출, 재시도, 복합적인 컨텍스트가 어떻게 2,000 토큰 규모의 상호작용을 200만 토큰 규모의 작업흐름(워크플로)으로 확대시킬 수 있는지를 설명한다.
한편, 오픈AI는 나비에-스토크스 챌린지와 관련된 100만 달러의 상금 수령을 거부했으며, 해당 증명은 아직 독립적인 검증을 거치지 않았다. 이 '이정표'는 수학적 성취만큼이나 규모의 시연이기도 하였다.
하지만 그 영향은 이미 분명하다. 주요 AI 오픈라우터(OpenRouter)의 실제 데이터에 따르면, 에이전트 기반 토큰 사용량이 이미 인간이 주도하는 쿼리 사용량을 추월했으며, 기하급수적으로 증가하고 있다. 에릭 브리뇰프슨(Erik Brynjolfsson)과 샌디 펜틀랜드(Sandy Pentland)가 공동 집필한 동일한 스탠퍼드 연구는 에이전트 기반 작업이 토큰을 얼마나 예측 불가능하게 소비하는지를 분석하며, 토큰 경제학이 모델 정확도와 동일한 수준의 면밀한 검토를 받아야 한다고 주장한다.
그린 소프트웨어 재단의 발라니는 “토큰은 우리가 요금을 청구하는 단위이다.”라고 썼다. “킬로와트시, CO₂e 1그램, 물 1리터는 지구에 비용을 초래하는 단위들이다.”
토큰 하나하나에는 GPU 사용 시간, 전력망 에너지, 배출량, 냉각수가 포함된다. 국제에너지기구(IEA)는 데이터센터가 전 세계 전력 소비에서 차지하는 비중이 현재 약 1.5%에서 2030년까지 두 배 이상 증가할 것으로 전망하며, 물 사용량은 연간 1.2조 리터에 달할 것으로 예상한다.
일의 미래
의지적 AI가 고용에 어떤 영향을 미칠지는 아직 불분명하다. 이를 뒷받침할 엄격한 종단적 데이터가 아직 존재하지 않기 때문이다. 그러나 초기 증거에 따르면, 이러한 변화는 일자리를 완전히 대체하기보다는 업무의 형태를 재편할 가능성이 더 높다.
보스턴 컨설팅 그룹(BCG)의 새로운 보고서에 따르면, 향후 몇 년 내에 AI가 일자리의 약 절반을 재편할 것으로 추정되며, 기술 연구 기관인 IDC는 전 세계 2,000대 대기업의 직무 중 40%가 AI 에이전트와의 직접적인 상호작용을 수반할 것으로 전망한다.
단기적으로 더 가능성이 높은 결과는, '항상 가동 중인' 디지털 동료와 개인 시간 사이의 경계가 모호해지기 시작하더라도, 에이전트형 AI 프로그램이 일상적인 인지능력을 요하는 업무를 흡수하는 한편 인간은 감독, 판단, 대인 관계 업무로 전환하는 것이다.
실질적인 문제는 일자리가 사라질지 여부보다는, 해당 업무를 수행하는 에이전트를 감독하고, 감사(監査)하며, 수정할 역량을 갖춘 사람이 누구인지에 있으며, 이러한 격차는 메우기 어려울 수도 있다.
'AGI 시대'라는 프레임은 좀 더 면밀히 살펴볼 필요가 있다. 엔비디아(Nvidia)의 최고경영자는 “AGI가 도래했다.”고 게시했으나, 오픈AI가 벤치마크로 인용한 ARC Prize팀은 이 명칭을 지지하지 않았다. 능력 자체는 실재하지만, 이를 둘러싼 미사여구는 논란의 여지가 있다.
웰빙 대 불안
사람들은 직장에서의 첨단 AI에 어떻게 반응할까?
AI 기반의 도구는 근로자의 정신건강을 지원하는 데 초기 잠재력을 보여주고 있다. 『영국의학회보, British Medical Bulletin』에 실린 최근의 체계적 문헌 고찰에 따르면, 고무적이지만 아직 성숙 단계에 있는 증거들이 발견되었다. 그러나 현재 설문조사 결과, AI로 인한 변화가 근로자들의 주요 우려사항 중 하나로 꼽히고 있다.
직원 3만 명 이상을 대상으로 한 갤럽(Gallup) 연구에 따르면, 그 차이는 신뢰와 명확성에 달려 있는 것으로 나타났다. 명확한 전략 없이 AI를 빈번하게 사용하는 경우 불안감과 번아웃이 더 높게 나타나는 반면, 신뢰도가 높은 직장에서는 동일한 도구가 더 큰 생산성 향상을 가져온다.
긍정적인 측면에서, 지루한 업무를 자율적 AI에 위임하면, “드디어 일을 끝냈다는 안도감”을 통해 일부 형태의 스트레스를 완화할 수 있다.
하지만 이는 직무의 소멸, 감독 문제, 그리고 결코 로그아웃하지 않는 디지털 동료가 끊임없이 주는 압박과 같은 새로운 불안 요인들과 균형을 맞춰야 한다. CES-IFO의 2026년 5월 보고서에 따르면, 근로자의 14%에서 19%가 자신의 직무가 5년 이내에 '다소' 또는 '매우 높은 확률로' 사라질 것이라고 믿는 것으로 나타났다. AI를 빈번하게 사용하는 것 자체가 이러한 인식된 위험을 높인다.
갤럽(Gallup)의 선임연구원 크리스토스 마크리디스(Christos Makridis)는 인간적 요소를 다음과 같이 명확히 설명한다. “모든 AI 이니셔티브의 성공은 사람에 달려 있으며, 그 첫걸음은 직원들이 경영진이 실험하기에 안전한, 신뢰할 수 있는 업무 환경을 조성하고 있다고 느끼는지 여부이다. AI는 업무 수행을 돕고, 통찰력을 도출하며, 때로는 결과를 검증하는 데 기여할 수 있지만, 공감력을 통해 고객과 소통하고, 창의성을 발휘해 AI 기반의 아이디어를 구체화하고, 활용하며, 미래의 업무를 개발하는 데 있어서는 인간이 경쟁 우위를 가지고 있다.”
에이전트형 AI를 사람과 지구와 조화시키기
에이전트형 AI의 비용은 고정된 것이 아니라 설계상의 선택에 달려 있다. 발라니 전무이사는 에너지를 “실무자들이 직접 제어하지만, 거의 측정하지 않는 레버, 즉 차원”이라고 말한다. “토큰을 줄이면 GPU-초(seconds)가 줄어들고 킬로와트시도 감소한다.”
토큰과 에너지 낭비를 줄이기 위한 세 가지 접근 방식은 “더 스마트한 추론 예산”을 채택하고, 중복된 도구 호출을 줄이며, 정보를 신속하게 캐싱(caching: 컴퓨터의 검색엔진에서 자주 사용하는 데이터의 복사본을 접근 속도가 빠른 임시 저장소에 보관하여, 데이터 검색 성능을 높이고 시스템 부하를 줄이는 기술)하는 것이다. 어떤 단일 설계 변경이 가장 중요한지 묻자, 발라니 전무이사는 불필요한 '반복적인 추론'을 제거할 것을 제안한다. 예를 들어, 에이전트를 “적절한 경우 검증된 결과를 재사용하고, 상황이 진정으로 요구할 때만 추가적인 추론을 호출하도록” 설계하는 것이다.
그린 소프트웨어 재단(Green Software Foundation)과 같은 기관들은 이를 '린 에이전틱 AI(Lean Agentic AI)'로 체계화하고 있는데, 이는 토큰을 고려한 설계와 탄소 집약도 측정을 결합한 효율성 우선의 접근 방식이다.
에이전트의 환경 발자국에 대한 투명성과 생산성, 이와 함께 웰빙을 보호하는 직장 정책이라는 두 가지 요소가 더해져야 책임 있는 길을 완성할 수 있다.
에이전트형 AI에 대한 체계적 고려사항
환경적 문제는 에이전트를 사용할지 여부가 아니라, 시스템 전체가 수명 주기 전반에 걸친 영향을 줄이는지 여부이다.
점검 사진을 수집하고, 이를 건물의 디지털 모델과 대조하여 확인하며, 유지보수 이력을 조회하고, 작업 지시서를 작성하여 승인을 위해 전달하는 건물 유지보수 에이전트형 AI를 생각해 보자.
이 AI를 잘 활용하면, 현장 재방문 횟수를 줄이고, 결함을 조기에 발견하며, 예방적 유지보수로 인한 자재 및 이동으로 인한 배출을 절감할 수 있다.
그러나 중복 스캔, 과도한 모델 크기, 끊임없는 재분석 등으로 부주의하게 사용될 경우 기존 디지털 폐기물 위에 새로운 디지털 폐기물 층을 더할 뿐이다.
원격 서버에 의존하지 않고 사용자의 기기에서 직접 AI 모델을 실행하는 '로컬 추론'은 그 반대편에 있는 개념인데, 예전의 예상보다 훨씬 빠르게 다가오고 있다. 압축 및 양자화된 모델은 이미 몇 년 전만 해도 상상조차 할 수 없었던 하드웨어에서 실행되고 있다. 전용 GPU가 없는 5년 된 노트북도 가벼운 모델은 처리할 수 있지만, 속도는 느리고 에이전트형 워크로드가 요구하는 수준에는 미치지 못한다.
이러한 추세는 일반 기기에서도 최첨단 수준의 성능을 구현할 수 있음을 시사한다. 그리고 그 이점은 분명하다. 앞서 언급한 물 공급과 에너지 소비가 많은 데이터센터에 대한 부담이 줄어들고, 쿼리당 비용이 낮아지며, 데이터가 사용자의 기기를 벗어나지 않게 된다. 다만 솔직히 말해, 에너지가 완전히 사라지는 것은 아니며, 단지 위치가 바뀔 뿐이다. 기기는 여전히 전력을 소비하며, 이제는 무릎이 아닌 책상 위에서 작동할 뿐이고, 모델의 훈련 과정은 여전히 데이터센터에서 이루어진다.
로컬 추론은 대체 수단이 아니라. 앞서 설명한 효율성 개선 방안들을 보완하는 것으로 이해하는 것이 가장 적절하다. 즉, 로컬 추론은 에지 측의 부하(負荷)를 덜어주는 반면, 가장 무거운 에이전트형 워크로드는 여전히 중앙 집중식 컴퓨팅에 의존하게 된다.
최근 뉴스에서도 경각심을 불러일으키는 내용이 있다. 오픈AI의 수석 과학자는 성능이 뛰어난 모델일수록 (오류 측정 등의) 감사가 더 어렵다는 점을 인정한 반면, 엔비디아의 최고경영자는 40만 대의 GPU가 추가로 가동될 예정이라고 반겼다. 성능과 소비량이 함께 증가하는 등 양방향으로 가파른 상승세를 보이고 있다.
에이전트형 AI는 이미 그 역할을 수행하기 시작했다. 이것이 지구와 인류에게 부담이 될지, 아니면 우리가 현명하게 이끌어 나갈 도구가 될지는 기술 그 자체가 아니라 지금 내려지는 선택에 달려 있다.
*다나다 칸타 미슈라는 미시간대학교에서 토목공학 박사 학위를 취득했으며, 현재 홍콩에 본사를 둔 AI 스타트업에서 건축 인프라의 지속가능성을 위한 기술을 개발하는 업무를 총괄하는 경영관리이사(Managing Director)로 재직 중이다(www.raspect.ai). 그는 환경 문제, 지속가능성, 기후 위기, 건축 인프라에 관한 글을 쓰고 있다.
댓글