대학에서 생성형 AI 활용이 급증하면서 ‘토큰 비용’ 관리가 새로운 운영 과제가 됐습니다.
서울대는 챗GPT 에듀 사용량이 빠르게 늘자 개인별 한도를 설정하는 방식으로 대응했습니다.
앞으로는 업무에 맞춰 국산·외산 모델을 섞고 사용량을 최적화하는 체계가 중요해집니다.

안녕하세요. 디지털에이전시 이앤아이입니다.

요즘 대학가에서 생성형 AI는 ‘도입할까 말까’의 단계가 아니라, ‘얼마나 쓰고 어떻게 관리할까’의 단계로 넘어간 분위기입니다. 특히 챗GPT 같은 해외 LLM을 캠퍼스 단위로 열어두면 사용량이 폭발적으로 늘고, 그만큼 토큰 비용도 눈덩이처럼 불어나는 게 현실이죠.

실제로 서울대는 재학생과 교직원 대상 ‘챗GPT 에듀’를 도입한 뒤 개인별 사용 한도를 설정했습니다. 교육·연구·행정 전 영역에서 AI 활용을 확대해 ‘AI 네이티브 캠퍼스’를 지향했지만, 도입 직후 한 달여간 사용량이 6200만 크레딧으로 집계되며 학교가 마련한 연간 예산 31억원을 초과하는 규모가 됐다고 합니다. 말 그대로 한 달 만에 1년치 예산을 다 쓸 수 있는 속도였던 셈이네요.

다른 대학들도 비슷한 고민을 하고 있습니다. 전남대는 여러 생성형 AI 모델을 구성원이 이용할 수 있도록 제공하면서도 개인별 크레딧 한도를 적용하고 있고, 충남대도 57종 LLM을 이용할 수 있는 서비스를 도입했지만 구성원 1인당 매월 5000크레딧을 지급하는 방식으로 사용량을 관리하고 있습니다. ‘AI를 막을 수는 없으니, 운영 규칙을 세우자’로 방향이 바뀐 거죠.

문제는 비용이 단순히 학교 예산에서 끝나지 않는다는 점입니다. 교육계에서는 대학의 AI 사용량 증가가 해외 사업자에게 지급되는 비용을 키워, 지식서비스 무역수지에도 부담이 될 수 있다고 우려합니다. 정보통신정책연구원(KISDI) 보고서는 한국이 AI 활용률은 높은데 자국 서비스 경쟁력은 낮은 비대칭을 지적했고, 2025년 지식서비스 무역수지 적자가 102억5000만달러로 전년 대비 약 39% 악화됐다는 진단도 나왔습니다. 한국은행이 적자 원인 중 하나로 ‘AI 구독’을 언급한 점도 눈에 띄고요.

여기에 AI 에이전트가 확산되면 토큰 비용은 더 민감해질 수 있습니다. 사용자가 한 번 질문하고 답을 받는 수준을 넘어, AI가 여러 단계의 작업을 스스로 수행하면 추론량이 늘고 토큰 사용량도 함께 증가하기 때문입니다. ‘편해질수록 더 많이 쓰게 되는’ 구조가 생기는 거죠.

그래서 앞으로 중요해지는 키워드가 ‘모델 오케스트레이션’입니다. 쉽게 말해, 모든 일을 고성능 외산 LLM에 몰아주지 말고 업무 특성에 따라 국산·외산 모델을 적절히 배분하고, 전체 토큰 사용량까지 최적화하는 운영 체계를 갖추자는 접근입니다. 예를 들어 단순 검색·요약은 상대적으로 가벼운 모델로, 연구·코딩·복잡한 문서 작성은 고성능 모델로 보내는 식의 ‘업무 라우팅’이 필요해질 수 있습니다.

이앤아이 관점에서 보면, 대학·공공기관·기업의 웹서비스 운영에서도 같은 흐름이 보입니다. AI를 붙이는 것 자체보다, 누가 어떤 업무에 어떤 모델을 쓰고, 사용량을 어떻게 모니터링하며, 예산과 보안을 어떤 기준으로 통제할지까지 ‘운영 설계’가 성패를 가르기 시작했거든요. AI 도입이 확산될수록, 토큰 비용은 결국 ‘기술 비용’이 아니라 ‘운영 비용’으로 관리해야 하는 항목이 될 가능성이 큽니다.

#생성형AI #토큰비용 #챗GPT에듀 #대학AI #AI예산관리 #모델오케스트레이션 #AI에이전트 #지식서비스무역수지

#이앤아이 #디지털에이전시 #ENIMedia #대학교홈페이지 #AI전문기업

이앤아이와 함께 더 나은 웹 환경을 만들어 나가요!