AI 봇(AI bots)에 ‘말을 많이 하면, 전기 더 먹는다’

챗지피티(ChatGPT)나 제미나이(Gemini) 같은 AI 봇(AI bots)에게 말을 많이 시키면 그만큼 전기를 더 먹는다. 짧을수록 전기 덜 먹어 에너지 절약이 된다.

챗지피티나 제미나이에 ‘길고 자세한 메시지를 입력하기 전에 다시 한번 생각해 보게 될 만한 사실’이 있다. 여러분이 입력하는 모든 단어는 에너지를 소모하며, 그 양은 생각보다 훨씬 많다.

디지털 트렌드는 7일(현지시간) 유엔대학교 물·환경·보건연구소의 최근 보고서를 인용, “인공지능(AI)이 환경에 미치는 악영향에 대해 매우 우려스러운 그림을 그리고 있다. 그 수치는 충격적이며, 즐겨 사용하는 AI 챗봇에게 질문을 하기 전에 잠시 멈칫하게 될 것”이라고 말했다.

보고서에 따르면, 챗지피티는 “매일 약 25억 건의 메시지를 처리하며, 메시지 당 0.42Wh(와트시)의 전력을 소모한다고 가정하면, 연간 약 383GWh(기가와트시)의 전력이 소비된다. 이는 사하라 사막 이남 아프리카 지역 약 300만 명의 연간 전력 수요를 충족할 수 있는 양”이다.

그렇다면, 생성형 인공지능 챗봇에 질문의 길이가 실제로 중요한가?

보고서에 따르면, 프롬프트(prompt)의 길이는 AI 챗봇의 에너지 사용량에 직접적인 영향을 미친다고 한다. 보고서는 “간결 모드”(concise mode)라는 개념을 강조하는데, 이는 AI 추론에 필요한 에너지가 처리되는 토큰(tokens) 수에 비례하기 때문에, 프롬프트가 짧을수록 에너지 소비가 줄어든다는 것을 의미한다. 프롬프트에서 ‘감사합니다. 부탁해요’ 등의 좀 긴 예의 바른 말은 불필요하다는 것이다.

만약 간소화된 모드가 일상적인 상호 작용에서 토큰 사용량을 30%만 줄여도 쿼리(query) 당 에너지 소비를 약 25% 절감할 수 있다면, 연간 87~98GWh의 전력을 절약할 수 있다. 이를 이해하기 쉽게 설명하자면, 최대 75만 6천 명의 가정에서 연간 사용하는 전력량에 해당한다.

‘쿼리(query)’는 정보를 요청하거나 의문을 제기할 때 사용되는 단어로, 제시된 문맥과 같은 IT 및 AI 분야에서는 사용자가 챗봇(ChatGPT, Gemini 등)에 입력하는 질문이나 요청 사항을 의미하며, '프롬프트(prompt)'와 유사한 의미로 쓰인다. 또 데이터베이스에서 특정 정보를 추출하기 위해 보내는 명령어를 지칭하기도 한다.

선택하는 AI 작업 유형에도 동일한 논리가 적용된다. 일반적인 챗지피티 스타일의 ‘텍스트 쿼리’는 기본적인 스팸 필터링보다 약 200배 더 많은 에너지를 소비한다고 한다. AI 이미지 하나를 생성하는 데는 2.9Wh가 필요한데, 이는 짧은 텍스트 답변보다 60배 더 많은 에너지를 요구한다. 비디오 생성은 훨씬 더 심각한데, 복잡한 클립 하나당 415Wh 이상을 소모한다.

인공지능이 만들어내는 영상들이 동영상 스트리밍 웹사이트를 망가뜨릴 뿐만 아니라 엄청난 양의 전력까지 소비한다는 사실을 생각하면 도저히 납득이 가지 않는다.

* 당신이 할 수 있는 일은 무엇?

일상적인 업무나 작업에 도움이 된다면 인공지능 사용을 중단할 필요는 없다. 하지만 어리석은 밈(memes)이나 ‘자극적인 콘텐츠’를 생성하는 데, 인공지능을 사용하는 것은 중단해야 한다.

또, 다음에 챗지피티에 간단한 질문을 할 때는 간결하게 하라는 주문이다. 불필요한 인사말은 생략하고 바로 본론으로 들어가는 게 에너지 소모를 줄이는 길이다. 그리고 작업에 높은 컴퓨터 성능이 필요하지 않다면, 가벼운 모델을 선택하는 것이 좋고, 이러한 작은 습관들이 모이면 놀라울 정도로 큰 차이를 만들어낸다고 이 매체는 소개했다.