'누가 AI 치킨게임의 승자가 될 수 있을까'에 대한 의외의 대답
AI 투자 고점론과 회의론이 사그라질 기미가 안 보인다. 엔비디아의 CDS 프리미엄 급등으로부터 출발해서 현 코어위브 채권급리 급등 사건에 이르기까지 많은 과도한 투자를 걱정하는 마음이 꺼질 줄을 모르는 것 같다. 그리고 이 말은 반도체에 많은 산업이 몰려있는 한국 증시에 찬물 끼얹어진 상태로 겨울이 오고 있다는 말이기도 하다. 그리고 그 우려의 끝은 아직 오려면 먼 모양인데 그럼에도 여전히 AI 기업들의 치킨게임은 피 터지게 이어지고 있다.
이 피 터지는 싸움은 과연 누가 이기게 될까?
최근 그록봇의 사례
11월이 되자 얼마 안 되어 되어 AI 에이전트 서비스 중 하나인 그록롯(Grok Bot)의 주간 사용량 한도가 사전 공지 없이 대폭 축소되는 일이 벌어졌다. 당연히 사용자들의 항의가 이어질 수밖에 없는 일이었다.
이에 대해 xAI가 소속된 스페이스X의 CEO인 일론 머스크는 이런 발언을 했다.
"서비스 지출 비용이 매출로 감당할 수 없을 정도로 높았다."
즉 수입으로 벌어들인 돈이 투자 비용과 함께 전기세나 데이터센터 임차비 등의 운영 비용을 대기에도 벅차다는 말일 것이다. 안 그래도 최근 AI 투자 회의론이 돌고 있는 마당에 이런 일이 여기에 기름을 끼얹는 그런 형태가 되어버렸다.
AI 투자 회의론의 최근의 한 사례이지만 이게 처음은 아니다.
그 곳에서 벌어지는 일들
AI 에이전트는 단순 대화형 챗봇과는 급이 다르다. AI 에이전트는 백그라운드에서 추론을 하면서 웹 검색과 외부 도구 사용, 코드 작성 및 디버깅 등 결코 가볍지 않은 일을 계속 반복하는 서비스다. 따라서 하나의 프롬프트에도 토큰과 GPU 연산량이 챗봇 대비 적어도 수배에서 많으면 수십 ~ 수백 배로 늘어날 수 있다.
결국 이 비용을 누군가가 대긴 해야 한다. 하지만 기업이든 개인이든 현재는 이런 비용을 온전히 대기에는 서비스 지출 비용이 너무 비싸다. 결국 AI 에이전트 서비스 제공사는 현실적인 비용을 청구할 수밖에 없고 그래서 사용자가 늘면 늘 수록 손해가 늘어나는 역마진 현상이 일어날 수밖에 없다.
더구나 현재는 AI 투자 치킨게임이 한창인 와중이다. 너도나도 GPU와 메모리 구입을 위해 그리고 AI 데이터센터 건설을 위해 천문학적인 돈을 조달하고 소비하고 있다. 안 그래도 증설 없이 그냥 데이터센터를 돌리기만 해도 유지비가 폭증하는 마당에 더더욱 수익성이 악화될 수밖에 없는 상황인 것이다.
이 치킨게임의 승자는 누가 될까?
서비스를 제공하기만 하면 손해를 보는 사업이 바로 AI 특히 AI 에이전트 사업이다. 하지만 이를 안 할 수도 없다. 미래를 확실히 보장하는 사업인 만큼 한번 밀리면 따라잡기 힘들기 때문이다. '과소 투자가 과다 투자보다 위험하다'는 다수의 빅테크 CEO들의 발언이 개인적으로도 정답이라고 생각한다.
결과적으로 현재 이 치킨게임의 승자로 확률이 가장 높은 것은 기존의 사업으로 현금창출이 충분히 작동하고 있는 마이크로소프트, 구글, 아마존 같은 빅테크 정도일 것이다. 다른 수익으로 AI 사업으로 발생하는 손해를 어느 정도 메꿀 수 있으니 말이다. 실제로 이 기업들은 실적 자체는 여전히 흑자인 상태다.
OpenAI나 앤트로픽 같은 AI 전문기업의 경우는 현재 AI 투자 회의론을 가속시키고 있는 느낌이다. 수익이 비용을 압도할 수가 없기 때문에 그 역마진을 외부 펀딩에 의존할 수밖에 없다. 이들은 아직은 적자 기업인데 이들의 미래를 희망적으로 보는 경우는 그리 많지는 않은 것 같다.
최근 문제아로 자주 거론되던 코어위브 등등 네오클라우드 전문업체의 경우는 사실 제대로 사업이 시작되면 오히려 AI 치킨게임 덕분에 수익성을 어느 정도 보장받을 수는 있다. 하지만 문제는 사업을 시작하기 위한 초기 투자 비용이 너무 크다는 점이다. 이를 모두 외부 펀딩을 통해 해결해야 하는데, 사업이 제대로 시작되기도 전에 이자를 지급하지 못하는 디폴트가 발생할 가능성이 제기되면서 AI 투자 고점론과 회의론을 촉발시키기도 했다.
결론적으로 이 치킨게임에선 빅테크가 생존할 확률이 가장 높다고 보인다.
하지만 이런 뻔한 결론을 내려면 굳이 이런 글을 쓸 필요는 없을 것 같다.
의외의 승자 후보
앞서 언급된 치킨게임 승자 후보로 마이크로소프트, 구글, 아마존 등이 언급된 반면 AI에서 소외된 빅테크 기업이 하나 있다. 바로 애플이다.
애플 하면 AI 투자가 너무 늦어져서 많은 비판을 받다 최근에는 오히려 이 AI 투자 회의론의 바람을 제대로 받아 주가가 순항하게 된 특이한 케이스다. 이 결과로 보면 현 AI 치킨게임의 승자와는 거리가 멀어 보인다.
하지만 애플이 주력으로 미는 AI 추론 아키텍처는 다른 빅테크와는 다르다. 애플은 온디바이스(On Device) AI에 주력하고 있다. 다른 AI 빅테크가 초대형 모델을 초대형 클라우드 기반에 올려 사업을 구성하고 있는 것과는 다르게 애플은 전부는 아니지만 상당수 AI 관련 기능들을 클라우드가 아닌 사용자의 기기에서 작동하도록 구축하고 있다.
이 온디바이스 AI는 앞서 비용 지출이 감당하기 힘들 정도로 발생하는 클라우드 AI에 비해 큰 장점이 하나 있다. 바로 사용자에게 비용을 전가할 수 있다는 점이다. 정확히 말해 사용자의 기기 내에서 추론이 일어나는 그만큼 클라우드가 운영 비용을 절감할 수 있다는 말이다.
물론 그렇다고 이 온디바이스 AI가 아직 완벽한 건 아니다. 아니 사실 좀 부족하다. 그래도 개인 사용자가 일상적으로 사용할 만한 텍스트 교정, 알림 요약, 사진 편집 및 인덱싱, 기타 데이터 정리 및 추출 기능 등을 구동하는 데는 충분하기도 하다. 이런 기능이 추론 및 에이전트 서비스의 70~80%를 차지할 정도로 많다는 일반적인 가정 하에 애플은 클라우드 운영 비용 지출을 상대적으로 최소화할 수 있다.
심지어 애플은 단기간에 급격한 비용이 발생할 수 있는 모델 개발을 당장은 외부에 의존하는 형태라 여기서도 클라우드를 직접 보유하고 운영해야 하는 적자 요인을 두지 않을 수도 있는 형태다. 물론 애플이 직접 하는 것도 점점 생기고 있으므로 미래에는 어떨지 모르겠지만 현재라는 시점에서는 이렇게 분석할 수도 있다.
그게 현실적이야 아니면 소설이야?
온디바이스 AI의 한계는 명확하다. 모바일 폼팩터의 메모리 대역폭 한계, 배터리 소모, 연속 연산 시 발생하는 발열 스로틀링으로 인해 수십 번의 도구 호출을 거치는 복합 에이전트 구동은 여전히 불가능한 물리적인 한계가 있다. 애플도 현재는 갈 길이 멀다.
애초에 사용자의 기기에서 대형 LLM을 돌리는 건 생각 조차 할 수 없기 때문에 온디바이스 AI는 최상위 클라우드 LLM의 대체재가 되기에는 아마도 영원히 무리일 수 있다. 그저 클라우드로 쏟아지는 무거운 트래픽을 걸러내는 일종의 비용 필터 수준일 것이다.
거기다 다른 빅테크나 AI 전문기업들도 이 비용 절약을 위해 기술을 계속 개발하고 있다. 가장 투자 비용이 많이 발생하는 메모리 사용량을 절감하기 위한 기술은 이미 소개되기도 했다. 모델의 경량화도 계속 진행되고 있다. 사용자 비용 청구 전략도 좀 더 과감해지고 있다. 그리고 엔비디아와 같은 비싼 범용 칩을 쓰는 게 아닌 전용(ASIC) 가속기를 통해 비용을 절약하려는 시도도 계속 이어지고 있다.
그럼에도 불구하고 애플의 온디바이스 AI 전략을 비슷하게 따라 할 수 있는 기업은 당장은 없을 가능성이 높다. 이게 애플의 전통(?)적인 '프라이버시 우선 전략'을 통해 우발적으로 발생한 전략일 수는 있겠지만, 어쨌든 아이러니하게도 애플이 AI 치킨게임의 승자가 될 수 있는 자격을 만들어 주고 있다고도 생각된다.
미래는 또 어떻게 될지는 모르겠다. 대형 클라우드의 운영 비용을 극적으로 절약하는 기술이 개발되어 다시 기존 빅테크가 승리할 수도 있고, 온디바이스 AI가 극도로 발전해서 애플이 승자로 굳어질 수도 있고, 혹은 다른 업체들도 온디바이스 AI에 집중적으로 투자하게 될지도 모르는 일이다. 승자를 찾기 위해 지켜봐야 할 일이 더 늘었다는 말이다. 한 가지 확실한 건 경쟁이 심하면 심할수록 발전도 눈부실 거라는 점이다.
물론 여기까지의 생각은 어디까지의 개인의 지식 하에서 구성된 생각이며 틀릴 여지는 충분히 있다. 그러니 이 글의 주장은 그냥 한 개인의 의견이 적힌 소설 정도로 치고 넘어가는 게 가장 좋을 것 같다.
