AI 산업의 돈 이야기는 대부분 "얼마가 들어왔나"에서 멈춘다. 하지만 창업자에게 중요한 건 들어온 돈의 크기가 아니라 그 돈이 어디서 멈추고, 마진이 어디에 고이느냐다. 이 둘은 같은 곳이 아니다.
돈은 인프라로 흐른다
2026년, 구글·아마존·마이크로소프트·메타 네 곳이 예고한 설비투자만 약 7,250억 달러다. 전년의 4,100억 달러에서 1년 만에 77% 늘었다. 골드만삭스는 2026~2031년 AI 관련 capex를 7조 6천억 달러 규모로 본다. 이 돈의 대부분은 모델을 만드는 데가 아니라 GPU·데이터센터·전력으로 간다.
여기서 첫 번째 오해가 갈린다. "AI에 돈이 몰린다"는 말은 사실이지만, 그 돈의 무게중심은 지능 자체가 아니라 지능을 돌리는 하드웨어에 있다. 그리고 하드웨어는 자본 집약적 게임이다. 조 단위를 태울 수 있는 소수만 참여한다.
모델 가격은 바닥을 향한다
반대편에서 벌어지는 일은 정반대다. 동등한 성능 기준으로 추론 비용은 대략 연 10배씩 싸지고 있다. GPT-4급 성능을 내는 데 드는 비용은 3년 새 100분의 1 수준으로 떨어졌고, 오픈소스와 저가 공급자가 격차를 계속 좁힌다. 다섯 개 이상의 대형 공급자와 수십 개의 오픈 모델이 같은 벤치마크 안에서 경쟁하면, 남는 결말은 하나다. 상품화.
기업은 이제 가격·지연·가용성만 보고 모델을 갈아 끼운다. 원료가 싸지고 대체 가능해진다는 뜻이다. 원료 값이 바닥으로 가는 시장에서 원료 자체로 마진을 지키기는 어렵다.
그래서 마진은 어디에 고이나
자본은 인프라로, 가격은 바닥으로. 그 사이에 마진이 고이는 층이 따로 있다. 세 곳이다.
- 워크플로 내재화: 독립형 챗봇은 쉽게 교체된다. 하지만 병원의 진료 기록이나 회사의 CRM 안쪽으로 파고든 도구는 뽑아내기 어렵다. 교체 비용이 곧 마진이다.
- 비공개 데이터: 세상에 없는 데이터로 범용 모델을 특정 업무에 맞추면, 모델 크기와 무관하게 남이 못 하는 일을 한다. 모델은 공용재지만 데이터는 사유재다.
- 분배: 이미 고객의 습관 안에 들어가 있는 채널. 새 모델이 나와도 고객을 다시 데려올 필요가 없는 쪽이 이긴다.
창업자가 서야 할 자리
결론은 단순하다. 자본과 경쟁하지 말고, 자본이 상품화시키는 것을 재료로 써라. GPU를 사서 모델 회사와 붙는 건 조 단위 게임에 맨손으로 들어가는 일이다. 반대로 추론 가격이 매년 10배씩 싸진다는 건, 어제는 비쌌던 자동화가 올해는 공짜에 가까워진다는 뜻이기도 하다. 그 낙수를 잡아 특정 업무의 워크플로·데이터·분배에 박아 넣는 쪽이 진짜 값을 가져간다.
돈이 몰리는 곳과 가치가 고이는 곳은 다르다. 창업자는 몰리는 쪽이 아니라 고이는 쪽에 서야 한다.