AI 경쟁의 중심이 갑자기 ‘모델’에서 ‘메모리’로 이동하고 있다. 샘 올트만이 한국 메모리 기업을 급히 찾고, PC에 들어있는 DRAM조차 아깝다고 말하는 배경에는 단순한 공급 부족 이상의 구조적 변화가 있다.
1. 메모리를 늘릴수록 AI가 똑똑해진다는 연구 결과최근 연구들은 모델 파라미터 수를 늘리는 것보다, **메모리(컨텍스트·외부 메모리 레이어)**를 키우는 쪽이 성능 향상에 더 효율적일 수 있다는 결과를 내놓고 있다.메모리 레이어를 붙인 모델이 같은 연산량으로도 사실 검색, 코딩, 일반 지식 과제에서 더 좋은 성적을 내거나, 훨씬 큰 밀집 모델에 근접하는 사례가 보고되고 있다. 긴 문맥을 기억하고, 과거 정보를 정확하게 꺼내 쓰는 능력이 모델의 ‘똑똑함’을 좌우한다는 인식이 확산 중이다. 결국 AI 성능의 병목이 알고리즘 자체에서 **얼마나 많은 정보를 빠르게 붙잡고 있을 수 있는가(메모리 용량과 대역폭)**으로 옮겨가고 있다. HBM과 대용량 DRAM이 단순한 부품이 아니라, 모델 성능을 결정하는 핵심 자원이 된 이유다.
2. 모델은 거기서 거기한동안 AI 경쟁은 “누가 더 큰 모델을 먼저 만드느냐”였다. 하지만 이제는 선두권 모델들 사이의 격차가 빠르게 좁혀지고 있다. 벤치마크 점수가 비슷해지고, 실제 사용 경험에서도 ‘체감 차이’가 예전만큼 크지 않다는 평가가 늘고 있다. 모델 아키텍처와 학습 기법이 공개·공유되면서, 순수 모델 성능만으로 압도적인 우위를 유지하기 어려워진 것이다. 차별화의 축이 모델 자체에서 그 모델을 얼마나 빠르고, 길게, 많은 사용자에게 서비스할 수 있는가로 이동한다. 그리고 그 서비스 능력의 핵심이 바로 메모리와 연산 인프라다.
3. 모델이 무료로 풀린다 (중국의 오픈 웨이트 공세)여기에 결정적인 변수가 더해졌다. 중국 기업들이 성능이 괜찮은 모델을 오픈 웨이트(가중치 공개) 형태로 무료 또는 매우 저렴하게 풀어놓고 있다. 누구나 다운로드해서 자체 서버나 클라우드에서 돌릴 수 있는 모델이 늘어나면, “우리 모델이 더 똑똑하다”는 주장만으로는 유료 구독과 API 수익을 지키기 어려워진다. 사용자는 “굳이 비싼 폐쇄형 모델을 써야 하나?”라는 질문을 자연스럽게 하게 된다. 모델이 범용 상품화될수록, 남는 경쟁력은 인프라다. 더 많은 메모리와 더 빠른 HBM을 확보한 쪽이 더 긴 컨텍스트, 더 많은 동시 사용자, 더 낮은 지연시간을 제공할 수 있다. 결국 “모델을 공짜로 풀어도 인프라를 장악한 쪽이 이긴다”는 구조가 만들어진다.그래서 올트만이 조급해진다이 세 가지가 겹치면서 OpenAI 입장에서는 상황이 다급해진다.
- 모델 성능 격차는 줄어들고
- 중국발 오픈 모델이 가격 경쟁력을 무너뜨리며
- 정작 성능을 가르는 열쇠는 메모리 용량과 공급으로 넘어간다
올트만이 한국을 급히 찾고, “PC에 놀고 있는 DRAM이 아깝다”고 말하는 것도 이 맥락에서 이해할 수 있다. 그는 단순한 부품 부족을 걱정하는 것이 아니라, AI 경쟁의 승부처가 메모리로 이동했다는 사실을 누구보다 먼저 체감한 것이다.모델은 점점 비슷해지고, 어떤 모델은 공짜로 풀린다.
남은 것은 “누가 더 많은 메모리를, 더 안정적으로, 더 싸게 확보하느냐”다. 지금 메모리 반도체 시장이 과열되고, 한국 기업들의 협상력이 급상승한 진짜 이유는 바로 여기에 있다.