[기타] 앞으로 GPU와 메모리는 수요가 더 폭발합니다.

현재 LLM 기반의 AI에서 멀티모달AI를 거처 월드모델을 앞두고 있습니다.

LLM까지는 텍스트를 학습 했기 때문에 학습에 필요한 연산량이나 메모리가 크지 않았는데

이미지와 음성 그리고 영상을 학습하면서 필요한 연산량과 메모리가 기하급수적으로 늘었기 때문에

이를 선점하기 위해 서로 데이터 센터를 늘려 나가고 마치 군비 경쟁을 하듯 필요 이상으로 투자를 했습니다.

그리고 월드모델을 선점하는 기업이 LLM과는 차원이 다른 수준의 파워를 지니게 될게 분명한데

문제는 데이터 센터에 미친듯 투자를 하고 나니 막상 학습할 데이터가 없습니다.

LLM의 경우 이미 디지털화 된 텍스트 데이터가 넘쳐 났기 때문에 연산량이 허용되는 만큼

바로 바로 학습을 하고 발전을 했지만 월드모델의 경우 직접 데이터를 만들어 학습을 해야 하기 때문에

지금은 사실 정체기에 빠진 시점 입니다.

테슬라의 FSD도 월드모델에 속하는데 이미 수년전부터 테슬라 운전자들의 운전 데이터를 수집해

수백만km의 운전 데이터를 학습해 만들었고 사실상 자율주행에 있어서는 선점을 했습니다.

기존 알고리즘 방식을 통해 자율 주행을 개발했던 자동차 업체들은 뒤늦게 기존 자율 주행 개발 방식을 포기하고

자율주행 AI개발을 위해 운전 데이터를 수집하고 있으나 학습할 데이터가 하루아침에 만들어 지는게 아니기 때문에

바로 FSD 기술 수준을 따라잡기 어렵게 되었죠

피직스AI 역시 학습할 데이터를 수집하고 있습니다.

컵 하나 드는 동작도 수십만번을 반복해야 쓸만한 데이터가 만들어지는데 이걸 현실에서 구현 하려면

굉장히 많은 시간이 필요하겠죠…

이를 해결하기 위해 가상 공간 속에서 데이터를 수집하는 기업도 있지만 가상공간은 현실과의 차이가 발생 할 수 없기 때문에

결국 현실 세계에서 데이터를 수집해야 합니다.

중국은 사람에게 센서를 부착해 인력으로 직접 데이터를 수집하기 시작했지만 무작정 많은 데이터를 학습하는게 아니라

LLM에서 발생했던 환각 현상을 줄이라면 정제된 데이터가 필요하기 때문에 아직은 어느 기업이 주도권을 가지고 있다

보기 어렵습니다.

어쨌든 문제는 지금 월드 모델을 완성시키기 위해 데이터 센터는 모두 만들어 놨는데 학습할 데이터가 부족해

잠시 정체기에 빠져있는 시점이고 월드 모델을 위해 학습할 데이터가 쌓이는 순간 필요한 GPU와 메모리는

LLM과는 차원이 다르게 됩니다.

LLM이 메모장에 쓰여진 소설을 열어보는 수준이라면 월드모델은 GTA와 같은 3D게임을 구동할때 필요한 연산량이라 생각하시면 됩니다.



빨리 사주십쇼.