OpenAI가 차세대 프론티어 모델 'GPT-5.6 Sol'을 프리뷰로 공개하고, 7월 중 Cerebras의 웨이퍼스케일 하드웨어에서 초당 최대 750토큰의 추론 속도로 서비스한다고 밝혔다. 기존 GPU 클러스터에서 프론티어급 모델이 통상 초당 40~120토큰 수준으로 스트리밍되는 것과 비교하면 최대 10배에 가까운 속도로, '가장 똑똑한 모델은 느리다'는 업계의 오랜 공식을 정면으로 깨는 시도다.

GPT-5.6 Sol은 지난 6월 26일 백악관의 자발적 사전 배포 검토(voluntary pre-deployment review) 절차를 거쳐 처음 모습을 드러냈다. 이번 발표의 핵심은 모델 자체의 지능 향상보다 서빙 인프라의 전환에 있다. Cerebras는 웨이퍼 한 장 전체를 하나의 칩으로 쓰는 웨이퍼스케일 AI 가속기를 만드는 회사로, GPU 수백 장을 네트워크로 묶는 기존 방식 대비 메모리 병목이 적어 처리량을 극적으로 끌어올릴 수 있다. OpenAI는 Cerebras에서 서빙되는 Sol이 기존 배포판과 '동일한 모델'이라고 확인했으며, 초기에는 제한된 고객에게 먼저 제공한 뒤 Cerebras의 용량 확충에 맞춰 접근을 넓혀갈 계획이다.

기능 면에서 Sol은 이미지, 스크린샷, 다이어그램, 문서를 이해하는 네이티브 멀티모달 비전과 확장된 컨텍스트 윈도를 갖췄다. API 가격은 입력 100만 토큰당 5달러, 출력 100만 토큰당 30달러로 책정됐다. 외부 분석가 블레이스 굿슨(Bleys Goodson)은 Sol이 웨이퍼 한 장당 모델 레이어 하나꼴로 70~100장의 Cerebras 웨이퍼에 분산 서빙될 것으로 추정하며, 총 3조 파라미터에 활성 파라미터 1,500억, 70개 레이어 규모의 MoE 구조일 가능성을 제기했다. 다만 OpenAI는 상세 아키텍처와 벤치마크 수치를 공개하지 않았다.

이번 배포의 배경에는 OpenAI와 Cerebras가 맺은 것으로 알려진 200억 달러 규모, 750메가와트급 추론 컴퓨팅 다년 계약이 있다. 올해 초 IPO를 신청한 Cerebras 입장에서 프론티어 모델의 실전 배포는 상장을 앞둔 강력한 검증 신호로 해석된다. OpenAI는 동시에 Broadcom의 커스텀 칩 'Jalapeño'에도 같은 모델을 병행 배포하는 것으로 전해져, NVIDIA GPU 일변도에서 벗어나 커스텀 실리콘으로 추론 인프라를 다변화하는 전략이 뚜렷해지고 있다.

속도가 곧 제품이 되는 국면이다. 초당 750토큰의 추론은 실시간 코딩 어시스턴트, AI 검색, 음성 에이전트, 장문 문서 분석처럼 응답 지연이 사용자 경험을 좌우하는 영역에서 질적으로 다른 체험을 만든다. 특히 모델이 답을 내기 전 수천 토큰을 '생각'하는 추론(reasoning) 워크로드에서는 생성 속도가 곧 대기 시간이기 때문에, 처리량 10배는 단순한 편의가 아니라 에이전트 아키텍처 설계 자체를 바꾸는 변수다.

업계의 경쟁축이 벤치마크 점수에서 지연시간으로 이동하고 있다는 점도 주목할 만하다. 그간 Groq, Cerebras 같은 추론 특화 칩 업체들은 오픈소스 모델 고속 서빙으로 존재감을 키워왔지만, 최전선 폐쇄형 모델이 웨이퍼스케일 하드웨어에 올라간 것은 이번이 사실상 처음이다. 개발자와 기업에게는 이제 모델 선택 시 지능뿐 아니라 end-to-end 토큰 처리 속도를 1급 지표로 따져야 한다는 신호이며, 프론티어 지능과 초저지연이 양자택일이 아닌 시대가 열리고 있음을 보여준다.

OpenAI

뉴스 원문 보러가기뉴스 원문 보러가기

구독하고 알찬 AI 뉴스 소식 알림받기

'AI Native 백과사전' 구독하기

사이트를 구독하면 새 포스트 등 최신 업데이트를 알림과 메일로 가장 먼저 받아보실 수 있습니다.
Slashpage에 가입하고 'AI Native 백과사전'을 구독하세요!