OpenAI가 최상위 모델 GPT-5.6 Sol을 기존 표준 처리 대비 최대 14배 빠르게 실행하는 새 API 서비스 티어 'Ultrafast'를 지난 8월 13일(현지시간) 공개했다. AI 반도체 기업 Cerebras의 초저지연 추론 인프라 위에서 구동되는 이 모드는 초당 최대 750개의 출력 토큰을 생성하며, 현재 일부 선별된 고객을 대상으로 제한적 프리뷰로 제공되고 있다.

이번 발표의 핵심은 '지능과 속도의 트레이드오프'를 깼다는 점이다. 지금까지 실시간 수준의 응답 속도가 필요한 서비스는 더 작거나 특화된 모델을 선택해야 했지만, Ultrafast는 OpenAI의 가장 똑똑한 모델을 그대로 쓰면서 속도만 한 자릿수 이상 끌어올렸다. OpenAI는 이를 '초당 더 많은 유용한 작업(more useful work per second)'이라는 새로운 발전 방향으로 규정하며, 장애 대응, 금융 리서치와 이상 거래 탐지, 실시간 음성 고객 지원, 커머스의 이탈 직전 응대, 실험 반복 주기가 긴 연구 작업 등을 대표 활용 시나리오로 제시했다.

초기 고객군의 반응도 함께 공개됐다. OpenAI는 Jane Street, Podium, Basis, Rogo 등 코딩, 커머스, 금융 리서치, 고객 지원 분야 기업들과 프리뷰 테스트를 진행 중이다. Jane Street의 AI 어시스턴트 담당 John Crepezzi는 'Cerebras가 가져온 속도 향상은 인상적이다. 모델을 쓰는 방식 자체를 바꾸고, 개발자가 모델과 나란히 더 집중적이고 생산적으로 일하는 것을 실용적으로 만든다'고 평가했다. OpenAI 내부에서도 장애 알림이 울리면 로그와 트레이스, 최근 코드 변경을 실시간으로 분석해 원인 후보와 수정안을 준비하는 인시던트 대응에 Ultrafast를 투입하고 있으며, 밤새 돌리던 실험 배치를 근무 시간 중 여러 차례 반복하는 수준으로 연구 사이클을 단축했다고 밝혔다.

이번 협력은 OpenAI와 Cerebras 파트너십의 다음 단계라는 점에서도 주목된다. Cerebras는 웨이퍼 스케일 칩 기반의 초고속 추론으로 알려진 기업으로, 그동안 주로 오픈소스 모델이나 경량 모델 서빙에서 강점을 보여왔다. 이번에 OpenAI의 최상위 프런티어 모델을 직접 지원하게 되면서, NVIDIA GPU 중심으로 짜여 있던 대형 모델 추론 인프라 지형에 의미 있는 변수가 생겼다. OpenAI 입장에서는 GPT-5.6 계열에서 진행해 온 효율화, 가격 인하 흐름에 이어 '속도'라는 축을 경쟁 우위 요소로 추가한 셈이다.

전망도 명확하다. OpenAI는 프리뷰 기간 동안 초기 고객과 함께 속도가 가장 큰 가치를 만드는 지점을 검증하고, 그 결과를 제품 전반에 반영하면서 용량 확충에 맞춰 접근을 단계적으로 확대할 계획이다. 지능의 손실 없이 응답 지연이 사라지면 AI는 비즈니스에서 가장 시간에 민감한 영역, 즉 장애가 진행 중인 순간, 고객이 결제를 망설이는 순간, 시장이 움직이는 순간으로 들어갈 수 있게 된다. '얼마나 똑똑한가'를 넘어 '얼마나 빨리 똑똑한가'가 프런티어 모델 경쟁의 새 전선이 되고 있다는 신호다.

OpenAI

'AI Native 백과사전' 구독하기

사이트를 구독하면 새 포스트 등 최신 업데이트를 알림과 메일로 가장 먼저 받아보실 수 있습니다.
Slashpage에 가입하고 'AI Native 백과사전'을 구독하세요!

Open channel