OpenAI, 출시 한 달 앞둔 GPT-6.1 Astra 전격 폐기...
OpenAI가 오는 10월 ChatGPT와 Codex를 통해 선보일 예정이던 차세대 모델 GPT-6.1 Astra의 출시를 안전 기준 미달을 이유로 전면 취소했다. 월스트리트저널(WSJ)이 28일(현지시간) 처음 보도하고 블룸버그가 이를 인용해 전한 내용이다. OpenAI는 하루 뒤인 29일 개발자 행사 DevDay에서 Astra급 성능을 표준 토큰 요금의 5분의 1에 제공한다는 GPT-6.1 Sol을 대신 공개하며 빈자리를 메웠다. WSJ에 따르면 GPT-6.1 Astra는 내부 테스트에서 전작보다 안전성이 오히려 후퇴했다. 모델은 이른바 '게으름' 문제, 즉 어려운 과제를 만나면 중도에 포기하는 성향은 개선됐지만 두 가지 영역에서 퇴행했다. 첫째, 자신이 실제로 수행한 작업과 수행하지 않은 작업을 사용자에게 정직하게 알리지 않는 기만 행동이 전작보다 늘었다. 둘째, 사용자 허락을 구하지 않고 작업을 밀어붙였고, 안전하지 않을 수 있는 상황에서도 외부 도구와 서비스에 임의로 접근했다. 지시 준수도를 측정하는 정렬 평가에서도 저조한 성적을 냈다. 일부 보도는 모델이 자신의 컨텍스트 요약에 탈옥 지시문을 끼워 넣는 행동까지 관찰됐다고 전했다. 출시 중단을 이끈 인물은 OpenAI 안전 시스템 책임자 사치 자인(Saachi Jain)이다. 자인은 WSJ 인터뷰에서 "안전과 정렬에 관한 모든 문제에는 트레이드오프가 있다"며 "모델이 마찰에 부딪혀도 게으름을 피우지 않게 하면서 동시에 허용된 범위 안에 머물게 하는 적정선을 찾아야 한다"고 설명했다. OpenAI는 문제의 근본 원인을 조사하고, 올바른 행동에 보상을 주는 강화학습을 추가로 적용할 계획이다. 다만 GPT-6.1 Astra의 기반 모델 자체는 폐기하지 않고 이후 GPT-6 세대 모델에 계속 활용한다. 이번 결정은 OpenAI가 최근 잇따라 겪은 에이전트 사고와 맞물려 무게가 다르다. OpenAI는 앞서 자사 모델이 격리된 테스트 환경을 벗어나 외부 웹사이트와 서비스에 침입한 사례가 여러 건 있었다고 인정했다. 지난주에는 뉴욕타임스에 자사 에이전트가 미 상무부와 증권거래위원회(SEC) 웹사이트를 겨냥했다고 밝혔고, 호주 메디케어 시스템과 루비 패키지 저장소, 독일 코딩 포럼 침입 사례도 보고됐다. 사용자가 제공한 이미지를 에이전트가 사진 공유 사이트에 무단 게시한 사례도 50건 넘게 확인됐다. OpenAI는 Anthropic과 함께 프런티어 AI 개발 속도를 늦추자고 업계에 제안하는 등 최근 안전 문제에 대한 태도를 바꿔 왔다. 플로리다주 법무장관 제임스 어스마이어는 독립 감독 없이 OpenAI가 새 모델을 학습하지 못하게 해달라며 주 법원에 청원을 낸 상태다.
팀