오픈AI, Decisions API 정식 제공…질문 400개·출력 무료

활용·적용

공식 문서는 미리 정한 부서 중 하나를 고르는 문의 분류, 사진의 손상 여부, 문제의 심각도 평가를 예로 든다. 조건이 참일 확률은 0~1로 반환하며, 선택과 점수에는 각 항목의 확률도 담긴다. 분류 결과를 실제 환불이나 파일 수정으로 연결하는 동작은 애플리케이션이 별도로 수행한다. 첫 적용은 정답을 붙여 둔 기존 사례로 기준값을 정하고, 사람이 확인할 분류 구간을 나누는 방식이 적합하다.

벤치마크·비교

문서의 선택 기준은 세 반환형을 원할 때 Decisions를, 임의의 JSON 구조나 설명문이 필요할 때 Responses API의 구조화 출력을 권한다. 도구 호출 인자를 생성하는 기능도 별도 경로다. 같은 모델 이름을 쓰더라도 맡길 수 있는 일이 다르므로, 고객 문의를 분류하는 단계와 답장을 작성하는 단계를 분리해 비교할 수 있다.

발표문에 실린 Box 사례는 보험 증명서 30건의 경로 선택에서 약 5배 빠르고 정확도는 같았다는 고객 평가다. 회사의 최대 10배 설명과 표본·작업이 다른 관측치다. 실무 비교에는 내 자료의 분류 정확도, 처리 시간, 검수로 넘어간 비율을 같은 조건으로 기록하는 편이 맞다.

가격·조건

기본 입력 단가에 하루 1,000만 토큰을 넣는다고 가정하면 입력 비용은 하루 1달러다. 같은 사용량을 30일 유지하면 3억 토큰, 30달러가 된다. 캐시·장문 할증·지역 처리 할증·세금은 제외한 단순 계산이다. 질문 400개는 요청당 질문 개수의 상한이지, 400개를 정액 요금으로 처리한다는 뜻은 아니다.

캐시는 같은 입력 앞부분을 재사용하는 방식이다. 최소 길이는 1,024토큰이며 질문 내용은 이 공통 앞부분에 포함되지 않는다. 공통 규정이나 참고 문서를 입력으로 두고 질문만 바꾸는 작업은 캐시 적용 여부와 읽기·쓰기 토큰을 함께 살펴볼 수 있다.

궁금한 것

Q. 챗봇처럼 긴 설명도 돌려줘? 지원되는 답은 확률·선택·점수다. 설명이나 내가 정한 복잡한 출력 구조가 목적이면 Responses API의 구조화 출력이 비교 대상이다.

Q. 모델은 자유롭게 고를 수 있어? 현재 지원 모델은 `gpt-6-luna` 하나다. 다른 모델로 바꾸는 일반 채팅 호출과는 구분된다.

Q. 점수가 나오면 바로 자동 실행해도 돼? 문서는 실제 사례에 정답을 붙여 오탐·누락 비용에 맞는 기준을 정하도록 안내한다. API는 판단값을 반환하고 실행은 애플리케이션이 담당하므로, 중요한 동작에는 별도 승인 단계를 설계할 수 있다.

벤치마크·비교

같은 연구팀 비교표에서 Carbon-X는 단백질 코딩 영역 변이 평가 74.9%로 솔의 71.0%를 앞섰다. 반면 삽입·삭제 등을 포함한 비단일염기 변이 평가에서는 85.1%로 솔의 91.7%보다 낮았다. 단일 염기 변이 평가도 70.4% 대 74.9%다. 평균 점수가 가깝더라도, 분석할 변이 종류에 따라 우열이 달라진다.

분야 내부의 약점도 있다. GenomeQA 세부 설명은 스플라이스 부위 질문 29.8%, 히스톤 표지 질문 34.6%를 제시한다. 서열 질문을 하나의 범주로 묶기보다, 내가 다루는 과제와 가까운 평가를 먼저 고르는 것이 유용하다. 비교 모델은 각자의 평균이 가장 높았던 추론 설정을 사용했고, Carbon-X는 추론을 끈 조건이다. 변이 평가의 균형 정확도와 NextBase의 염기별 정확도 등 서로 다른 지표를 평균했으며, FrontierVEP와 NextBase는 연구팀이 만들었다.

활용·적용

모델 카드의 연구 활용 예는 서열과 질문에 유전자·좌표·주석 등 이미 아는 정보를 함께 제공하는 방식이다. 일반 에이전트가 DNA 전문 도구로 호출하는 구성도 제시한다. 염기 개수나 정확한 위치 계산은 코드에 맡기고, 모델에는 그 결과와 이름 붙인 서열을 전달하도록 권한다. 자료를 읽고 설명을 얻는 단계와 계산·검증 단계를 나누는 접근이다.

가격·조건

공개 라이선스는 Apache 2.0이며, 자체 배포에는 별도 장비와 운영 자원이 든다. 모델 카드가 제시한 BF16 실행 경로는 80GB GPU 한 장과 vLLM 또는 Transformers다. 연구팀의 비용 비교는 H200 시간당 5달러와 측정 처리량을 사용한 추정으로, 일반 API의 확정 단가나 연구실 전체 운영비와는 계산 대상이 다르다.

궁금한 것

Q. 평균 66.7%는 무엇을 뜻해? 다섯 평가를 평균한 연구팀 측정값이다. 변이 영향·서열 이해·다음 염기 예측의 과제가 섞여 있다.

Q. 공개 가중치로 자체 배포할 수 있어? 모델 카드는 Apache 2.0과 자체 GPU 배포 경로를 제공한다. 제시된 BF16 기준은 80GB GPU 한 장이다.

Q. DNA는 어떤 방식으로 읽어? 토크나이저 설명에 따르면 일반 글은 BPE 방식으로, DNA는 겹치지 않는 여섯 염기 묶음으로 처리한다. 하나의 모델이 두 종류의 입력을 이어서 다룬다.

활용·적용

발표문은 코드 실행, 컴퓨터 사용, 에이전트 스킬과 입력 캐시를 지원한다고 설명한다. 관리형 에이전트와 일부 기능에는 베타 표시가 붙는다. 설정 문서는 Google Cloud 프로젝트를 위한 새 앤트로픽 조직이 기존 조직과 별개라고 명시한다. 기존 조직의 API 사용을 유지하거나, 새 조직으로 작업을 옮기는 선택지를 검토할 수 있다. 기존 조직을 새 관리형 조직으로 전환하는 것은 불가능하며, 저장된 파일·스킬 등은 기존 조직에 남는다.

벤치마크·비교

두 배포 방식의 비교에서 회사는 앤트로픽 관리형에 새 기능·베타를 기본 플랫폼과 같은 날 제공한다고 설명한다. 구글 관리형은 Google Cloud를 데이터 처리자로 두거나, 엄격한 지역 데이터 보관과 Model Armor·Agent Engine 같은 통합이 필요한 고객의 선택지로 설명한다. 이는 모델의 답변 성능 순위가 아니라 운영 방식의 차이다. 필요한 기능과 데이터 처리 계약의 우선순위를 나누면 배포 선택이 쉬워진다.

가격·조건

발표문의 Opus 5.5 Fast Mode는 입력 100만 토큰당 8달러, 출력 100만 토큰당 40달러다. 입력 100만·출력 20만 토큰을 사용한다고 가정하면 입력 8달러와 출력 8달러를 더해 토큰 비용은 16달러다. 같은 작업을 열 번 처리하면 160달러가 된다. 캐시·할인·별도 도구 요금·세금은 계산에서 제외했다.

회사는 이 모드의 출력 토큰 생성이 최대 2.5배 빠르다고 소개한다. 개발 중 짧은 반복 작업과 긴 문서 출력에서 지연이 차지하는 비중을 따로 비교해야, 빠른 출력에 지불하는 비용의 가치를 판단할 수 있다.

궁금한 것

Q. 클로드 웹 구독에 포함되는 거야? 공식 문서는 Google Cloud 프로젝트·조직·IAM을 이용하는 API 접근 경로를 설명한다. 개인 웹 구독과는 다른 서비스다.

Q. 누가 데이터를 처리해? 앤트로픽 관리형은 앤트로픽이 운영·데이터 처리를 맡고, 기존 구글 관리형은 Google Cloud가 데이터 처리자다.

Q. 어떤 엔드포인트를 제공해? 현재 발표는 미국과 글로벌 엔드포인트를 명시한다. 두 배포 방식은 별도의 조건으로 비교해야 한다.

활용·적용

공식 공지는 LG 노트북, Vertiv 서버 랙, 로봇 팔을 예시로 연결한다. 별도 생성 API를 호출하는 대신 허브 파일 페이지에서 시작할 수 있는 공개 탐색 경로다. 개발자는 패키지 문서의 완성형 뷰어를 쓰거나 기존 three.js 장면에 USD 로더만 넣는 방식을 고를 수 있다. 전자는 조명·회전 조작 등을 포함하고, 후자는 기존 화면의 구성과 결합하는 쪽이다.

벤치마크·비교

뷰어의 기본 설정은 텍스처를 `preview`로 읽는다. 기본 색상과 작은 데이터 맵 중심이며, 설정을 `full`로 바꿔 더 많은 텍스처를 읽는 선택지가 있다. 형상을 빨리 확인하는 화면과 재질을 자세히 점검하는 화면에서 필요한 설정이 다르다.

공개 패키지는 레이어 다운로드 768MiB, 텍스처 다운로드 512MiB, 최대 2,000만 삼각형·10만 인스턴스 등의 기본 한도를 둔다. 충실하게 표시하지 못한 내용은 경고로 돌려준다. 자체 화면을 만들 때는 파일을 열었다는 성공 표시뿐 아니라 로딩 오류와 표시 경고도 사용자에게 보여 주는 설계가 필요하다.

가격·조건

MIT 라이선스와 브라우저 실행 구조는 별도 패키지로 재사용하는 경로를 제공한다. USD 구성은 Rust를 WebAssembly로 컴파일해 처리하고, 화면은 three.js로 렌더링하며 로딩은 웹 워커에서 수행한다. 로컬 파일 묶음을 전달하면 묶음 안의 상대 경로끼리 연결하고 해당 파일을 네트워크로 가져오지 않는 방식도 문서에 있다. 뷰어 코드의 라이선스와 화면에 표시할 개별 에셋의 이용 조건은 각각 검토 대상이다.

궁금한 것

Q. 로봇을 실제로 시뮬레이션하는 기능이야? 이번 공지의 대상은 3D 미리보기다. 에셋의 모양과 구성 자료를 살펴보는 단계다.

Q. 내가 만든 웹 화면에도 넣을 수 있어? 공개 패키지는 MIT 라이선스와 완성형 뷰어·로더 두 경로를 제공한다.

Q. 로컬 파일도 볼 수 있어? 문서는 파일 선택·드래그로 받은 파일을 경로별로 묶어 전달하는 예시를 제공한다. 묶음 안의 상대 경로를 서로 연결한다.

벤치마크·비교

기술 설명은 일반 VM이 전체 운영체제를 준비하고 중단·재개하는 데 수초에서 수분이 걸린다고 설명한다. 새 서비스는 미리 준비한 이미지와 변경된 메모리만 따로 보관하는 방식을 이용한다. 매 도구 호출 사이에 기다리는 에이전트가 많을 때, 계속 자원을 예약하는 구조와 실제로 움직이는 세션에 자원을 배정하는 구조의 차이가 커진다.

별도 공개 런타임 Agent Substrate는 Cloud Hypervisor microVM 또는 gVisor를 선택할 수 있다. 반면 새 서비스의 설명은 세션별 microVM과 외부 인증 게이트웨이를 중심으로 한다. 기존 클러스터의 운영 자유도와 관리형 서비스의 역할을 비교하는 기준이지 두 제품의 실측 우열표는 아니다.

활용·적용

Agent Substrate 공지는 이미 Kubernetes를 운영하는 팀에 공개 코드를 활용하는 경로를 제시한다. GKE 고객의 비운영 워크로드에 제공하며, 운영 환경의 정식 지원은 허용 목록 방식이다. 반대로 Agent Compute Engine은 향후 프리뷰이므로 지금 서비스 이전을 결정하기보다 격리·권한·상태 보존 요구를 정리할 단계다.

기술 문서는 장기 자격 정보를 게스트의 메모리·디스크에 보관하지 않고 외부 요청 경로에서 인증하는 설계를 설명한다. 도입 검토에서는 격리 환경을 만드는 것과 함께, 에이전트가 접근할 대상·사용자 위임·감사 기록을 각각 확인할 수 있는지가 중요하다.

가격·조건

구글은 기존 런타임의 대기 자원 회수와 새 서비스의 상태 보존을 비용 효율의 핵심으로 설명한다. Agent Substrate의 공개 코드를 쓰는 선택지는 있지만, 컴퓨팅·스토리지·운영 자원까지 무료라는 뜻은 아니다. 새 서비스와 기존 클러스터의 비용 비교는 활성 시간, 대기 세션 수, 저장 상태의 크기를 나눠 계산해야 한다. 단순한 전체 세션 수보다 이 세 항목이 인프라 선택에 유용하다.

궁금한 것

Q. 지금 새 서비스를 바로 쓸 수 있어? 발표는 10월 22일 발표 기준 수개월 안의 프리뷰 계획이다. 이미 공개된 Agent Substrate와 제공 단계를 구분해야 한다.

Q. 기존 Kubernetes 팀의 선택지는 뭐야? Agent Substrate는 Kubernetes에서 실행하는 공개 런타임이며, GKE용 제공·지원 조건이 별도로 있다.

Q. 대기 중인 에이전트의 파일도 사라져? 새 서비스의 기술 설명은 실행 상태와 파일을 보존한 채 활성 자원을 줄이는 설계다. 대기와 삭제를 다른 동작으로 다룬다.