모델과 서비스

TypeSafe AI, Jev 1.14 공개…박스 타입 추가, 이미지·262k 컨텍스트는 실험 헤더로

TypeSafe AI가 결정 모델 Jev 1.14를 10월 15일 jev-preview로 공개했다. 박스 타입이 새로 생겼고 이미지 입력과 262k 컨텍스트는 실험 헤더로 쓴다. 요금은 그대로다.

루카스 ·

TypeSafe AI가 10월 15일 System One 계열 결정 모델 Jev의 새 버전 1.14(jev-1.14.0)를 jev-preview 별칭으로 공개했다. 이미지 입력, 박스(Box) 타입, 더 긴 컨텍스트라는 실험 기능 세 가지가 헤더를 켜면 동작한다. 이 가운데 박스 타입은 1.14에서 새로 생겼고, 이미지 입력과 긴 컨텍스트는 1.13에서도 같은 방식으로 쓸 수 있다. TypeSafe는 세 기능 모두 아직 프로덕션에 쓸 단계가 아니라고 밝혔다.

Jev는 TypeSafe의 호스팅 API(POST /v1/systemone)로만 쓸 수 있다. 공개 가중치는 없고, 파라미터 수와 하드웨어 사양, 양자화 버전도 공개되지 않았다. 요금은 입력 토큰 10억 개당 42달러(100만 개당 0.042달러)로 그대로이고 출력 토큰은 무료다. 이미지는 별도 요금 없이 일반 입력 토큰 가격으로 계산된다.

Jev의 작동 방식과 새 기능

Jev는 글을 생성하지 않고 형식이 정해진 결정을 돌려준다. 사용자가 상태(state)와 함께 Choice, Score, Noul 중 하나의 유형으로 질문을 보내면, 각 질문에 해당 유형의 값과 확률, 신뢰도 점수를 답한다. TypeSafe는 이 모델을 Reinforcement Learning for Calibrated Decisions라는 강화 학습 방식으로 학습시킨다고 밝혔다. 또 1.14가 거의 모든 면에서 조금씩 나아졌고 다국어 지원에서 향상이 가장 클 것이라고 주장했다.

이미지는 요청 최상단의 assets 맵에 참조 문자열과 함께 한 번 등록한다. 그 참조를 상태, 지시문, 기준 어디에든 넣으면 API가 모델이 읽기 전에 이미지로 바꿔 끼운다. TypeSafe는 jev-1.13.0이 원래부터 멀티모달이었다고 설명했다. 이미지 문서는 1.13과 1.14 모두 이미지를 받는다고 안내하며, 요청마다 TypeSafe-Danger-Zone-Images: true 헤더를 보내야 한다고 했다.

  • 형식은 PNG 또는 JPEG 정지 이미지만 가능하다.
  • 파일당 16MiB 이하, 한 변 256~1568픽셀이다.
  • 요청 본문은 32MiB 이하다.

TypeSafe는 Jev를 포함한 모든 모델이 이미지에서는 텍스트보다 성능이 떨어진다고 경고하며, 가능한 한 단순한 질문을 쓰라고 권했다.

박스 유형은 질문 하나에 경계 상자 하나를 돌려주는 새 질문 유형이다. 위·아래·왼쪽·오른쪽 가장자리를 0~1 사이 비율로 답하고 신뢰도 점수를 함께 준다. jev-1.14.0 또는 jev-preview와 이미지 헤더가 필요하다. 박스에는 '찾지 못함' 답이 없어서, 대상이 없는 물체를 물어도 네 가장자리 값을 반환한다. TypeSafe는 대상이 있는지 확인하는 Noul 질문을 함께 쓰라고 제안했다.

TypeSafe는 박스 답과 함께 쓸 잘림 확인 방법을 비교하려고 그림 크롭 36장으로 작은 시험도 했다. 각 크롭은 대상의 일부가 잘려 있다. 잘린 크롭 36장 중 가장자리별 Noul 질문 4개는 30장을, '전체가 안에 들어 있는가'라는 질문 하나는 26장을, 박스를 윤곽선으로 그려 묻는 방식은 20장을 잡아냈다.

컨텍스트 한도와 배포 일정

기본 컨텍스트 창은 1.13과 1.14 모두 요청당 64k 토큰, 질문당 32k 토큰이다. TypeSafe-Danger-Zone-Long-Context: true 헤더를 보내면 두 한도가 모두 262k 토큰으로 늘어난다. TypeSafe는 Jev가 내부적으로 긴 컨텍스트를 늘 처리할 수 있었지만, 모든 모델처럼 긴 입력에서 신뢰도가 떨어져 일부러 제한했다고 밝혔다. 개발팀은 여전히 짧은 컨텍스트를 권한다.

jev-preview는 10월 15일 현재 jev-1.14.0을 가리키고, jev-latest는 일주일 뒤인 10월 22일 jev-1.14.0으로 이동한다. jev-1.13.0은 계속 쓸 수 있으며 중단 60일 전에 알린다. jev-1.14.0은 중단 30일 전에 알린다.

TypeSafe가 릴리스 글에 실은 자체 성능 차트는 공개 가중치 모델만 비교 대상으로 삼았고 수치 표는 없다. TypeSafe는 이 측정이 자사 모델에 유리하게 치우쳤을 가능성이 높다며 개발자에게 직접 평가를 우선하라고 말했다.

댓글

기사에 대한 의견이나 틀린 내용 제보를 남겨 주세요.

댓글을 불러오고 있습니다.