오픈 모델인데 아직 못 내려받는다? 미스트랄의 두 단계 출시

오픈 모델이라는 소개를 봤는데 다운로드 대신 API가 먼저 열린다. 미스트랄이 10월 6일 발표한 Large 4의 출시 방식이다. 공개 미리보기는 시작했지만 가중치는 이달 말에 내놓을 계획이다. 같은 신제품 소식 안에 서로 다른 두 개의 일정이 들어 있다.

API는 제공자의 서버에 요청을 보내 쓰는 길이다. 가중치를 받아 직접 운영하는 길은 서버와 운영 환경을 따로 준비하는 결정으로 이어진다. 지금 기능을 시험할 수 있다는 사실이 곧 내 환경에 모델을 설치할 수 있다는 뜻은 아니다. 어떤 문이 열렸는지부터 구별해야 한다.

Large 4는 문자와 시각 정보를 함께 다루는 멀티모달 모델로 소개됐다. 공식 문서에는 전체 1.05조 개와 활성 520억 개 매개변수, 100만 토큰 문맥이 표시돼 있다. 전체 크기와 매번 활성화되는 부분, 한 번에 다룰 입력의 범위는 각각 다른 특성이다.

문맥 창이 크면 문서를 많이 넣을 여지는 생긴다. 그렇다고 긴 계약서의 모든 예외를 빠짐없이 이해한다는 뜻은 아니다. 용량은 얼마나 담을 수 있는지의 질문이고, 답변 품질은 담긴 내용을 얼마나 정확히 찾아 연결하는지의 질문이다. 시험할 때도 두 항목을 나누는 편이 낫다.

미스트랄의 기능 목록에는 문서 질의응답, 정해진 형식의 출력, 외부 기능 호출이 들어 있다. SOCRA의 가상 업무로 생각하면, 자료에서 납기 조건을 찾고 정해진 칸에 옮기는 작업을 시험할 수 있다. 다만 목록에 기능 이름이 있다는 것만으로 우리 문서의 정답률이 정해지지는 않는다.

처음 비교할 때는 거대한 업무 전체를 맡기는 대신 답을 알고 있는 작은 묶음을 준비해 보자. 어떤 항목을 찾았고 무엇을 빠뜨렸는지, 근거 위치를 제대로 가리켰는지를 남기는 것이다. 이는 SOCRA가 제안하는 평가 방식이며 Large 4로 이미 얻은 실무 성과를 보고하는 것은 아니다.

회사는 가중치 공개 전에 협력사와 실제 환경의 안전 평가를 진행한다고 밝혔다. 제품을 널리 배포할 때 나타날 문제를 살피는 단계라는 설명이다. 그 일정을 읽고 모든 위험이 해결됐다고 결론 내릴 수는 없다. 공개 이후 조건과 자료도 이어서 확인해야 한다.

직접 운영을 고민한다면 모델 파일 밖의 일도 계산에 넣어야 한다. 장애 대응, 버전 관리, 접근 권한과 작업 기록까지 담당할 사람이 필요하다. 반대로 외부 API를 쓴다면 데이터 처리 조건과 비용을 읽어야 한다. 어느 선택이 무조건 저렴하거나 안전하다는 답은 이번 발표만으로 나오지 않는다.

이번 출시 방식은 모델을 시험하는 시점과 직접 운영을 결정하는 시점을 갈라 놓았다. 기업은 API 미리보기에서 기능을 볼 수 있지만, 가중치를 전제로 한 배포와 운영 판단에는 뒤따를 공개 자료가 필요하다. 커다란 문맥 창과 지원 기능 목록만으로 도입 준비가 모두 끝났다고 보기는 어렵다.

Large 4의 다음 관전점은 이달 말 공개 계획과 그 뒤의 실제 사용 조건이다. 그동안 API 미리보기로 확인할 질문을 작게 정해 둘 수 있다. 열려 있는 문부터 들어가되, 아직 열리지 않은 문까지 이미 통과했다고 생각하지 않는 것. 출시 뉴스를 읽는 데도 순서가 있다.