AI 호출료가 낮아지면, 서비스의 이익도 바로 늘어날까?

AI 서비스가 싸게 답하면 사업도 곧 좋아질까? 기능을 만드는 개발자와 기업을 읽는 투자자 모두에게 필요한 질문이다. 답변 한 번의 가격을 아는 것과 사용자가 원하는 일을 끝내는 비용을 아는 것은 다르다. 새 모델 발표는 그 사이를 살펴볼 계기가 된다.

Anthropic은 10월7일 Haiku5.5를 발표했다. 대량 호출과 비용에 민감한 작업을 겨냥한 작은 모델이라는 회사 설명이다. 이번 소식의 핵심은 가장 큰 모델만 쓰는 선택 외에, 좁은 일을 다른 모델에 맡길 가능성이 더해졌다는 점이다.

가격표에서 프롬프트가100k 토큰 이하일 때 백만 입력 토큰은0.10달러, 출력은0.50달러다.100k를 넘는 경우 각각0.50달러와2.50달러로 달라진다. 이는 해당 API 표의 단가이며 구독 요금이나 사용자의 월 지출, 다른 플랫폼의 청구액을 뜻하지 않는다.

토큰은 모델이 읽고 쓰는 텍스트의 처리 단위다. 같은 요청도 입력과 출력의 길이가 다르고 반복 요청이 생길 수 있다. 그래서 단가 하락을 회사 전체 비용의 같은 비율 감소로 옮기려면 실제 사용량과 작업 과정이 더 필요하다. 이 글은 그 수치를 측정하지 않았다.

가상의 고객 문의 분류 서비스를 생각해 보자. 문의를 종류별로 나누는 작업과 까다로운 계약 판단은 필요한 성능이 다르다. 전자는 좁은 규칙으로 결과를 확인할 수 있지만 후자는 사람의 판단이 더 필요할 수 있다. 실제 고객사의 도입 사례를 취재한 장면은 아니다.

회사도 복잡한 에이전트 코딩에는 Sonnet이나 Opus가 더 적합하고 Haiku는 좁은 작업에 어울린다고 설명한다. 작은 모델이 모든 큰 모델의 일을 대체한다는 뜻은 아니다. 기능별로 필요한 성공 조건을 정해야 가격이 다른 모델을 비교할 수 있다.

Haiku 계열에서 처음 제공한다는 effort 조절도 같은 맥락이다. 계산의 노력과 결과의 질 사이를 작업에 맞춰 조정하는 선택이다. 설정을 낮추면 내 과제의 품질이 유지되는지, 올리면 실제로 도움이 되는지는 별도로 확인해야 하며 여기서는 실험하지 않았다.

사업을 읽을 때는 단가 다음에 재시도, 사람의 확인, 고객 지원을 붙여 보자. 싸게 만든 초안을 여러 번 고치면 완료 비용이 달라진다. 반대로 반복되는 작은 작업을 안정적으로 끝내면 활용 범위를 넓힐 수 있다. 이는 가능한 작동 원리에 관한 SOCRA의 해석이다.

남은 질문은 절감된 비용이 어디로 가는가다. 회사가 가격을 낮출 수도 있고 품질 개선에 쓸 수도 있으며 경쟁으로 여유가 줄 수도 있다. 모델 출시만으로 매출 성장이나 수익 증가, 특정 주가 방향을 확정할 수 없다. 실제 실적과 계약을 이어 읽어야 한다.

20대가 이 뉴스를 지식으로 바꾸는 방법은 간단한 비용표를 직접 그리는 일이다. 호출 단가, 필요한 호출 수, 검수 시간, 성공 조건을 나란히 적는다. 어떤 기업이 이익을 얻을지 먼저 고르기보다 이익이 생기려면 무엇이 달라져야 하는지 설명하는 연습이다.