AI가 답하지 않을 때, 인증 실패를 서버 고장과 나눈다

AI 호출이 실패했을 때 같은 요청을 다시 보내면 해결될까. 인증 정보가 거절된 경우라면 기다리는 것만으로 상황이 달라지지 않을 수 있다. 클라우드플레어는 10월 6일 AI Gateway의 공급자 자격증명 오류 응답을 표준화한다고 공식 공지했다.

대상은 AI Gateway REST API의 POST /ai/run 경로다. 회사는 공급자가 인증 정보를 거절한 경우 일반적으로 HTTP 401과 오류 코드 2009를 돌려주도록 정리했다고 밝혔다. 공급자마다 달랐던 응답을 앱이 같은 종류의 문제로 분류할 접점이 생겼다.

변경 전에는 공급자에 따라 다른 상태가 돌아왔다. 공지에 제시된 Google Vertex 사례에서는 거절된 자격증명이 HTTP 500과 재시도로 처리됐다. 이제는 401과 2009로 실패하고 해당 공급자에 다시 시도하지 않는다고 설명한다.

이 차이는 오류가 발생한 위치를 읽는 방식에 영향을 준다. 서버가 잠시 불안정한 것처럼 보이던 응답과 인증 정보를 확인해야 하는 응답은 필요한 조치가 다르다. 모델의 답변 품질 문제로 분류할 사안도 아니므로 장애 원인을 찾는 출발점이 달라질 수 있다.

모든 상황이 401로 같아진 것은 아니다. 통합 청구인 Unified Billing을 이용하는 중 공급자가 자격증명을 거절한 경우는 HTTP 503으로 따로 안내됐다. 표준화라는 제목만 읽고 예외까지 한 처리 경로로 묶으면 잘못된 안내를 만들 수 있다.

서비스가 오류 번호에 따라 재시도나 이용자 메시지를 정한다면 이번 변경은 화면 밖의 동작까지 이어진다. 사용자가 고칠 수 없는 문제에 인증 정보를 다시 입력하라고 요구하거나, 잘못된 인증으로 호출만 반복하는 상황을 피하려면 각 응답의 의미를 맞춰야 한다.

다만 재시도가 사라졌다는 사실을 모든 API의 재시도 정책이 바뀌었다는 뜻으로 확대해서는 안 된다. 공식 공지가 지목한 경로와 공급자 인증 거절 상황이 범위다. 네트워크 단절이나 사용량 제한 등 다른 실패의 처리까지 같은 규칙이 된 것은 이 자료로 확인되지 않는다.

개발팀이 볼 기록도 달라진다. 변경 전후의 500 오류 수만 비교하면 서비스가 갑자기 안정됐다고 오해할 수 있다. 일부 실패가 다른 분류로 옮겨간 것인지 실제 발생이 줄어든 것인지 나눠 봐야 한다는 해석이 가능하다.

이번 공지의 본문 날짜는 10월 6일이며 주소 문자열에는 10월 5일이 들어 있다. SOCRA는 공개 페이지가 명시한 날짜를 사용했다. 실제 요청을 보내 검증한 결과는 아니므로 오류 감소량이나 비용 절감 수치를 별도로 제시하지 않는다.

변화의 크기는 짧은 오류 코드보다 그 뒤의 행동에 있다. 다시 기다릴지, 인증 조건을 확인할지, 서비스 운영자가 대응할지 구분할 단서가 정리됐다. AI 개발에서도 실패를 정확히 이름 붙이는 일이 정상 응답을 만드는 일만큼 중요해지고 있다.