AI 반도체의 숫자를 전력 현장에서 시험한다, K-Perf의 다음 단계

AI 반도체를 고를 때 제품 소개에 적힌 성능과 현장에서 처리하는 업무의 성능은 어떻게 연결될까. 과학기술정보통신부는 10월 2일 한전·리벨리온·한국정보통신기술협회, TTA의 기술협력 업무협약을 발표했다. 국산 NPU를 전력 분야 AI 영상분석에 적용하고 K-Perf로 검증하려는 협력이다. 현장 시험의 준비와 완료된 성능 결과를 같은 것으로 읽지 않는 것이 출발점이다.

협약에서 맡은 역할은 서로 다르다. 한전은 전력 현장의 시범운영과 활용모델 개발을, 리벨리온은 NPU의 성능 최적화와 기술지원을 담당한다. TTA는 운영환경을 반영한 성능·신뢰성 검증을 맡는다. 수요기관과 공급기업, 검증기관의 책임을 나누어 실제 사용할 조건에서 시험할 체계를 마련한다는 설명이다.

한전이 계획한 실증은 변전소마다 분산 운영하던 AI 영상분석을 NPU 기반 통합 관제 시스템으로 전환하는 것이다. 처리 성능과 비용 절감 효과 등을 확인할 예정이다. 발표에 실제 절감액이나 현장 정확도의 최종 수치가 제시된 것은 아니다. 협약 체결을 전국 변전소의 전환 완료나 특정 반도체의 성능 우위가 확정된 결과로 확대할 수 없다.

K-Perf는 지난해 12월 15개 수요·공급기관이 실제 사용 환경을 중심으로 측정 모델과 시험 조건을 정해 발표한 지표다. 첫 응답 시간과 토큰 생성 시간, 사용자별 처리량 등을 살펴보는 TTFT·TPOT·TPS/1user 같은 항목이 포함됐다. 이번에는 생성형 AI 서비스 중심의 검증에서 전력 현장 영상분석으로 적용 범위를 넓히려 한다. 서로 다른 업무의 숫자는 같은 시험 조건인지 확인하며 비교해야 한다.

SOCRA는 이번 협약을 구매 판단에 필요한 현장 데이터를 만드는 과정으로 읽는다. 실제 결과가 나오면 어떤 입력과 장비 구성에서 측정했는지, 처리량·정확도·안정성·운영비를 어떻게 구분했는지 살펴볼 수 있다. 이것은 지금 발견한 결함이나 실패를 주장하는 것이 아니라 결과를 해석할 기준이다. 협력 참여만으로 매출이나 투자 수익이 확정되는 것도 아니다.