비투엔, RAG 플랫폼 '하이퍼글로리'로 공공·대기업 시장 정조준

장두원 비투엔 지능정보기술연구소장

 

비투엔이 검색증강생성(RAG) 플랫폼 '하이퍼글로리'를 기반으로 인공지능(AI) 시장 공략을 강화한다.

장두원 비투엔 지능정보기술연구소장은 최근 전자신문과 인터뷰에서 “비투엔은 오래 전부터 기업 내 데이터가 어디서 생성되고, 어떻게 정제·관리되며, 어떤 기준으로 활용돼야 하는지를 다뤄온 회사”라면서 “이 경험은 RAG 설계에서도 그대로 이어졌다”고 말하며 RAG 플랫폼 '하이퍼글로리'로 AI 시장에서 승산이 있음을 강조했다.

현재 시장에는 이미 다양한 RAG 솔루션이 등장하고 있다. 비투엔은 하이퍼글로리의 본질적 차별점이 단순 기능이 아닌 플랫폼 구조로 접근했다는 점을 꼽았다.

장 소장은 “RAG를 단순히 검색과 생성 기능을 연결한 도구가 아니라, 데이터 관리-추론-검증-운영까지 전 주기를 통제할 수 있는 구조를 지향했다는 것이 가장 큰 차별점”이라고 설명했다.

하이퍼글로리는 특히 공공기관과 대기업 환경을 염두에 두고 개발됐다. △온프레미스·폐쇄망 대응 △보안·권한 통제 △도메인별 LLM 분리 운영 △설명가능성(Explainability) 확보에 초점을 맞췄다.

실제 구축 사례도 확보했다.

비투엔은 지난 4월부터 정보통신산업진흥원(NIPA)이 추진한 AI반도체 해외진출지원 사업을 통해 수행한 '서버용 인공지능 반도체를 활용한 몽골 관세행정 업무지원 챗봇 및 증강검색 플랫폼 서비스 실증'사업을 수행했다. 이 프로젝트에서는 수출입 품목의 설명을 입력하면, 관련 규정과 과거 사례를 기반으로 HS Code를 추천하고 그 근거까지 제시하는 챗봇을 구현됐다.

장 소장은 “이 프로젝트를 통해 RAG 플랫폼이 국가 행정 시스템에서도 활용 가능하다는 점을 입증했다”면서 “특히 NIPA 해외수출지원 사업을 통해 추진되면서, 기술력뿐 아니라 해외 공공기관과의 협업·현지화·운영 경험까지 확보했다는 점도 중요한 성과로 꼽힌다”고 말했다.

이어 장 소장은 “이번 프로젝트는 하이퍼글로리 플랫폼에 AI 반도체(NPU) 기반 인프라가 결합된 구조로, 국산 NPU가 적용된 AI서비스를 해외 공공기관에 최초로 구축한 사례로 많은 시사점이 있다”면서 “NPU 기반 인프라는 대규모 추론 환경에서도 지연을 줄이고, 비용과 전력 효율(20%이상)을 개선하는 데 기여했고, 도메인 특화 RAG, 도메인 특화 LLM, NPU 인프라가 맞물리면서 플랫폼 완성도가 한 단계 올라갔다고 평가할 수 있다”고 덧붙였다.

비투엔은 몽골 관세청 사례를 계기로 다른 국가 관세청이나 해외 공공기관으로 확장을 추진한다.

장 소장은 “현재 타국가 관세청을 대상으로 추가 개념검증(PoC)을 준비 중이며, 중동·아프리카 지역 공공기관과의 협력을 확대할 계획”이라면서 “관세·행정·규제 등 복잡한 규제사항과 전문적인 지식이 필요한 분야는 RAG가 가장 빛을 발하는 영역이며, 비투엔의 하이퍼글로리는 한국을 넘어 글로벌 공공 AI서비스의 표준이 되는 것을 목표로 한다”고 강조했다.

 

▶ 관련기사 : 전자신문