어텐션랩, NIPA 오픈소스 AI·SW 과제 참여… 산업 운영 데이터 추론 엔진 개발

김형석 기자

작성일 2026-07-06 18:03

인공지능 시스템 기업 어텐션랩이 정보통신산업진흥원(NIPA)이 주관하는 ‘2026년 오픈소스 AI·SW 개발·활용 지원사업’에 참여한다고 밝혔다. 본 사업은 ‘LLM 서비스 성능-비용 최적화를 위한 오픈소스 AI 게이트웨이(LoxiLB) 고도화’를 목표로 하며, 어텐션랩은 이 과제에서 자연어 기반 AI 게이트웨이 운영 인터페이스인 Agentic TUI와 SCADA 데이터를 활용한 산업 운영 추론 엔진 개발을 담당한다.

과제는 2026년 5월 1일부터 12월 31일까지 진행되며, LLM 서비스 운영 시 발생하는 응답 지연, 반복 컨텍스트 처리, GPU 자원 사용 최적화 등의 문제를 해결하기 위한 오픈소스 AI 인프라 고도화를 목표로 한다. 특히 산업 설비, 통신망, 에너지 인프라 등 운영 환경에서 SCADA와 같은 현장 데이터를 AI가 해석 가능한 구조로 전환하고, 이를 실제 운영 판단으로 연결하는 기술의 중요성이 강조되고 있다.

어텐션랩이 개발하는 Agentic TUI는 운영자가 자연어 명령을 통해 AI 게이트웨이의 상태 확인, 설정, 모니터링, 장애 대응 등의 과정을 직관적으로 처리할 수 있도록 지원하는 터미널 인터페이스다. 이를 통해 복잡한 API 호출이나 설정 절차에 대한 부담을 줄이고, GPU 상태, 요청 큐, 응답 지연 등 주요 지표를 쉽게 확인할 수 있는 운영 환경을 구현하는 것을 목표로 한다.

또한, SCADA 데이터를 활용한 추론 엔진 개발을 통해 설비 이벤트, 상태 변화, 장애 징후 등 산업 운영 데이터를 구조화하고, 운영자가 이해할 수 있는 원인 분석 및 대응 판단을 지원할 계획이다. 이는 현장 운영 데이터를 단순 조회하거나 시각화하는 수준을 넘어, 이상 상황을 해석하고 의사결정을 지원하는 AI 운영 계층으로 발전시키는 데 중점을 둔다.

본 과제의 기술 목표에는 LLM 추론 응답 지연 감소를 위한 Prefix-aware Routing, GPU Resource-aware Scheduling, KV Cache-aware Inference Optimization 등이 포함된다. 성과 지표로는 TTFT(Time-to-First-Token) P99 기준 20% 이상 감소, Prefix Cache hit rate 25% 이상 향상, Multi-LLM 3종 이상 지원 등이 제시되었다. 어텐션랩은 운영자 인터페이스와 산업 운영 데이터 기반 추론 계층을 담당하며 AI 게이트웨이 기술의 실제 산업 현장 적용에 기여할 예정이다.

어텐션랩은 이번 과제를 통해 LLM 기반 리즈닝 엔진, Multi-LLM 오케스트레이션, 데이터 구조화 기술을 산업 인프라 운영 영역으로 확장하고, 제조, 인프라, 공공 운영 환경에서 활용 가능한 AI 리즈닝 엔진 기술 기반을 강화할 방침이다.

추천 0