KAIST, 스마트폰 AI가 서버 지식을 쌓아 쓰는 CURE 공개…호출 55%↓
오늘 헤럴드경제·아주경제 보도가 뜨길래 정리해봤어요. KAIST 전산학부 이재길 교수 연구팀이 기기 소형 AI와 서버 대형 AI를 잇는 협업 기술 CURE(누적 지식 재사용)를 공개했다는 이야기입니다. “온디바이스가 빨라졌다”보다, 서버에 같은 질문을 반복하지 않게 만든 구조가 핵심으로 읽혀요.
AI 요약
기존 기기–서버 협업은 어려운 문제만 서버로 보내지만, 받은 답을 그때만 쓰고 버리는 경우가 많았습니다. CURE는 서버가 알려준 내용을 기기에 지식으로 쌓아 두고, 비슷한 입력이 다시 오면 먼저 그 지식을 씁니다. 그래도 부족할 때만 서버를 호출하는 3단계 구조예요. 비전–언어 모델로 검증했을 때 서버 호출은 평균 55.61% 줄었고, 처리 속도는 기존 협업 대비 최대 2.8배, 전부 서버로 보내는 방식 대비 최대 3.67배 빨랐다고 합니다. ECCV 2026에서 발표됐고, 소형·대형 모델을 따로 재학습하지 않아도 지식 저장소만 붙이면 쓸 수 있다는 점이 눈에 띕니다.
핵심 포인트
- 무엇을 고쳤나: 소형 AI가 먼저 자체 처리 가능 여부를 보고, 어렵면 기기 안 저장 지식을 쓰고, 그래도 안 되면 서버를 부르는 순서입니다. 일회성 답변 소비에서 ‘축적·재사용’으로 바뀐 셈이에요.
- 지식 저장 방식: 사례를 낱개로 쌓지 않고, 여러 사례가 공유하는 특징·차이를 요약해 둡니다. 그래서 예전에 본 것과 비슷한 새 입력에도 쓸 여지가 생깁니다.
- 실험 설정: 기기용은 MobileCLIP2, 서버용은 약 180억 매개변수급 EVA-CLIP으로 이미지·텍스트 이해 작업을 돌렸습니다. 정확도는 전부 서버 처리에 가깝게 유지하면서 호출·지연을 줄였다고 합니다.
- 적용 시나리오: 스마트폰 사진 검색·개인 AI 비서뿐 아니라 로봇·웨어러블처럼 통신이 흔들릴 수 있는 현장에서도, 이전에 쌓은 지식으로 주변을 판단하는 데 도움이 될 수 있다고 연구팀은 봅니다.
- 한계: 실제 효과는 기기 성능·저장 공간·통신 환경·입력 분포에 따라 달라질 수 있어 추가 검증이 필요하다고 명시돼 있습니다. 논문·보도 단계이지 상용 제품 출시 뉴스는 아닙니다.
왜 중요할까
실무 기준으로 핵심은 “벤치마크 숫자”보다, 온디바이스 AI의 병목이 연산만이 아니라 반복 서버 왕복이라는 점을 구조적으로 건드렸다는 점이에요. 클라우드 비용·지연·프라이버시 압박이 커질수록, ‘언제 서버를 부를지’와 ‘부른 결과를 어떻게 남길지’가 제품 설계의 중심이 됩니다.
재학습 없이 지식 저장소만 붙일 수 있다면, 이미 배포된 소형 모델 위에 점진적으로 얹어 볼 여지가 있습니다. 다만 저장 지식의 품질 관리(오래된 지식 폐기, 도메인 이탈, 보안·개인정보)는 제품화 단계에서 따로 설계해야 합니다. 엣지 AI·AICC·현장 로봇을 다루는 팀이면, 지금 점검할 질문은 (1) 반복 질의 비율, (2) 서버 호출당 비용·지연, (3) 기기 측 캐시/지식 저장 여유입니다.
출처
헤럴드경제 — https://biz.heraldcorp.com/article/10879922
아주경제 — https://www.ajunews.com/view/20260921084650712
이 글은 공개된 보도를 바탕으로 재구성·해설한 큐레이션이며, 원문 문장을 옮기지 않았습니다.
#AI트렌드 #KAIST #CURE #온디바이스AI #엣지AI #ECCV2026 #IT뉴스 #나두AI
댓글
댓글 쓰기