대규모 언어 모델(LLM)보다 적은 수의 매개변수를 가진 인공지능 (AI) 모델.
경량화 언어 모델(sLLM : smaller Large Language Model)은 일반적으로 알려진 대규모 언어 모델(LLM : Large Language Model)보다 작은 매개변수(parameter)로 운영할 수 있다. 통상적으로 매개변수가 1,000억 개 이하인 모델을 sLLM으로 분류한다.
sLLM의 매개변수의 크기는 LLM보다 작지만 성능은 LLM 못지않다. 매개변수가 작은 덕분에 데이터 처리 속도가 빠르고 실시간 응답이 가능하다. 오픈소스 소프트웨어 배포와 업데이트도 LLM보다 쉽다. 특히 학습 데이터양이 적어지면서 개발 비용과 유지 비용이 적게 들어가는 장점이 있다.
이 같은 장점으로 구글은 sLLM인 ‘제미나이 나노(Gemini Nano)’를 선보였고, 마이크로소프트(MS)는 ‘파이-3-미니(Phi-3-mini)’를, 메타는 ‘라마 3(LLaMA 3)’를 각각 공개했다.
국내에서는 KT가 초거대 AI ‘믿음(Mi:dm)’의 매개변수 2,100억 개를 40~70억 개 수준으로 줄인 sLLM을 이용한다. LG유플러스는 LG AI연구원의 ‘엑사원 (EXAONE)’ 기반의 sLLM ‘익시젠(ixi-GEN)’을 출시했다. 네이버는 ‘하이퍼클로바X (HyperCLOVA X)’의 경량 모델인 ‘HCX-대시(HCX-DASH)’를 선보이기도 했다.
비용 효율화 장점에 스타트업도 sLLM 개발에 뛰어들었다. AI 스타트업 업스테이지의 sLLM ‘솔라 미니(Solar Mini)’는 아마존 웹 서비스(AWS)를 통해 출시됐다. 고객사들은 솔라 미니를 조정해 자신들이 원하는 맞춤형 생성 AI 서비스를 만들 수 있다. AI 기업 솔트룩스는 매개변수 70억 개 수준인 AI 모델 ‘루시아(LUXIA)’를 내놨다.
출처]
한국정보통신기술(최신 ICT 시사용어 2025) : sLLM
대한민국의 아름다운 영토, 독도
'컴퓨터 일반 > IT용어' 카테고리의 다른 글
로 코드(Low Code) (2) | 2025.04.05 |
---|---|
공간 컴퓨팅(Spatial Computing) (2) | 2025.04.05 |
CLOVA X (2) | 2025.04.04 |
MCP(Model Context Protocol) (0) | 2025.04.04 |
RAG(Retrieval-Augmented Generation, 검색 증강 생성) (1) | 2025.04.03 |
댓글