Athena sLLM
Athena
Athena는 고성능 한국어 sLLM을 기반으로 한 RAG 기술,
그리고 모바일 플랫폼 구축/운영 경험에서 비롯된 운영 자동화 역량을 결합하여 고객 맞춤형 AI 솔루션을 제공합니다.
sLLM
한국어 최적화된 고성능 sLLM
- 한국어 지시어 튜닝 & 도메인 지식 학습으로 업무 서비스 최적화(10.7B)
- LLM 개발에서 습득한 AI 학습 방법과 학습용 데이터셋으로 고성능 자연어 처리
RAG
검색 증강 생성 기술
- 실시간 정보 검색과 AI 생성 기능을 결합하여 최신 정보 기반 최적의 답변 제공
- 정보 검색, 데이터 분석 등 다양한 분야에서 정확성, 신뢰성 제공
시스템 통합
& 자동화
AI 운영 최적화
- 다년간 모바일 플랫폼 구축 경험으로 축적된 시스템 통합 기술력
- AI 사업에서도 사용자 경험 향상 및 원활한 시스템 운영 보장
높은 모델 정확도
다양한 업무에서 효율성 극대화
실시간 정보 제공
자동화된 프로세스
비즈니스 가치 증대
RAG로 sLLM을 극대화
RAG는 추가 데이터로 sLLM의 지식을 보강하는 기술입니다.
기업에 필요한 지식을 보강하고 벡터DB화하여 LLM의 모델 프롬프트에 적용시킴으로써 데이터의 정확성과 신뢰성을 향상시킵니다.
<RAG Flow Diagram>
지원 기술과 도구
요청과 답변 캐싱을 통한 자원 효율성 및 데이터 검증 및 모니터링을 통한 신뢰성 있는 응답을 제공합니다.
또한, 모든 요청과 LLM 생성 결과는 기록되어 정합성 향상과 데이터 소스 구축을 위하여 사용됩니다.
적용 기능
LLM 오케스트레이션
- 사용자 인터페이스, 임베딩 모델, 벡터DB 등 LLM 어플리케이션을 위한 다양한 구성요소 연결
LLM 캐시
- 사용자 요청, 검색결과 캐싱
- 과거 동일하거나 유사 요청에 대하여 저장된 답변 전달 : 일치 캐시, 유사검색 캐시
데이터 검증 및 모니터링
- 검색/생성 결과 데이터 검증 : 부적절한 데이터, 개인정보 등 필터링
- 사용자 요청과 LLM 생성 결과 기록 및 모니터링
Small LLM 주요 장점
자원 경량화
- sLLM은 적은 파라미터수로 효율적인 컴퓨팅 자원 사용
- 대형 언어모델에 비해 훨씬 작은 규모의 하드웨어 요구사양
- 경량화로 신속한 모델 업데이트
커스터마이징 및 확장성
- 특정 업무나 요구사항에 맞게 커스터마이징 용이
- 도메인 특화된 데이터 추가 학습을 통해 성능 극대화
- 기업 보유 데이터로 특정 분야에 최적화된 모델을 구축 가능
폐쇄형 구축 통한 정보보호
- sLLM 내부 구축으로 기업의 민감 정보 외부 유출 방지
- 고객 개인정보 보호에 유리
- 감사 추적 등 컴플라이언스 준수 용이성
우수한 경제성
- 훈련에 필요한 데이터, 시간, 비용 효율적
- 적은 파라미터 수로 개발 및 운영 비용 감소
- 경제적인 크기와 실행 가격으로 AI 도입 장벽 낮음
국내 최고의 AI 기술력을 바탕으로 차별화된 sLLM을 제공합니다.
한국어 특화 모델
- 한국어 데이터셋 대규모 학습으로 한국어 자연어 처리에 우수한 성능(10.7B)
- 한국어의 다양한 표현 방식과 문법적 특성에 대한 높은 이해도와 정확도
- 지시어 튜닝(Instruction-tuning) 기법
고성능 자연어 처리 지원
- 텍스트 생성, 번역, 요약, 질의응답 등 다양한 자연어 처리 작업
- 특히, 한국어 환경에서 높은 정확도
- 다양한 테스트 사례에서 확인되는 고성능
고품질 데이터 전처리
- HTML Parsing Chunker – 문서 구조 분석을 통한 청킹
- LLM 개발 과정에서 구축된 풍부한 데이터셋과 학습 방법 보유
커스터마이징 및 확장성
- 특정 도메인인 요구사항에 맞게 sLLM 커스터마이징 가능
- 도메인 특화 데이터 추가 학습 및 미세조정을 통한 성능 극대화
Athena를 이용하여 여러 효과들을 누려보세요!