로고


LLM

RAG 설명

gaons2024.12.29 21:39조회 수 4댓글 0

    • 글자 크기

검색-증강 생성이란?

RAG(Retrieval-Augmented Generation)는 대규모 언어 모델의 출력을 최적화하여 응답을 생성하기 전에 학습 데이터 소스 외부의 신뢰할 수 있는 지식 베이스를 참조하도록 하는 프로세스입니다. 대규모 언어 모델(LLM)은 방대한 양의 데이터를 기반으로 학습되며 수십억 개의 매개 변수를 사용하여 질문에 대한 답변, 언어 번역, 문장 완성과 같은 작업에 대한 독창적인 결과를 생성합니다.

RAG는 이미 강력한 LLM의 기능을 특정 도메인이나 조직의 내부 지식 기반으로 확장하므로 모델을 다시 교육할 필요가 없습니다. 이는 LLM 결과를 개선하여 다양한 상황에서 관련성, 정확성 및 유용성을 유지하기 위한 비용 효율적인 접근 방식

- AWS -

 

쉽게 설명하면 다음과 같다.

1. LLM 은 그러나 알고 있는 사실을 토대로 잘못된 정보를 줄때가 있다.(할루시네이션)

2. LLM 은 이미 알고 있는 내용을 토대로만 설명 하고 있기 때문에 정보가 바뀌는 경우 재학습을 해야 한다.

이를 해결 할수 있는게 RAG 이다.

 

RAG 는 다음과 같이 처리한다

1. 외부 지식베이스(DB) 에서 검색

2. 이미 검색한 정보를 LLM 에게 전달

3. LLM 은 그 정보를 가지고 TEXT 를 생성한다.

ㄴ 이 텍스트는 비교적 높은 정확성을 가진다.

 

차차 하나씩 적어나갈것이다.

 

 

    • 글자 크기

댓글 달기

번호 분류 제목 글쓴이 날짜 조회 수
LLM RAG 설명 gaons 2024.12.29 4
첨부 (0)