[250210] LLM 특강 두번째 시간~

LLM 톺아보기 ⚙️ 2️⃣

LLM의 성능을 향상시키는 데에는 보편적으로 세가지 방법이 있다~

1. 프롬프팅
2. RAG
3. Fine-Tuning

RAG란?

LLM이 이미 알고 있는 대답(혹은 디비에서 찾지 못했던 데이터에 대한 정보)을

인터넷에 다시 한번 검색을 거쳐서 그것을 토대로 답변을 생성해내는 것이다~

NLP란?

말 그대로 자연어 처리 기술(Natural Language Processing)인데

LLM도 자연어를 처리하지 않나요???

이거는 쉽게 얘기해보자면 과일과 사과는 같나? 같은 의미임

과일 안에 사과가 포함돼있듯이 NLP의 큰 갈래 안에 LLM이 포함되어 있는 것

RAG에서 Retrieval은 컴퓨터에 있는 특정 데이터를 가져오는 것을 의미하는데,

쉽게 말하자면 에레렘이 가지고 있지 않은 정보를 가져오는 것임

ex. 에레렘한테 지드래곤에 대한 정보를 물어본다면 에레렘은 지디에 대한 정보를 갖고있지 않아서

인터넷에서 검색한 정보를 토대로 나한테 대답을 해주는 것!

RAG의 A는 Augmented로,

증강이라는 뜻을 가지고 있음

즉, 정보를 증강해서 내가 이미 알고있는 것처럼 이라는 뜻

이라고 보면 되겠다

G는 Generation 말 그대로 생성하는 것

즉, 말 그대로 언어모델이 초기 학습할 때부터 갖고있지 않았던 데이터에 대해서

외부에서 데이터를 가져와서 사용하는 방법인 것이다~

근데 이제 그 검색을 위해서 단어간의 유사도를 계산해야하는데~

어떻게 하냐?

1. 코사인 유사도
2. 유클리드 거리

두가지 계산방법이 보편적으로 사용된다~

1️⃣ 코사인 유사도:

• 두 벡터가 이루는 각도를 계산해서 얼마나 유사한지를 보는 것

2️⃣ 유클리드 거리:

• 두 벡터가 얼마나 떨어져 있는지(= 얼마나 가깝게 붙어있는지, 직선거리)를 보는 것

유사도를 계산 했다면 이제 다시 컴퓨터가 알아들을 수 있도록

데이터값을 벡터로 변환해줘야 하는데 이것을 임베딩이라한다~

참고하쉐이~

에레렘이 외부 데이터를 검색한 후, 해당 데이터를 바탕으로 답변을 생성하기 까지

크게 두 단계로 나뉘는데,

1. Indexing(색인화)
2. Retrieval and Generation(검색 및 생성)

이렇게 나뉨

1️⃣ 인덱싱은:

• 데이터를 불러오고, 그것을 쪼개고, 임베딩하고, 저장하는 순임

2️⃣ 검색 및 생성 단계는:

1. 사용자한테 질문을 입력받으면 그 질문을 임베딩한 후
2. 관련 문서를 검색하고
3. 그것을 토대로 답변을 생성

간단하게 LLM+RAG를 실험해보기 위해

Anything LLM을 설치하여 실습해보았다~

이 화면을 보고 API의 문서화라고 한다~

이렇게 해서 오늘 실습까지 뚝딱~~~~

담에 랭체인 들어간다는데 벌써부터 귀찮아^,^

그럼 20000,,,