A collection of 92 articles on programming, technology and life.
Concept 각 문서들의 순서대로 순회하면서 답변(Response)을 정제(Refine) 하여 최종 답변을 구하는 이다. 구현하는데 여러 방법이 있겠지만, 해당 페이지에는 첫 번째 문서를 기준으로 답변을 하나 구한 뒤, 나머지 문서들을 순회하며 답변 내용을 추가하거나 수정하는 방법을 사용한다. 첫 번째 문서의 답변을 구해주는 과 해당 에서 얻은 결과를 바탕으로 나머지 문서를 순회하며 하는 으로 구성되어 있다. [R
Concept 검색(Retrieval)과 생성(Augmented Generation)을 결합하여 자연어 처리(NLP) 및 기계 학습 분야, 특히 챗봇이나 질문-응답 시스템과 같은 고급 언어 모델을 구축하는 데 사용되는 기술이다. RAG System은 질문이나 Prompt가 주어지면 Model이 관련된 정보를 탐색하고 정보들을 바탕으로 일관적인 답변을 생성하도록 작동하는 System을 말한다. RAG Process ![RAG Process](<https://dqygovtpvlsoxwnnhepz.supab
Detail UI는 [[Document GPT]] 동일하게 제작하였다. 의 와 [[Offline Model]]을 사용하였고, 이를 [[Streamlit#selectbox|selectbox]]을 이용하여 사용자가 어떠한 model을 사용할 것인지를 지정할 수 있게 구현하였다. model 지정 값은 초기화 되면 안되기 때문에 을 이용해서 file이 없을 때만 model name이 초기화 되도록 설정한다.
Concept 나 같은 유료 Model을 사용할 수도 있지만, 직접 Model을 다운해 로컬 컴퓨터로 연산하는 을 사용할 수도 있다. 컴퓨터 성능만 좋다면, 무료로 GPT-4와 비슷한 Model 성능을 발휘할 수 있다. 하지만 대부분의 컴퓨터가 성능이 좋지 않기 때문에 유료 Model에 비해 등이 적은 Offline Model을 사용하게 된다. 따라서 성능이 크게 중요하
Concept 사용자의 과 Model의 을 저장하는 기능이다. 대표적으로 , , 등이 있다. Memory를 통해 Model이 과거 대화들을 기억하게 함으로써 의 연속성을 부여해준다. Common Feature 와 `loadmemoryvariables(