A collection of 92 articles on programming, technology and life.
Concept Caching을 통해 Human의 질문과 AI의 답변을 저장하여 같은 질문이 나왔을 때, 저장한 데이터를 보여줌으로써 시간과 비용을 효과적으로 줄일 수 있다. Caching을 사용하기 위해선 을 사용하여야 한다. setllmcache function Parameter에 어디에 저장할 지를 지정해주어야 한다. `python from langchain.globals import setllmcache se
OpenAI LangChain에서는 다양한 model을 사용할 수 있다. 그 중에서 해당 Part에서는 OpenAI Models를 사용할 것이다. OpenAI에서는 GPT-4o, GPT-4o mini, GPT-4, GPT-3.5 Turbo 등 다양한 models이 있다. Models Info에서 각 model의 정보와 context window, output max tokens, trainin를 알 수 있다. [Models Prici
Concept LLM과 의사소통 할 수 있는 방법이며, prompt가 좋아야 llm의 성능이 올라간다. LangChain framework의 대부분의 기능도 이 prompt를 만드는 것에 집중되어 있다. Using Template Prompt을 만들기 위해서는 Template이 필요하다. Template는 크게 , 로 나뉜다. response를 얻기 위해 는 predict을 `ChatProm
Concept LLM의 response을 변형할 때 사용된다. (ex, response를 str에서 list, dictionary로 바꾸기) schema에 다양한 Output Parser가 존재한다.' Parser Shape BaseOutputParser 가 constructor인 Parser class로 만든 뒤, parse functoin을 만들어 원하는 값으로 데이터를 가공하는 것이 기본적인 형태이다. `from langcha
Concept 은 [[Output Parser]]을 포함한 [[Prompt#Template Type|Template]], [[Prompt]], [[Using OpenAI models And LangChain#Predicts|Predict]] 과정을 효과적으로 줄일 수 있다. 를 이용해 여러 과정들을 하나로 묶어 Chain을 만든다. **ex ) Chain = Template | Language Model | Output Pa