랭체인으로 PDF 문서를 읽고 대화내용을 기억하는 LLM 만들기
본 포스팅은 langchain==0.0.229를 사용합니다. 현재(2024/04/15)기준 최신 버전은langchain==0.1.16이므로 참고 바랍니다. 또한 gpt-3.5-turbo-0125모델을 사용하므로 openai api키가 있어야합니다.
최근 포스트
자연어처리-5 Transformer(2)
오늘은 지난 트랜스포머 1편에 대한 구체적인 동작 원리를 코드를 통해 알아보도록 하겠다. 지난 포스팅이 궁금한 사람은 여기를 참고하기 바란다.
자연어처리-5 Transformer(1)
정말 오랜만에 다시 글을 쓰러 왔다. 지금까지는 학부생이었는데, 지금은 직장인이 되었다.. 오늘은 Transformer에 대해서 알아보려고 한다. 공부하는데 어려움이 있었지만 꽤 흥미로웠다!! 본 포스팅은 2편으로 만들 예정이고, 1편에서는 간단한 구조를 알아보고 2편에서는 코드를...
seq2seq모델에 어텐션 매커니즘을 추가해보자
어텐션을 적용한 seq2seq
LSTM의 return_state와 return_sequences
return_state=False, return_sequences=False