跳至主要内容

LangChain

Documents

什麼是 LangChain ?

LangChain 是 Robust Intelligence 的前機器學習工程師 Chase Harrison 在 2022 年 10 月推出,一個集合許多基於大型語言模型 ( LLMs ) 相關功能模組的開發框架,可以串接 OpenAIHuggingFace 等,透過不同功能模組之間的「鏈式」串接,開發出能讓大型語言模型實際且有策略執行任務的應用,簡單來說就是方便開發者快速建立 LLMs 應用的工具包。

LangChain 除了主要有 Python 版本,也有提供 JavaScript 版本,JavaScript 版本基本上都和 Python 版本架構設計一樣,但有些模組功能和一些外部服務串接沒有 Python 版本完整。

信息
LangChain 主要擁有兩種能力 :
1. 讓 LLM 可以和外部資訊串接互動。
2. 讓 LLM 與 LLM 之間彼此交互執行任務。

LangChain 文件問答流程

LLM 文件問答流程

01 - 準備要問答的文件

準備要問答的文件

  1. 載入文件 ( pdf、csv、docx、txt ... ),並將文件轉換成純文本。
  2. 將文本切分成許多小區塊 ( chunk ),暫時稱它為資料塊
  3. 使用文本嵌入模型 ( Embedding Model ),將切分的資料塊轉換成多維向量資料,目的是為了方便在語意搜尋時,找出相似的結果資料。
  4. 將向量化的資料塊儲存至向量資料庫 ( Vector Store )。

02 - 提問流程

提問流程

  1. 詢問一個問題。
  2. 經由大型語言模型 ( LLM ) 將對話記錄和新的問題組合成一個「獨立問題」。
  3. 使用文本嵌入模型 ( Embedding Model ),將這個獨立問題轉換成向量資料。
  4. 將向量化的獨立問題與向量資料庫比對搜索出相關的向量資料。
  5. 搜索出相關的資料後,把這些資料和獨立問題「組合」在一起,並輸入 ( Input ) 給 LLM 給出最後的回答 ( Output )。

Reference