OpenRAG 開源 RAG 技術堆疊

概要

• RAG 沒死，只是很難Phil 不認同「RAG is dead」，說 PDF、chunking 策略、embedding 更新與各種搜尋技巧都很麻煩，每個專案難的地方還不一樣，所以需要一個品質夠好的基線。
• 三個開源專案組成一套OpenRAG 結合 Docling 處理文件、OpenSearch 做索引搜尋、Langflow 做視覺化編排與 agent。
• 文件處理與索引Docling 針對不同檔案類型有不同 pipeline，輸出的 doc tags 可轉成 Markdown、HTML、JSON；索引用 OpenSearch 做 hybrid 搜尋，預設搭配 JVector 外掛。
• 搜尋交給 agent 決定傳統做法是取 top K chunks 丟給模型，agentic retrieval 則是把查詢連同指示與工具交給 agent，由模型自己決定搜幾次、怎麼用結果。
• 現場示範可客製介面有聊天、knowledge filters、雲端連接器與模型設定；進到 Langflow 可以改 agent 的流程，Phil 示範在輸入端加上 guardrails。
• 也能當工具給別的 agent 用OpenRAG 提供 API 與 MCP server，目前版本是 0.4.0。

原話

• “I don't take this kind of thing very seriously.”

  我不太把這類說法當真

  ▶ 00:20

• “RAG is actually hard, and it's hard for different reasons for different projects.”

  RAG 其實很難，而且每個專案難的原因都不一樣

  ▶ 01:13

• “The model is actually responsible for deciding what searches to perform and what to do with the results.”

  要做哪些搜尋、結果怎麼用，由模型自己負責決定

  ▶ 07:59

• “It gives you the choices where you need them and makes good decisions for you where it makes sense.”

  需要選擇的地方給你選擇，合理的地方替你做好決定

  ▶ 15:26

延伸

• Phil 說 OpenRAG 的元件各自也是開源專案，聽眾可以直接參與 Docling、OpenSearch 或 Langflow。
• Phil 說可以把 OpenRAG 的 MCP server 交給其他 agent 使用，沒有示範實際串接。