Open LLM Integrator：在 Domino 中整合開源大型語言模型
發佈日期：2024年10月15日
專案概述
Open LLM Integrator 是一個開源專案，旨在透過 **Ollama API** 連接，將開源的大型語言模型（LLMs）**整合到 HCL Domino 平台**，讓企業能在本地環境運行 AI 應用。
最新版本：OLI v2.0
2024 年 10 月 15 日發布的 **OLI v2.0 版本**，帶來了以下重大更新：
- LLM 選項和屬性的整合：使用者可根據需求調整模型行為，使 AI 回應更符合企業需求。
- 測試案例與統計評估：新增 **生成內容的測試案例與統計評估**，協助使用者評估 AI 模型的表現。
- Qdrant API 連接：該版本整合 **Qdrant 向量資料庫 API**，支援 **RAG（檢索增強生成）**，提升 AI 知識檢索能力。
- RAG 初步實作：可對 **Domino 資料庫、PDF、純文字檔案** 進行 AI 檢索與生成。
⚠ **注意：** 由於資料結構變更，建議**建立新資料庫**以使用此版本。
開始使用
要使用 Open LLM Integrator，請遵循以下步驟：
- 安裝 **Ollama 伺服器應用程式**。
- 選擇並設定適當的 **開源大型語言模型**。
- 將應用 **部署至 HCL Domino 伺服器**，並開始 AI 應用開發。
專案資源
此專案的官方開源代碼與詳細資訊可在以下網站找到：