跳至主要内容

· 閱讀時間約 2 分鐘
Yung-Hsiang Hu

功能更新

  1. 統整提供離線英文版文件 #39
  2. 支援直接串接第三方API,預設模型新增 Groq Llama3.1 70B
  3. 提供預先建置Docker Image,加快安裝速度
  4. Docker 版直接支援 CUDA,避免Container重複安裝
  5. 新增 Kuwa Javascript Library,能呼叫 Multi-chat API
  6. 聊天室內能透過點擊 Bot 圖片直接編輯Bot設定
  7. RAG 支援快取 Embedding model 與 Vector DB
  8. SearchQA 能方便串接第三方搜尋引擎
  9. DocQA/WebQA 支援 Failback 模式,可直接透過 LLM 進行問答
  10. Pipe 能從 Prompt 指定參數
  11. 新增 Media Converter,能剪接編輯影片或音訊
  12. Gemini 預設模型改為 Gemini 1.5 Flash

錯誤修復

  1. Docker WARN message "FromAsCasing: 'as' and 'FROM' keywords' casing do not match" #38
  2. Docker 版 Executor 圖示消失
  3. Windows 版中文顯示亂碼
  4. Windows 版建立 Vector DB 時,文件路徑不支援中文
  5. Windows 版檔名太長時會超過路徑長度上限
  6. ChatGPT executor 不遵守自訂 context_window

教學

  1. Groq 串接教學

· 閱讀時間約 3 分鐘
Yung-Hsiang Hu

功能更新

  1. 新增 Pipe executor,可以執行限定目錄下的程式 (tool),例如串接 Python interpreter 即可直接執行模型輸出的 Python程式
  2. 提供 Calculator, Iconv 與 Python 等 Tool 範例程式,可透過 Pipe executor 呼叫
  3. 新增 Uploader executor 提供使用者上傳檔案到指定目錄,可上傳 Tool、RAG 知識庫或是網站元件
  4. 支援 Bot 匯出匯入,可匯出 Bot 名稱、說明、圖示、Modelfile 成單一 Bot 檔,類似應用編導檔;安裝時可以自動匯入預設的Bot檔
  5. 能選擇聊天室中 Bot 自動排序方式
  6. 支援更換 Bot 圖示
  7. 新增與 OpenAI API 相容的 Kuwa API server
  8. 預設提供串接雲端多模態 API 的範例: gpt-4o-mini-vision, DALL.E, Gemini pro 1.5 vision
  9. 支援從 Web 介面設定上傳檔案數量上限
  10. 支援在企業內部有 Web proxy 的環境下安裝與執行
  11. 支援透過 Intel GPU 加速模型推論
  12. 新增 Docker 版自動安裝與更新腳本,感謝 @wcwutw
  13. RAG Toolchain預設 Embedding model 更換為微軟的 intfloat/multilingual-e5-small模型,MIT授權
  14. RAG (DocQA, WebQA, SearchQA, DB QA) 新增display_hide_ref_content、retriever_ttl_sec等參數
  15. 下載工具的預選模型增加支援 Function calling 的 Meta Llama 3.1 8B 與輕量的 Google Gemma 2 2B

錯誤修復

  1. #21: Docker 版在 Reverse proxy 後不會生成 https:// 連結,感謝 @Phate334
  2. #23: 兩分鐘 Timeout 問題,感謝 @x85432
  3. #24: Modelfile 解析問題
  4. #25: 匯入 Prompt 時不會套用 Modelfile
  5. windows\src\tee.bat 會被誤判成病毒
  6. RAG 參考資料不會顯示原始檔案名稱
  7. 更新 Windows 版相依套件下載點

· 閱讀時間約 2 分鐘
Yung-Hsiang Hu

功能更新

  1. 自訂 Bot 權限:可設定 Bot 在系統、社群、群組和個人層級的可讀和可執行權限
  2. 自訂上傳檔案原則:管理員可設定最大上傳檔案大小和允許的檔案類型
  3. 工具範例:新增 Copycat、token counter 等工具範例
  4. 串好的模型設定檔:提供 LLaVA 和其他串好的模型的設定檔
  5. 使用者體驗優化:美化圖示和聊天清單
  6. 更新預設模型:ChatGPT Executor 預設串接 GPT-4o,Gemini Executor 預設串接 Gemini 1.5 pro

錯誤修復

  1. 上傳含空白字元檔名解析問題
  2. 語系登出後不會儲存的問題
  3. Llamacpp Executor 的相依套件問題
  4. Windows 版日誌不支援顏色以及換行的問題
  5. Multi-chat 單輪問答會多傳聊天室第一筆
  6. Windows 版 DocQA 預設參數可能超出 Context window

新增教學文件

  1. RAG 自訂參數教學: https://kuwaai.tw/zh-Hant/blog/rag-param-tutorial
  2. 自訂 Tool 教學: https://kuwaai.tw/zh-Hant/blog/tool-tutorial

· 閱讀時間約 7 分鐘
Yung-Hsiang Hu

大家好,Kuwa v0.3.1 推出了, 這次的更新主要集中在多模態輸入輸出,語音及圖片皆有支援。再搭配先前推出的 Bot 系統及群聊功能,即可實現如會議摘要、演講摘要、簡易圖片生成、圖片修改等實用功能:

  1. 支援 Whisper 語音轉文字模型,可以上傳語音檔輸出逐字搞,並具備多語者辨識及時間戳記功能
  2. 支援 Stable Diffusion 圖片生成模型,可透過輸入一段文字來生成圖片,或是上傳一張圖片後指示模型如何改動
  3. Huggingface executor 支援串接視覺語言模型,如 Phi-3-Vision, LLaVA等
  4. RAG 支援直接透過 Web UI 及 Modelfile 調整參數,簡化調校門檻
  5. RAG 支援顯示原始文件與引用段落,方便檢視檢索效果以及幻覺
  6. 支援匯入預先建立的 RAG 向量資料庫,方便在不同系統間共享知識庫
  7. 安裝時可簡易選擇多種開放模型
  8. Multi-chat Web UI 支援直接將聊天紀錄匯出成PDF、Doc/ODT
  9. Multi-chat Web UI 支援 Modelfile 語法突顯,方便調整 Modelfile
  10. Kernel API 支援傳遞網站語系,讓 Executor 能根據使用者語系客製化
  11. Executor 移除預設的 System prompt 以避免影響模型效果

· 閱讀時間約 3 分鐘
Yung-Hsiang Hu

大家好,經過社群的回饋與建議,我們推出 kuwa-v0.3.0 正式版,以期更能滿足大家的需求。

與前一版 kuwa-v0.2.1 的主要差異為新增並強化了 Bot、Store、RAG toolchain和系統更新等功能,以及新的聊天與群聊整合介面:

  1. Bot 讓使用者可以 no code 建立 Bot 應用,可調整 System prompt、預置聊天紀錄、User prompt 前後綴來實現如角色扮演、執行特定任務等不同功能,或利用 Ollama modelfile 來打造更強大的應用;
  2. Store 讓使用者可以自行建置及維護共用的Bot應用商店,使用者間也可以共享 Bot;
  3. RAG toolchain 讓使用者可以將本機文件資料夾透過簡易拖拉的方式建立成自有的向量資料庫,不限一個,再透過既有的 DBQA 功能進行問答;
  4. 新的整合介面不僅直接支援群聊與單模型聊天,隨時可以匯入 Prompt Sets 或上傳檔案,也可以用於相關RAG;
  5. Windows 版新增 SearchQA,可透過串接 Google search 進行組織網站問答;
  6. 新增 Docker 啟動腳本,簡化 Docker 版啟動方式;
  7. Executor 可以直接串接 Ollama,藉以使用 Ollama 支援的模型及應用;
  8. 可以透過 update.bat 來快速更新至最新釋出的版本,不必重新下載 .exe 安裝檔

· 閱讀時間約 2 分鐘
Yung-Hsiang Hu

大家好,

TAIDE 模型今天釋出了 Llama3-TAIDE-LX-8B-Chat-Alpha1 版,
使用 Kuwa TAIDE 版本的朋友只要更新到最新的 v0.2.1 版本就能體驗最新版的 TAIDE 模型,
這個版本除了更新 TAIDE 模型外,還擴充了地端模型支援,並修正一些小問題,希望能讓大家有更好的使用體驗。

訊息

kuwa-taide-v0.2.1 單一執行檔下載連結: Google Drive

· 閱讀時間約 2 分鐘
Yung-Hsiang Hu

社群的朋友大家好,

TAIDE 模型於今天釋出,我們很開心也能釋出內建 TAIDE LX 7B Chat 4bit 模型的 Windows 版客製化 Kuwa 系統。

訊息

kuwa-taide-v0.2.0 單一執行檔下載連結: Google Drive
kuwa-taide-v0.2.0 說明文件: kuwa-taide-0415.pdf

· 閱讀時間約 5 分鐘
Yung-Hsiang Hu
備註

本版本不包含 TAIDE 模型本身,預計在 TAIDE 模型公開後會再釋出預先搭載 TAIDE 模型的版本。

社群的朋友大家好,

蒐集大家的意見之後,我們預計在v0.2.0推出大家期待已久的RAG功能。
目前RAG的部份已經內部測試完畢,所以我們推出v0.2.0-beta來邀請大家一起測試有沒有符合心目中的樣子。
此外,本次更新也一併提供 TAIDE API 與 TAIDE 模型的串接方式,
同時我們也調整了系統的安裝腳本及修復一些已知的 bug,讓整個系統更穩定、容易擴充與使用。 若有任何建議或是覺得可以改善的地方,請告訴我們!

· 閱讀時間約 3 分鐘
Ching-Pao Lin

各位開發者、使用者午安,

我們在初版釋出後,聽到了不少使用者的問題與回饋,
現在v0.1.0穩定版已釋出,此版本在Windows版安裝方式上,做了些許的調整
這次的更新同步釋出了Docker版本,供使用者快速安裝、依需求調整環境架構,
也修正了一些使用上已知的小bug,