Day: July 8, 2024

使用llama.cpp將HuggingFace 取得的LLM模型轉為 GGUF格式

近期在測試一些模型以及落地的應用,由於本地執行環境我是借用Ollama來實現, Ollama 具有易部署且容器化的便利性,只需要一行就能完成 LLM… Continue reading on playtech » 近期在測試一些模型以及落地的應用,由於本地執行環境我是借用Ollama來實現, Ollama 具有易部署且容器化的便利性,只需要一行就能完成 LLM…Continue reading on playtech » Read More AI on Medium #AI