
Alpaca Electron羊駝AI本地GUI
Alpaca Electron 旨在成為與 Alpaca 羊駝 AI 模型聊天的最簡(jiǎn)單方式,無(wú)需任何命令行或編譯。
功能 + 待辦事項(xiàng)
在您的計(jì)算機(jī)上本地運(yùn)行,除下載模型外不需要互聯(lián)網(wǎng)連接
緊湊高效,因?yàn)樗褂?llama.cpp 作為后端(也支持 Alpaca & Vicuna)
在 CPU 上運(yùn)行,任何人都可以在沒(méi)有昂貴顯卡的情況下運(yùn)行它
不需要外部依賴,一切都包含在安裝程序中
從流行的聊天 AI “借來(lái)” 的 UI
支持 Windows、MacOS 和 Linux(未經(jīng)測(cè)試)
Docker 化
上下文記憶
聊天記錄?未完成
與穩(wěn)定擴(kuò)散整合?未完成
用于 Web 訪問(wèn)的 DuckDuckGo 集成?未完成
GPU 加速(cuBLAS 和 openBLAS)未完成
快速入門指南
下載一個(gè) Alpaca 模型(推薦 7B native)并將其放在計(jì)算機(jī)上容易找到的地方。
注意此存儲(chǔ)庫(kù)中不會(huì)提供下載鏈接。
從發(fā)布頁(yè)面部分下載最新的安裝程序。
打開(kāi)安裝程序并等待它安裝。
安裝完成后,它會(huì)詢問(wèn)模型的有效路徑?,F(xiàn)在,轉(zhuǎn)到放置模型的位置,按住 Shift 鍵,右鍵單擊文件,然后單擊 “復(fù)制為路徑”。然后,將其粘貼到該對(duì)話框中并單擊?Confirm。
程序會(huì)自動(dòng)重啟?,F(xiàn)在您可以開(kāi)始聊天了!
注意該程序還將接受任何其他 4 位量化的 .bin 模型文件。如果您能找到其他 .bin Alpaca 模型文件,您可以使用它們代替快速入門指南中推薦的文件來(lái)試驗(yàn)不同的模型。一如既往,小心您從互聯(lián)網(wǎng)上下載的內(nèi)容。
故障排除
通用
如果在將路徑粘貼到模型文件時(shí)出現(xiàn) “無(wú)效文件路徑” 錯(cuò)誤,則可能是其中存在某種拼寫(xiě)錯(cuò)誤。嘗試再次復(fù)制路徑或使用文件選擇器。
如果您收到 “無(wú)法加載模型” 的錯(cuò)誤消息,則您的模型可能已損壞或不兼容。嘗試再次下載模型。
如果您遇到此處未列出的其他問(wèn)題或問(wèn)題,請(qǐng)?jiān)诒卷?yè)頂部的 “問(wèn)題” 選項(xiàng)卡中創(chuàng)建問(wèn)題。詳細(xì)描述發(fā)生了什么,并附上屏幕截圖。
windows
如果模型已加載到 RAM 但文本生成似乎沒(méi)有開(kāi)始,請(qǐng)檢查您的 CPU 是否與?AVX2?指令集兼容。如果它不支持 AVX2,Alpaca Electron 將使用 AVX 代替,這會(huì)慢很多,請(qǐng)耐心等待。
如果您收到一條錯(cuò)誤消息 “vcruntime140_1.dll is missing” 或什么都沒(méi)有發(fā)生并且模型未加載到 RAM 中,請(qǐng)嘗試安裝?Microsoft Visual C++ Redistributable?。
蘋(píng)果系統(tǒng)
如果您收到一條錯(cuò)誤消息 “無(wú)法打開(kāi)應(yīng)用程序,因?yàn)樗鼇?lái)自身份不明的開(kāi)發(fā)人員?!?,請(qǐng)轉(zhuǎn)到 “應(yīng)用程序” 文件夾。然后,按住控制鍵并單擊該應(yīng)用程序。然后單擊 “打開(kāi)”,然后在出現(xiàn)警告時(shí)單擊 “打開(kāi)”。您的首選項(xiàng)將被保存,MacOS 將允許您從現(xiàn)在開(kāi)始正常打開(kāi)應(yīng)用程序。
如果上述方法不起作用,請(qǐng)嘗試在終端中運(yùn)行以下命令:xattr -cr /Applications/Alpaca\ Electron.app/
Linux
您可以從發(fā)布頁(yè)面下載預(yù)構(gòu)建的應(yīng)用程序(打包為 tar.gz),解壓縮并執(zhí)行它,./"alpaca electron"?或者自己構(gòu)建應(yīng)用程序。
如果您想自己構(gòu)建應(yīng)用程序:
克隆存儲(chǔ)庫(kù):
git clone https://github.com/ItsPi3141/alpaca-electron.git
將當(dāng)前目錄更改為 alpaca-electron:
cd alpaca-electron
安裝特定于應(yīng)用程序的依賴項(xiàng):
npm install --save-dev
構(gòu)建應(yīng)用程序:
npm run linux-x64
將當(dāng)前目錄更改為構(gòu)建目標(biāo):
cd release-builds/'Alpaca Electron-linux-x64'
運(yùn)行應(yīng)用程序./'Alpaca Electron'
docker 組成
您可以使用 docker compose 運(yùn)行此電子應(yīng)用程序。因此,您需要完成以下步驟:
克隆存儲(chǔ)庫(kù):
git clone https://github.com/ItsPi3141/alpaca-electron.git
將當(dāng)前目錄更改為 alpaca-electron:
cd alpaca-electron
構(gòu)建容器鏡像:
docker compose build
運(yùn)行應(yīng)用程序容器:
docker compose up -d
如果沒(méi)有窗口打開(kāi)運(yùn)行?docker compose up(沒(méi)有 -d)。如果出現(xiàn)類似在您的 docker 主機(jī)上?Authorization required, but no authorization protocol specified?運(yùn)行的錯(cuò)誤。xhost local:root
[超站]友情鏈接:
四季很好,只要有你,文娛排行榜:https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全,洞悉企業(yè)級(jí)服務(wù)市場(chǎng):https://www.ijiandao.com/

隨時(shí)掌握互聯(lián)網(wǎng)精彩
- 1 中美完全可以相互成就、共同繁榮 7904406
- 2 蔡國(guó)強(qiáng)始祖鳥(niǎo)發(fā)布致歉信 7808882
- 3 “南天門計(jì)劃”是科幻還是現(xiàn)實(shí) 7711965
- 4 近距離感受“大國(guó)重器” 7616441
- 5 嵩山一景區(qū)“巨型蛇頭”已被覆蓋 7522259
- 6 墜落廣東的火流星被挖出 重423公斤 7429020
- 7 菲將舉行大規(guī)模游行 中使館發(fā)提醒 7327724
- 8 專家:高山草甸恢復(fù)需幾十甚至上百年 7236605
- 9 中國(guó)導(dǎo)彈亮相塞爾維亞閱兵 7139584
- 10 始祖鳥(niǎo)煙花秀引爭(zhēng)議 日喀則通報(bào) 7042253