小溫蒂
分享文章
新聞分類
Ollama 本地運(yùn)行 Llama 2、Mistral、Gemma 和其他大型語(yǔ)言模型
Ollama?是一個(gè)開源的大型語(yǔ)言模型服務(wù)，提供了類似 OpenAI 的 API 接口和聊天界面，可以非常方便地部署最新版本的 GPT 模型并通過(guò)接口使用。支持熱加載模型文件，無(wú)需重新啟動(dòng)即可切換不同的模型。
快速開始
進(jìn)入?容器?列表，找到 Ollama 容器，點(diǎn)擊進(jìn)入終端運(yùn)行并與?Llama 2?聊天：
ollama?run?llama2
模型庫(kù)
Ollama 支持?ollama.com/library?上提供的一系列模型
以下是一些可以下載的示例模型：
| Model | Parameters | Size | Download |
|---|---|---|---|
| Llama 2 | 7B | 3.8GB | ollama run llama2 |
| Mistral | 7B | 4.1GB | ollama run mistral |
| Dolphin Phi | 2.7B | 1.6GB | ollama run dolphin-phi |
| Phi-2 | 2.7B | 1.7GB | ollama run phi |
| Neural Chat | 7B | 4.1GB | ollama run neural-chat |
| Starling | 7B | 4.1GB | ollama run starling-lm |
| Code Llama | 7B | 3.8GB | ollama run codellama |
| Llama 2 Uncensored | 7B | 3.8GB | ollama run llama2-uncensored |
| Llama 2 13B | 13B | 7.3GB | ollama run llama2:13b |
| Llama 2 70B | 70B | 39GB | ollama run llama2:70b |
| Orca Mini | 3B | 1.9GB | ollama run orca-mini |
| Vicuna | 7B | 3.8GB | ollama run vicuna |
| LLaVA | 7B | 4.5GB | ollama run llava |
| Gemma | 2B | 1.4GB | ollama run gemma:2b |
| Gemma | 7B | 4.8GB | ollama run gemma:7b |
注意：您應(yīng)該至少有 8 GB 可用 RAM 來(lái)運(yùn)行 7B 型號(hào)，16 GB 來(lái)運(yùn)行 13B 型號(hào)，32 GB 來(lái)運(yùn)行 33B 型號(hào)。
[超站]友情鏈接：
四季很好，只要有你，文娛排行榜：https://www.yaopaiming.com/
關(guān)注數(shù)據(jù)與安全，洞悉企業(yè)級(jí)服務(wù)市場(chǎng)：https://www.ijiandao.com/
關(guān)注網(wǎng)絡(luò)尖刀微信公眾號(hào)隨時(shí)掌握互聯(lián)網(wǎng)精彩
贊助鏈接
排名
熱點(diǎn)
搜索指數(shù)
- 1 看總書記關(guān)心的清潔能源這樣發(fā)電 7904797
- 2 央視曝光直播間“高端四件套”貓膩 7808694
- 3 以總理：絕不會(huì)有巴勒斯坦國(guó) 等著瞧 7711998
- 4 長(zhǎng)春航空展這些“首次”不要錯(cuò)過(guò) 7619343
- 5 租客長(zhǎng)租15年不到1年就被勸退 7521975
- 6 浙江大學(xué)教授被留置 持股市值31億 7427456
- 7 9月23日晚8點(diǎn)將上演“龍收尾”天象 7330158
- 8 馬斯克特朗普鬧掰后首次同框 7234312
- 9 風(fēng)王“樺加沙”體型超整個(gè)廣東省 7143767
- 10 美國(guó)軍工巨頭主動(dòng)曝光戰(zhàn)機(jī) 7048864
微信
新浪微博
