
Ollama 本地運行 Llama 2、Mistral、Gemma 和其他大型語言模型
技術(shù)
2025-01-09 03:03
聲明:該文章由作者(小溫蒂)發(fā)表,轉(zhuǎn)載此文章須經(jīng)作者同意并請附上出處(0XUCN)及本頁鏈接。。
Ollama?是一個開源的大型語言模型服務,提供了類似 OpenAI 的 API 接口和聊天界面,可以非常方便地部署最新版本的 GPT 模型并通過接口使用。支持熱加載模型文件,無需重新啟動即可切換不同的模型。
快速開始
進入?容器?列表,找到 Ollama 容器,點擊進入終端運行并與?Llama 2?聊天:
ollama?run?llama2
模型庫
Ollama 支持?ollama.com/library?上提供的一系列模型
以下是一些可以下載的示例模型:
Model | Parameters | Size | Download |
---|---|---|---|
Llama 2 | 7B | 3.8GB | ollama run llama2 |
Mistral | 7B | 4.1GB | ollama run mistral |
Dolphin Phi | 2.7B | 1.6GB | ollama run dolphin-phi |
Phi-2 | 2.7B | 1.7GB | ollama run phi |
Neural Chat | 7B | 4.1GB | ollama run neural-chat |
Starling | 7B | 4.1GB | ollama run starling-lm |
Code Llama | 7B | 3.8GB | ollama run codellama |
Llama 2 Uncensored | 7B | 3.8GB | ollama run llama2-uncensored |
Llama 2 13B | 13B | 7.3GB | ollama run llama2:13b |
Llama 2 70B | 70B | 39GB | ollama run llama2:70b |
Orca Mini | 3B | 1.9GB | ollama run orca-mini |
Vicuna | 7B | 3.8GB | ollama run vicuna |
LLaVA | 7B | 4.5GB | ollama run llava |
Gemma | 2B | 1.4GB | ollama run gemma:2b |
Gemma | 7B | 4.8GB | ollama run gemma:7b |
注意:您應該至少有 8 GB 可用 RAM 來運行 7B 型號,16 GB 來運行 13B 型號,32 GB 來運行 33B 型號。
[超站]友情鏈接:
四季很好,只要有你,文娛排行榜:https://www.yaopaiming.com/
關注數(shù)據(jù)與安全,洞悉企業(yè)級服務市場:https://www.ijiandao.com/
排名
熱點
搜索指數(shù)
- 1 像石榴籽一樣緊緊抱在一起 7903996
- 2 全球最強臺風明日登陸廣東 7809168
- 3 深圳宣布停工停業(yè)停市停課停運 7713903
- 4 唱著民歌迎豐收 7617787
- 5 268萬翡翠標錯價按26.8萬賣出 7519971
- 6 空間站拍到樺加沙臺風眼 壓迫感十足 7428945
- 7 護網(wǎng):社交賬號不受控制?木馬在作祟 7330948
- 8 中國訂單至今為零 美國豆農(nóng)感受痛苦 7235856
- 9 廣東福建大暴雨 臺灣局地特大暴雨 7137604
- 10 牛彈琴:以色列的最大麻煩來了 7045464