-运行模型(本地没有会自动pull,模型名称可以带远程仓库路径):ollama run 模型名称
-运行时显示性能数据:ollama run –verbose 模型名称
-拉取模型(比如嵌入模型):ollama pull 模型名称
-查看已安装模型(可看到模型大小和安装时间):ollama list
-删除模型:ollama rm 模型名称
-查看模型运行数据(CPU/GPU占比等):ollama ps
-查看模型配置文件:ollama show 模型名称 –modelfile
-从modelfile创建模型:ollama create 模型名称 -f Modelfile
运行中:
修改模型参数(以设置线程数32为例):/set parameter num_thread 32
修改上下文窗口(以修改为8k为例):/set parameter num_ctx 8192
修改gpu数量(以纯cpu推理为例):/set parameter num_gpu 0
清除上下文:/clear
退出:/bye
帮助:/?