ollama常用命令

-运行模型(本地没有会自动pull,模型名称可以带远程仓库路径):ollama run 模型名称

-运行时显示性能数据:ollama run –verbose 模型名称

-拉取模型(比如嵌入模型):ollama pull 模型名称

-查看已安装模型(可看到模型大小和安装时间):ollama list

-删除模型:ollama rm 模型名称

-查看模型运行数据(CPU/GPU占比等):ollama ps

-查看模型配置文件:ollama show 模型名称 –modelfile

-从modelfile创建模型:ollama create 模型名称 -f Modelfile

运行中:

修改模型参数(以设置线程数32为例):/set parameter num_thread 32

修改上下文窗口(以修改为8k为例):/set parameter num_ctx 8192

修改gpu数量(以纯cpu推理为例):/set parameter num_gpu 0

清除上下文:/clear

退出:/bye

帮助:/?

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注