【Ollama系列---【常用属性设置】】
OLLAMA_KEEP_ALIVE=24h设置模型加载到内存中保持24个小时(默认情况下，模型在卸载之前会在内存中保留 5 分钟)OLLAMA_MODELS=/opt/app/middles/ollama/models 指定linux模型存储位置。OLLAMA_MODELS=E:\ollamamodels解决windows模型默认下载C 盘的问题。OLLAMA_MAX_LOADED_MODELS=
·
常用属性设置
OLLAMA_HOST=0.0.0.0 解决外网访问问题
OLLAMA_MODELS=E:\ollamamodels 解决windows模型默认下载C 盘的问题
OLLAMA_MODELS=/opt/app/middles/ollama/models 指定linux模型存储位置
OLLAMA_KEEP_ALIVE=24h 设置模型加载到内存中保持24个小时(默认情况下，模型在卸载之前会在内存中保留 5 分钟)
OLLAMA_HOST=0.0.0.0:8080 解决无法api访问的问题及修改默认端口11434端口
OLLAMA_NUM_PARALLEL=2 设置2个用户并发请求
OLLAMA_MAX_LOADED_MODELS=2 设置同时加载多个模型
魔乐社区（Modelers.cn) 是一个中立、公益的人工智能社区，提供人工智能工具、模型、数据的托管、展示与应用协同服务，为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作，由全产业链共同建设、共同运营、共同享有，推动国产AI生态繁荣发展。
更多推荐
4
0- 0
已为社区贡献1条内容
所有评论(0)