迁移 ollama 模型文件到新机器(支持离线运行)

news/2024/10/1 1:37:31

1. 详细步骤

qwen2.5:0.5b-instruct-fp16为例

1.1 迁移 manifests 文件

# 本地机器
# 查看 manifests 下的配置文件
more ~/.ollama/models/manifests/registry.ollama.ai/library/qwen2.5/0.5b-instruct-fp16
# 输出类似如下
{"schemaVersion": 2,"mediaType": "application/vnd.docker.distribution.manifest.v2+json","config": {"mediaType": "application/vnd.docker.container.image.v1+json","digest": "sha256:ff54cb6e5adea7664c2b555d4bbaf5ee5acbb325104fd8db41282cfb866d0c2e","size": 487},"layers": [{"mediaType": "application/vnd.ollama.image.model","digest": "sha256:6f96e01a3f550ca08aea1e5725bb8d5a7eccc6f281c30417e9d380b8c46467bd","size": 994156864,"from": "/path/.ollama/models/blobs/sha256-6f96e01a3f550ca08aea1e5725bb8d5a7eccc6f281c30417e9d380b8c46467bd"},{"mediaType": "application/vnd.ollama.image.system","digest": "sha256:66b9ea09bd5b7099cbb4fc820f31b575c0366fa439b08245566692c6784e281e","size": 68},{"mediaType": "application/vnd.ollama.image.template","digest": "sha256:24782485900349ceac7d482c996674daca27a067e15e0902a6e864ca34b51180","size": 1441},{"mediaType": "application/vnd.ollama.image.license","digest": "sha256:832dd9e00a68dd83b3c3fb9f5588dad7dcf337a0db50f7d9483f310cd292e92e","size": 11343}]
}# 本地机器
# 拷贝相关文件(scp或者手动拷贝文件都可以)
cd ~/.ollama/models/manifests/registry.ollama.ai/library/qwen2.5
scp 0.5b-instruct-fp16 username@ip:~/# 新机器
mv ~/0.5b-instruct-fp16 ~/.ollama/models/manifests/registry.ollama.ai/library/qwen2.5/0.5b-instruct-fp16

1.2 迁移 blobs 文件

# 本地机器
cd .ollama/models/blobs
# 下面一行命令可跳过
ls -lah | grep sha256-ff54cb6e5adea7664c2b555d4bbaf5ee5acbb325104fd8db41282cfb866d0c2e
# 拷贝 0.5b-instruct-fp16 的 config 和 layers 里面的 digest 记录的文件(":" 换成 "-")(其他 4 个文件同理)(手动拷贝文件也可以)
scp sha256-ff54cb6e5adea7664c2b555d4bbaf5ee5acbb325104fd8db41282cfb866d0c2e username@ip:~/# 新机器
mv username@ip:~/sha256-ff54cb6e5adea7664c2b555d4bbaf5ee5acbb325104fd8db41282cfb866d0c2e ~/.ollama/models/blobs注:步骤 1.1 的 0.5b-instruct-fp16 里面的 digest 记录的所有文件都要拷贝到新机器

1.3 验证

# 新机器
# 下面一行命令可跳过
ollama list | grep qwen2.5:0.5b-instruct-fp16
ollama run qwen2.5:0.5b-instruct-fp16

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.ryyt.cn/news/66697.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈,一经查实,立即删除!

相关文章

KeyShot基础操作1

KeyShot的基本操作,包含视图、导入导出、各个面板简介等内容。注:学习此软件纯粹是工作中突然要我去对接模型厂家,厂家不能对外提供模型原件,于是就自己学了下这个软件渲染模型。--本篇导航--快捷键 视图操作(视图基本操作、几何图形视图) 模型导入、工程保存导出 各个面…

高级语言程序设计第二次个人作业

班级链接:https://edu.cnblogs.com/campus/fzu 作业要求链接:https://edu.cnblogs.com/campus/fzu/2024C/homework/13282 学号:102400130 姓名:杨子旭 章节习题在第四题的时候发现即使代码正确也无法输出正确结果,最后发现是win7系统原因,测试发现在win10的系统可以转为十…

YouTube 注释 All In One

YouTube 注释 All In OneYouTube 注释 All In One old YouTube 批注是在视频上添加文字层,链接或热点。 他们添加了链接到其他网站或视频的交互式框(您想要的任何链接)。https://zh-cn.aiseesoft.com/how-to/add-annotations-to-youtube.html将注释支持带回 YouTube™! 201…

AnimationClip优化工具 - 删除连续相同的帧

下图中Rotation.z的前4个关键帧[0, 3](即15帧, 30帧, 45帧, 60帧),值都没变; (3, 4)Rotation.z变为60(即61帧到90帧); 后3个关键帧[5, 7]一直维持在60没变。可以分析下:前4个关键帧,[1, 2]删除对动画没影响,后3个关键帧[5, 7]删除对动画也没影响。public class AnimC…

实验1 C语言输入输出和简单程序编写

一,实验目的 1. 会使用C语言程序开发环境(vs2010/devc++等),能熟练、正确使用它们编写、编译、运行、调 试C程序 2. 知道C程序结构和编码规范,能正确使用 3. 能正确、熟练使用C语言输入输出函数: scanf() , printf() , getchar() , putchar() 4. 能灵活、组合使用基本数据…

VScode Cmake-tools 部分问题记录

我的 Visual Studio Code 先前一直安装了 cpp-tools 和 cmake-tools。随后,我升级了我的 GCC 环境版本。然而,重新启动 Visual Studio Code 后,旧的 GCC 版本仍保留在工具包中。起初,我以为是 cpp-tools 插件的问题,一直无法解决这个 bug。后来卸载了相关插件后才发现是 c…

数组0.1

一维数组 数组的运用场合 当我们需要涉及的变量特别多,光想名字都要想半天 所以引入数组 Q: (1)在程序中怎样存放100个学生的成绩? (2)定义100个整型变量吗? (3)C语言中的解决方案是……? A: (1)存储学生成绩用整型数组 mark[100]; (2)存储一行文字用字符数组 …

opencascade AIS_WalkDelta、AIS_ViewInputBuffer源码学习工作

opencascade AIS_WalkDelta 前言 运行方法 1. 空构造函数。 AIS_WalkDelta() : myIsDefined(false), myIsJumping(false), myIsCrouching(false), myIsRunning(false) {} 2. 返回平移组件。 const AIS_WalkPart& operator[] (AIS_WalkTranslation thePart) ; 3. 返回平移组…