Ai qwen大模型本地部署

news/2024/10/16 2:29:07

Ai qwen大模型本地部署

官网地址

ollama官网:https://ollama.com

Github:https://github.com/ollama/ollama

环境配置

Windows操作系统一台【小新2019】

 

windows 下载安装工具

https://ollama.com/download

下载对应操作系统的安装包,下载需要开启魔法,不需要注册登录就能下载,可根据个人需求登录注册。

 

下载工具包完成进行傻瓜式安装即可

 

 

 

验证工具安装成功

 

 

查找模型

需要模型,可以在ollama.com官网搜索查找下载的模型,这边使用阿里开源的通义千问大模型qwen

 

https://ollama.com/library

 

安装模型

https://ollama.com/library?q=qwen

# 搜素模型的参数级 并运行安装
ollama run qwen2:7b

 安装过程

安装过程如下,显示sucess表示成功

 测试验证Ai模型

问几个问题和写个脚本,离线单机都可以,这样一个本地部署的gpt模型就完成了

 

 

系统资源使用

2019年电脑系统使用AI工具时CPU占用较高,不影响使用正常检索但速度稍慢,平均一秒钟出现2个字,基本能满足使用。

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.ryyt.cn/news/41593.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈,一经查实,立即删除!

相关文章

读AI未来进行式笔记07量子计算

量子计算1. AI审讯技术 1.1. 发明者最初的目的是发明一种能够替代精神药物,为人类带来终极快乐的技术 1.1.1. 遗憾的是,他找到的只是通往反方向的大门 1.2. 通过非侵入式的神经电磁干扰大脑边缘系统,诱发受审者最为恐惧及痛苦的身心体验 1.…

FastAPI-6:依赖

6 依赖 FastAPI 非常出色的设计特性之一是 “依赖注入 ”的技术。这个术语听起来既专业又深奥,但它却是 FastAPI 的一个关键方面,而且在很多层面上都有惊人的作用。本章将介绍 FastAPI 的内置功能以及如何编写自己的功能。6.1 什么是依赖 依赖项是某一时刻需要的特定信息。获…

BlazorHybrid 通过Blazor简单调用本机功能

简单调用本机功能,例如打印,获取硬件信息,获取本机用户名,拦截JS功能,拦截错误信息等等.. 废话不多说先来截图使用 JsBridge JsBridge不科普了,同学们自行百度一下 BlazorWebView.cs using Microsoft.AspNetCore.Components.WebView; using Microsoft.AspNetCore.Components.We…

一文搞懂 ARM 64 系列: 一文搞懂 ARM 64 系列: 函数调用传参与返回值

一文搞懂 ARM 64 系列: 一文搞懂 ARM 64 系列: 函数调用传参与返回值函数调用涉及到传参与返回值,下面就来看下ARM 64中,参数与返回值的传递机制。 1 整数型参数传递 这里的整数型并不单指int类型,或者NSInteger类型,而是指任何能够使用整数表示的数据类型,包括char、BOOL…

4~6次题目集总结blog

一、前言 关于家具电路系统和答题判题系统我认为最主要的难点在于类设计,我们先需要设计好父类再对子类和具体方法进行补充,就拿电路系统举例,无论是受控设备还是控制设备,具体代码都较为简单,只需简单的数学运算就能求出具体功率,但要如何将设备加入电路当中以及能够进行…

oracle 基本查询

建表语句 序列 create sequence seq_jx increment by 1 start with 1 nomaxvalue nominvalue cache 10;字典类型表 create table sys_dict_type( id number(20) primary key, name varchar2(100) , type varchar2(100) , group_code varchar2(100) , status char(1) );comment…

VMware常用操作

VMware常用操作 VMware作为一款功能强大的虚拟化软件,为用户提供了一个灵活、高效的虚拟环境。在日常使用中,掌握VMware的常用操作对于提高工作效率、优化资源配置至关重要。以下将详细介绍VMware的一些常用操作及其背后的原理。 一、文件操作 在VMware中,文件操作是最基本的…

Kafka 基础知识

在数据事件流方面,Apache Kafka 是事实上的标准。它是一个由服务器和客户端组成的开源分布式系统。Apache Kafka 主要用于构建实时数据流管道。 Apache Kafka 被全球数以千计的领先组织用于高性能数据管道、流分析、数据集成和许多其他重要应用程序。 在本节中,我们将学习所有…