模型部署

Contents:

• Ollama基础入门
  • 1. Ollama
    • 1.1 什么是Ollama?
    • 1.2 安装Ollama大语言模型工具
      • 1.3 Ollama 管理本地已有大模型
      • 1.4 Ollama下载大模型
• Cherry Studio+Ollama本地部署DeepSeek R1
  • 1.API满血本地部署
    • 1.1 访问硅基流动
    • 1.2 注册账号
    • 1.3 创建API密钥
    • 1.4 下载与安装Cherry Studio
      • 1.4.1 配置API秘钥
      • 1.4.2 加载DeepSeek模型
      • 1.4.3 运行与测试
  • 2.知识库
    • 2.1创建知识库
    • 2.2上传文档并向量化
    • 2.3绑定知识库与模型
  • 3.本地算力部署
    • 3.1本地部署Ollama+DeepSeek
    • 3.2配置
• Anything LLM+Ollama本地部署DeepSeek R1
  • 1. 本地部署Ollama+DeepSeek
  • 2. 本地安装Anything LLM
  • 3. 配置与使用演示
• LM Studio本地部署DeepSeek R1
  • 1.DeepSeek 模型
  • 2.LM Studio 工具配置
  • 3.模型选择与获取
  • 4.本地模型加载
  • 5.模型测试
• 基于vLLM本地部署企业级DeepSeek-R1
  • 1.vLLM
  • 2.演示环境
    • 2.1 环境设置
      • 2.1.1 install miniconda
      • 2.1.1 激活miniconda
      • 2.1.2 修改镜像源
      • 2.1.3 创建conda虚拟环境
      • 2.1.4 安装驱动
    • 2.2 部署模型
      • 2.2.1 下载模型方式1
      • 2.2.2 下载模型方式2
      • 2.2.3 运行