本地大模型

排序:

Ollama 0.5最新部署教程:2026本地大模型一键运行

Ollama 0.5版本最新部署教程,支持最新模型架构,本地运行大模型更简单。

8845HS性能实测:能跑多大本地大模型

实测 AMD 8845HS 运行本地大语言模型能力,详解能跑多少参数的量化模型。

本地大模型部署指南:Ollama配置全攻略

详解Ollama本地大模型部署配置,从安装到优化,手把手教你搭建私人AI助手。

DeepSeek R1 本地部署教程:免费开源 + 满血版 671B 模型,性能对标 GPT-4

DeepSeek R1 是国产大模型的黑马,推理能力直接对标 OpenAI o1,而且完全开源免费。今天教你在本地部署 DeepSeek R1。 硬件要求 模型规模 显存要求 推荐显卡 1.5B 2GB 核显 7B 8GB RTX 3060 14B 16GB RTX 4080 …

Ollama 模型量化指南:7B 模型 4GB 显存跑满血,性能损失仅 5%

本地跑大模型显存不够?量化是最佳解决方案。今天实测 Ollama 量化技术,教你用 4GB 显存跑 7B 模型,性能损失仅 5%,速度提升 3 倍。 什么是量化?量化是将模型权重从高精度(FP16/BF16)转换为低精度(INT8/INT4)的技术。 对比数据: 精度 显存占用 …

迷你主机跑本地大模型:Ollama部署Qwen2.5实测

想用迷你主机跑本地大模型?没问题,今天手把手教你用 Ollama 部署 Qwen2.5,实测可用。 环境要求 迷你主机(推荐 AMD 8845HS 或 Intel Ultra 7 以上) 内存 32GB 以上(16GB 勉强跑 7B 模型) 硬盘 50GB 以上空间 安装步骤1. …