跪求大佬给一个部署本地大模型的喂饭教程，不需要联网就能运行的，因为工作点没网。。

didala · 2025 年7 月 20 日 03:42

我的笔记本配置如下，不知道最适合部署哪些模型？跪求大佬指点

ajie0121 · 2025 年7 月 20 日 03:45

你这大概只能部署7B到3B的模型了，但这些超小模型的原生效果其实很差的要搭配知识库来进行食用

youngnku · 2025 年7 月 20 日 03:45

显卡配置不太行啊，7b以下小模型本地部署后效果不会达到预期

didala · 2025 年7 月 20 日 03:51

谢谢解答！
我在这个项目查到了一个DeepSeek-R1-Distill-Qwen-7B模型，请问该怎么部署到电脑上啊？

ajie0121 · 2025 年7 月 20 日 03:52

千问的B站是小模型部署教程的可以去看一看

newhackerman · 2025 年7 月 20 日 03:53

这配置，部署了以后也不好玩，用几次后就会放弃的

didala · 2025 年7 月 20 日 03:54

啊对。我去搜一下教程看看，太依赖论坛大佬们了

yqyan · 2025 年7 月 20 日 04:20

配置不足，部署了也没什么实际用途，还是别折腾了，一定要折腾的话

github.com/ollama/ollama

docs/windows.md

main

# Ollama Windows

Welcome to Ollama for Windows.

No more WSL required!

Ollama now runs as a native Windows application, including NVIDIA and AMD Radeon GPU support.
After installing Ollama for Windows, Ollama will run in the background and
the `ollama` command line is available in `cmd`, `powershell` or your favorite
terminal application. As usual the Ollama [api](./api.md) will be served on
`http://localhost:11434`.

## System Requirements

* Windows 10 22H2 or newer, Home or Pro
* NVIDIA 452.39 or newer Drivers if you have an NVIDIA card
* AMD Radeon Driver https://www.amd.com/en/support if you have a Radeon card

Ollama uses unicode characters for progress indication, which may render as unknown squares in some older terminal fonts in Windows 10. If you see this, try changing your terminal font settings.

此文件已被截断。显示原始文件

找个能跑的起来的

Crixs · 2025 年7 月 20 日 04:25

我建议直接下载LM Studio，系统会根据你的硬件情况给出建议的模型，下载就行了

didala · 2025 年7 月 20 日 04:26

感谢解答，我这就去看看

Metaterminator · 2025 年7 月 20 日 04:27

沒能聯網使用，window最簡單應該是ollama/lmstudio。
但3b-7b的模型，只能處理很簡單的工作，還有運行速度token per secord，出字速度要你實測電腦配置才知道，應該會很不爽。

didala · 2025 年7 月 20 日 04:27

这个好！我去试试！

doomlord · 2025 年7 月 20 日 04:36

ollama

xiaolinkangna · 2025 年7 月 20 日 04:42

工具推荐很多就不聊了，看不懂B站随便搜大模型部署都有大把喂饭教程供新手观看
说真的7b还是太乐观了，3050ti随随便便就爆了，然后压力来到cpu，看你配置大概率是11400h，这速度用起来实属一般啊

kuluoxiaohuamc · 2025 年7 月 20 日 04:44

搞个随身wifi吧

kunzingLo.0 · 2025 年7 月 20 日 05:44

什么工作点觉没网

kunzingLo.0 · 2025 年7 月 20 日 05:45

没信号，还是没网。如果没信号的话带啥都没用

onyx · 2025 年7 月 20 日 05:55

这，还是不折腾了吧

yanlong · 2025 年7 月 20 日 06:01

有个叫闪电ai的适合你，适合小白一键部署，搜flash ai 即可，你看他宣传的多好。

话题		回复	浏览量
本地部署ai模型详细流程开发调优教程 , 人工智能	26	828	2026 年1 月 20 日
🚀部署了一个 Llama3 欢迎大家来玩！【Meta 最新 Llama 3 8B 和 70B模型】资源荟萃人工智能	65	3344	2024 年12 月 9 日
求推荐可以本地部署的AI大模型搞七捻三人工智能 , 快问快答	28	953	2024 年12 月 9 日
佬们，本地AI模型部署建议用哪个？开发调优人工智能 , 快问快答	50	1219	2025 年6 月 19 日
3分钟，拥有你的本地大模型-Ollama！【Windows篇小白向】资源荟萃人工智能	79	6144	2024 年11 月 14 日

跪求大佬给一个部署本地大模型的喂饭教程，不需要联网就能运行的，因为工作点没网。。

相关话题