【本期导视】 你的局域网之海一定装得下DeepSeek 本地模型的局域网访问 基于LM Studio或Nath Middleware 没错,本地部署的AI大模型能够让局域网内所有设备访问了! 【1】 ipconfig指令 【2】 使用LM Studio直接做服务器 【3】 使用LM Studio+Nath Middleware(推荐)做中转服务器,更智能,且支持全部功能 【4】 在局域网上访问服务器 【下期导视】 Nath UI 4.1 全量更新(函数调用+语音功能) 【4.0版本一键包更新导引】 怎么下载?下拉查找Notion共享文档查看连接!无套路,开源的! 联网搜索/文件访问/网页访问/本地数据库构建和推理时实时调用 Nath UI 能上网的LM Studio (*) Nath UI Middleware Displayer 所有上述功能兼容Web UI(虽然不是原生支持) 修复Web UI相对路径的问题 到现在为止9000+行自己项目代码 4.0.x增量更新,一次全量,剩下增量 【往期部署视频】 原始教程视频: https://www.bilibili.com/video/BV1NGf2YtE8r/ (LM Studio的下载/完全禁用防火墙实现超级隐私) 答疑视频1: https://www.bilibili.com/video/BV1atfQYQE9P/ (一键包的安装和使用/镜像站下载模型/参数调整) 答疑视频2: https://www.bilibili.com/video/BV1H2FWefEVq/ (疑问解答/模型选择/4GB显存实测32B Q4模型数学题) 性能调优: https://www.bilibili.com/video/BV1qoFGepEhL/ (QB的权衡取舍/上下文长度/GPU Offload/CPU 线程数/KMM/KV Cache/以及实测正确调优的提升) 【往期模型选择】 模型选择:https://www.bilibili.com/video/BV1cjNPe7E31/ 猫娘?魅魔?https://www.bilibili.com/video/BV1KGNJeNEqg/ 【一键包】 很多人说国内上不了huggingface,我临时制作了一个一键包。链接如下,使用方法见txt。装好一键包后可以选装其他模型,参考底下的可选装模型链接。此外还需要跟着视频调整防火墙。 √ 我将资源分享成了一个notion共享文档,大家可以在共享文档中找到最新的资源(网盘) √ truthful-busby-322点notion点site斜杠NathMath-LLM-18e45165050a80408586c3f2bf93ce68 √ 请将上述 点修改为.,斜杠修改为/ 后访问 ❓ notion打不开的同学还是可以私信一键包获取的~ UP设有自动回复~ 【未来更新路线】 1. 主线 - 模型选择,小说/翻译/数学/代码/科研/整活?每一个方向都有合适的模型,我来帮大家遴选 2. 主线 - 模型选择,AI是生产力是创造力,哪些“三无模型”能满足大家整花活呢 3. 主线 - 模型应用,基于文本输入的推理时输出调节(更改文风),基于本地源码的库编写,等等 4. 专业 - 模型调优,基于OpenWebUI和llama.cpp进行对私有数据的微调/RL重训练 5. 专业 - API部署,使用专业软件让本地模型提供API供程序调用,实现办公自动化 6. followup - 开源模型的突破还会更新的~ 【收官并不是结束,而是新的开始】 感谢大家的支持。DeepSeek R1模型本身到此结束。但是我们的LLM本地部署系列才刚刚开始。 大家学会了本地部署模型,那么,对某一特定任务(例如编程/小说),选择什么样的模型好?无限模型? 选对了模型,我们应当怎么使用呢?Prompt工程之后敬上~ 让你的AI听你的话,干你的活。 干活当然是处理PDF, TXT, 没错,怎么让AI服服帖帖帮你“读书”?当然是 推理时指引 不满足窗口调用,想用API?我们可以调取API将大语言模型与其他AI结合在一起,例如创建文本生成-TTS工作流,让AI用甜美的声音说出来 不满足于公有模型?可以用大家或者公司私有的数据进行微调,让你的AI长久地熟悉你所在的领域。 . 保姆级教程。旅程刚刚开始,祝大家AI旅程愉快。
www.bilibili.com