大圣：全网最适合小白的Llama3 部署和微调教程 - 飞书文档
https://docs.feishu.cn/article/wiki/Sx6zwWdD5iCqP6kgySycmoOgn5c恭喜你，到这一步，你已经拥有了自己的可以本地运行大模型的服务器啦！ 下载大模型. 两个开源社区. 在我们下载大模型之前，先来介绍两个重要的开源社区：. HuggingFace.
飞搜侠
热门搜索
手把手教你本地部署大模型以及搭建个人知识库 - 飞书文档
https://docs.feishu.cn/article/wiki/ZKGmwsQhTihYZ8kdu7uccF1lnQc所有人都会手把手教你部署XX大模型，听起来很诱人，因为不需要科学上网，不需要高昂的ChatGPT会员费用。 但是在开启下面的教程之前，我希望你能有个概念：运行大模型需要很高的 ...
通义千问开源模型部署教程 - 飞书文档
https://docs.feishu.cn/v/wiki/TR3wwIFUFi2TJ1kLYImccyiRn1c/a5接下来，我将详细介绍两种部署方式，因为各类大模型的数量实在是太多了，有大语言模型，也有针对某个赛道的垂类模型。因此，这里我们只介绍两个开源项目的私有化部署方案，一个是 ...
全网最细】从LLM大语言模型、知识库到微信机器人的全本地部署教程
https://docs.feishu.cn/article/wiki/LjcLwLM5hihSOukoPBzcqOlon7f我们需要进行部署的有三大部分1、本地部署大语言模型2、本地部署FastGPT+OneAPI 3、本地部署HOOK项目或COW 一、部署大语言模型一、下载并安装Ollama 1、点击进入， ...
【边端部署教程】MiniCPM2.0 - 飞书
https://modelbest.feishu.cn/wiki/VL5kw9DsEiRDmJkEyTUcydE0nie模型简介 · llama.cpp PC端部署 · 下载[llama.cpp]( · 编译llama.cpp · 获取MiniCPM的gguf模型 · 方法1：点击： · 将fp16的gguf文件进行量化，若是下载的本身就是量化文件，可省略。
小白如何在10分钟内搭建大模型应用？ - 飞书文档
https://docs.feishu.cn/v/wiki/XJA9w5be6iiSDLk58LvcKhZvngh/aj数据隐私： 数据需要传输到服务商的服务器，可能涉及数据安全和隐私问题。 ... Datawhale开源教程，掌握大模型理论知识！ **开源大模型食用指南**self-llm. Datawhale开源教程，速 ...
大模型部署相关的主流平台 - 飞书文档
https://docs.feishu.cn/article/wiki/VWvEwn8LZiGQ2HkW13VcpVmanhd本地部署的开源大模型，免费，不用爬 ，甚至电脑不用联网，就能用AI 大模型。 简单易上手，B 站上面可以搜到相关教程，对非技术型用户比较友好。 1.2 LM Stiduo. https ...
知识库搭建的关键步骤 - 飞书文档
https://docs.feishu.cn/v/wiki/QnAtw5s4Vi7GKOkDgYMclJdFn5e/a4本项目是一个面向小白开发者的大模型应用开发教程，旨在基于阿里云服务器，结合个人知识库助手项目，通过一个课程完成大模型开发的重点入门，主要内容包括：.
TensorRT-LLM部署教程：从编译到运行 - 飞书文档
https://docs.feishu.cn/v/wiki/XyC9wr6QZiFRFTkj86SchVddn9g/a2... 模型（原因是每个模型架构是不同的）。但是TensorRT所作的做深度图级优化是支持大多数流行的模型，如Mistral、Llama和Qwen等。具体支持的模型可以参考TensorRT LLM ...
LLamaFactory部署与微调大模型指南 - 飞书文档
https://docs.feishu.cn/v/wiki/QKUNwvvL0ilcwUk5T65cnpHgnVV/a3在我多次尝试（其实是多个平台账号欠费之后），终究是放弃了让大家云端使用。学习和使用成本太高，本篇教程依然全程本地操作，无需调用云端资源。让大家既能体验大模型训练和 ...