大模型部署相关的主流平台 - 飞书文档
https://docs.feishu.cn/article/wiki/VWvEwn8LZiGQ2HkW13VcpVmanhd1.1 Ollama https://ollama.com/ 推荐指数： Ollama 专注于在本地运行LLMs，允许用户直接在自己的计算机上实验全球各地的开源模型。 对于那些想要在不依赖外部服务 ...
飞搜侠
热门搜索
如何选择适合的LLM模型进行本地部署？ - 飞书文档
https://docs.feishu.cn/v/wiki/VHKuw40EUid6n1kV59tcM04knSg/agLLM探索：环境搭建与模型本地部署 · 驱动. 首先，需要显卡驱动，Ubuntu系的发行版安装显卡驱动比喝水还容易，这就是为啥推荐炼丹用Ubuntu的理由。 · Python. 搞AI，Python是必备的 ...
电脑运行本地大模型，GPT4All如何选择大模型？ - 飞书文档
https://docs.feishu.cn/v/wiki/EArlw8OpiiUN3dkQJnecx7MYn6f/ah本地大模型：直接在电脑上运行的大语言模型，免费、无需担心隐私、无需联网，仅消耗本机电脑的算力。对电脑内存有一定要求，推荐16GB 以上，8G 也能跑。 之前一直在用 ...
使用本地部署的开源大模型 - 飞书文档
https://docs.feishu.cn/article/wiki/DqVIwpQUyiQjqdkPwtRc7qLynOc本节中，我们将学习如何使用本地部署的开源模型API 服务来使用MetaGPT，并设置修复功能来修正能力较弱模型的输出格式错误。 需要注意，由于开源模型效果本身的局限性，并 ...
哪些开源项目可作为本地部署LLM的推理服务？ - 飞书文档
https://docs.feishu.cn/v/wiki/KjBgwlMqmiI2DOkMKNmc7GegnDc/ad2023年8月30日 ... ... 大语言模型火热的背景下，有很大一部分开发者希望本地部署开源LLM ， ... 由于Dify 的docker 部署推荐使用WSL2 环境。所以现在先安装WSL2 ...
大模型本地部署有哪些难点？ - 飞书文档- Feishu
https://docs.feishu.cn/v/wiki/KiIvwdFOciiqqNkwKzTcmn88ndL/ab快速导航 · 人工智能基础 · 大模型本地部署教程 · 从零开始的大语言模型原理与实践教程 · NLP 教程 · 项目案例拆解 · 资料合集 · **|AI产品经理｜落地实用方法论** · **|**AI ...
通义千问开源模型部署教程 - 飞书文档
https://docs.feishu.cn/v/wiki/TR3wwIFUFi2TJ1kLYImccyiRn1c/a5接下来，我将详细介绍两种部署方式，因为各类大模型的数量实在是太多了，有大语言模型，也有针对某个赛道的垂类模型。因此，这里我们只介绍两个开源项目的私有化部署方案，一个是 ...
小米大模型如何实现轻量化本地部署？ - 飞书文档
https://docs.feishu.cn/v/wiki/ZmHvw7whXimkM8kkTxzcdcQmnTc/ah1、郭明錤：不用担心OpenAI 可能破产这件事. 天风国际分析师郭明錤表示，不用去担心媒体报道的OpenAI 可能会破产这件事。 · 2、雷军：小米大模型技术主力突破方向是轻量化本地 ...
小白如何在10分钟内搭建大模型应用？ - 飞书文档
https://docs.feishu.cn/v/wiki/XJA9w5be6iiSDLk58LvcKhZvngh/aj大模型本地部署**：在本地GPU或者CPU上，下载模型文件，并基于推理框架进行部署大 ... 大家在本次学习过程中，可以一边将上面推荐的材料作为字典，遇到问题时通过 ...
学习规划表：从零入门大模型开发 - 飞书文档
https://docs.feishu.cn/v/wiki/SuppwSfFZi5KvYkiffUcygVNnPe/a8适合想**入门并实践在CPU上部署大模型、 大模型应用开发、构建大模型RAG应用**的学习者参与 · 只要会用电脑，就能跟着本文档内容，在** 30分钟内，**完成这些开发流程的速通 ...