如何选择适合的LLM模型进行本地部署？ - 飞书文档
https://docs.feishu.cn/v/wiki/VHKuw40EUid6n1kV59tcM04knSg/agLLM探索：环境搭建与模型本地部署 · 驱动. 首先，需要显卡驱动，Ubuntu系的发行版安装显卡驱动比喝水还容易，这就是为啥推荐炼丹用Ubuntu的理由。 · Python. 搞AI，Python是必备的 ...
飞搜侠
热门搜索
哪些开源项目可作为本地部署LLM的推理服务？ - 飞书文档
https://docs.feishu.cn/v/wiki/KjBgwlMqmiI2DOkMKNmc7GegnDc/ad2023年8月30日 ... 在当下开源大语言模型火热的背景下，有很大一部分开发者希望本地部署开源LLM ，用于研究LLM 或者是基于开源LLM 构建自己的LLM 应用。笔者也正在尝试通过开源 ...
电脑运行本地大模型，GPT4All如何选择大模型？ - 飞书文档
https://docs.feishu.cn/v/wiki/EArlw8OpiiUN3dkQJnecx7MYn6f/ah本地大模型：直接在电脑上运行的大语言模型，免费、无需担心隐私、无需联网，仅消耗本机电脑的算力。对电脑内存有一定要求，推荐16GB 以上，8G 也能跑。 之前一直在用 ...
大模型本地部署有哪些难点？ - 飞书文档- Feishu
https://docs.feishu.cn/v/wiki/KiIvwdFOciiqqNkwKzTcmn88ndL/ab快速导航 · 人工智能基础 · 大模型本地部署教程 · 从零开始的大语言模型原理与实践教程 · NLP 教程 · 项目案例拆解 · 资料合集 · **|AI产品经理｜落地实用方法论** · **|**AI ...
推荐微调模型：为你的任务选择合适的大语言模型 - 飞书文档
https://docs.feishu.cn/v/wiki/Drttwt1bxiFNW8k8kpFctdQDn2c/a5Self-LLM是一个围绕开源大模型、针对国内初学者、基于AutoDL 平台的中国宝宝专属大模型教程，针对各类开源大模型提供包括环境配置、本地部署、高效微调等技能在内的全 ...
小白如何在10分钟内搭建大模型应用？ - 飞书文档
https://docs.feishu.cn/v/wiki/XJA9w5be6iiSDLk58LvcKhZvngh/aj预训练语言模型（Pre-trained Language Model, PLM）：使用大量的无标注数据预训练双向LSTM（Bidirectional LSTM, biLSTM）或者Transformer，然后在下游任务上进行微调（Fine- ...
学习规划表：从零入门大模型开发 - 飞书文档
https://docs.feishu.cn/v/wiki/SuppwSfFZi5KvYkiffUcygVNnPe/a8第一步：下载如下两个代码文件！ · baseline1：在CPU 上部署并进行大模型推理. [初赛baseline1-使用ipex-llm推理大语言模型.ipynb] · baseline2：在CPU 上部署大模型并运行检索 ...
从理论层面探索大型语言模型 - 飞书文档
https://docs.feishu.cn/v/wiki/Pbruw4cZEiFLmrkXNmGcFhB2nId/a4作为开发者，如何学习大模型邹雨衡：作为开发者，如何学习大模型20240518(1).pdf 学习路径课程导引如果你没有任何代码基础，推荐 ... 本地部署、高效微调等技能在内的全流程 ...
通义千问开源模型部署教程 - 飞书文档
https://docs.feishu.cn/v/wiki/TR3wwIFUFi2TJ1kLYImccyiRn1c/a5接下来，我将详细介绍两种部署方式，因为各类大模型的数量实在是太多了，有大语言模型，也有针对某个赛道的垂类模型。因此，这里我们只介绍两个开源项目的私有化部署方案，一个是 ...
了解模型获取和IPEX-LLM部署工具- Task1 - 飞书文档
https://docs.feishu.cn/article/wiki/Gka7wVHxziP4fKkgDwXcdiZxnah推荐使用工具 ... 基于开源大语言模型：. 作品开发应基于开源大语言模型进行，可以同时使用其他适合的辅助模型及数据集。模型可使用原始发布的模型或经过微调后的模型，包括但不 ...