AI大模型私有化部署 - 飞书文档
https://docs.feishu.cn/article/wiki/TR3wwIFUFi2TJ1kLYImccyiRn1c我们都知道，大模型的接入方式，目前流行的有两种，一种是通过api接入部署，另一种是通过私有化开源大模型项目部署。 ... 本文使用 OkHttp 作为网络请求框架， Moshi 作为序列/反 ...
飞搜侠
热门搜索
BISHENG：开源LLM应用开发平台 - 飞书文档
https://docs.feishu.cn/v/wiki/S3vUwOgSmiXNYmk25hocCtYznKc/a1兼容多种推理框架：正式支持主流开源LLM 推理框架（ollama/llamacpp/xinference/vllm）部署模型及在线 ... 部署文档也变得格外清爽：私有化部署. bisheng-unstructured组件**** ...
私有化部署的实现方式是什么 - 飞书文档
https://docs.feishu.cn/v/wiki/UDyUwm5w3iWieFkWLhDcUd2gnhb/af... 文档问答系统。 一、 背景介绍. 首先来谈下这个项目的背景。 JINA AI 作为开源软件的公司，维护了很多开源项目。那在此过程中，每天都会收到来自开源社区的大量问题 ...
Dify的私有化部署提升企业效能 - 飞书文档
https://docs.feishu.cn/v/wiki/GbwlwOdhziUGzRkJTAjcBZiknqf/a4一.Dify介绍生成式AI 应用创新引擎，开源的LLM 应用开发平台。提供从Agent 构建到AI workflow 编排、RAG 检索、模型管理等能力，轻松构建和运营生成式AI 原生应用， ...
如何搭建私有化知识库 - 飞书文档
https://docs.feishu.cn/v/wiki/XiwFw9WXFiQMMkkcioAcF6GhnHh/a3... 私有化智能助手，帮助读者了解整个构建过程和涉及的关键技术。 安装部署Dify. Dify 是一个开源助手API 和GPT 的替代品。Dify.AI 是一个大型语言模型（LLM）应用开发平台 ...
《开源大模型一站式指南：部署与微调》 - 飞书文档
https://docs.feishu.cn/v/wiki/F8VUwzJ3bixoPtkyCP3cS1tYnfd/a4... ：希望长期、低成本、私有化、大规模应用开源LLM的学习者开源大模型一站式最佳实践指南， ... 开源LLM 的部署应用指导，包括命令行调用、在线Demo 部署、LangChain 框架集成等；.
训练专属私有模型搭建企业知识库 - 飞书文档
https://docs.feishu.cn/article/wiki/P9IPwLe2JiHM9zkZBevc465Knyh这个开源项目的文档非常详细，从安装环境、设置模型默认参数、执行脚本 ... 大家如果对训练自己的私有模型有兴趣，或者有私有化部署专属模型的需求，可以一起交流交流。
本地部署资讯问答机器人：Langchain+Ollama+RSSHub 实现RAG
https://docs.feishu.cn/article/wiki/HrbtwiO1Bi0eEPksQDccMiimnob2024年4月18日 ... 另外，这里我还有个要求，希望能在**本地私有化部署**，这就意味着与coze 无缘了。 ... 化检索到的文档context = "\n\n".join([f'[citation:{i}] {doc[0] ...
Dify与其他平台对比：开源与闭源的较量 - 飞书文档
https://docs.feishu.cn/v/wiki/OCUowfD04iuTuqkmL9zcH9Dmnsc/a6开源性. 完全开源，支持私有化部署和定制化开发. 多为闭源平台，由大厂主导，产品质量可控. 社区力量. 强调社区力量和二次开发的可能性. 提供社区和基础设施，推动平台能力 ...
本地部署开源LLM的必备准备工作 - 飞书文档- Feishu
https://docs.feishu.cn/v/wiki/KjBgwlMqmiI2DOkMKNmc7GegnDc/a22023年8月30日 ... 笔者也正在尝试通过开源社区的一系列相关优秀项目，通过本地化部署服务来构建自己的LLM 应用。 ... 我们还需要针对性的对LLM 进行Prompt 的调优、添加私有 ...