VLLM 源码分析与安装指南 - 飞书文档
https://docs.feishu.cn/v/wiki/Y4riwhBNJiYD3VkYx9Fcc3fnnPe/a1仓库链接：https://github.com/vllm-project/vllm.git LLM 高速推理框架vLLM 源代码分析/ vLLM Source Code Analysis：强推，建议跟着代码看，非常清晰安装最新版vllm 已经 ...
飞搜侠
热门搜索
SGLang 后端源码分析
https://xdkkkgyt8c.feishu.cn/wiki/SCHTwuSppi7MHEk6ujAc1RHSnbdSGLang 源码分析按顺序： SGLang 后端源码分析SGLang 算子源码分析（ ... py 这个文件。其中主要做如下操作：. 1. 使用argparse 库读取命令行后面的参数到 ...
Dify发布工作流的源码分析与事件触发（3） - 飞书文档
https://docs.feishu.cn/v/wiki/KVIWwrcPMiOdDhk4FngcHrlgnJc/a9（1）创建App ... 首先创建app，然后在apps数据表中插入记录，如下所示：. 当app创建时，发送app_was_created事件，如下所示：. 具体app_was_created事件执行逻辑，如下所示：. 这段 ...
Xinference后端代码目录结构剖析 - 飞书文档
https://docs.feishu.cn/v/wiki/OpBzwY7zXiqv7KkfavzcL8pynVe/a3下面通过源码运行方式介绍如何通过登录页面进入Xinference系统。 一.Xinference源码结构和启动流程. 该项目的目录结构包含了源代码、配置文件、文档、测试和CI/CD相关文件 ...
SGLang 算子源码分析
https://xdkkkgyt8c.feishu.cn/wiki/LrPowtneFiAwdmkt4zjcYuqQnyeSGLang 算子源码分析 · 基础 · Llama2 · 模型架构 · RadixAttention · Extend · 在Extend 阶段（相当于正常情况的Prefill 阶段），一条Request 的Prefix 部分已经有KV Cache，保存在 ...
140个Python项目及源码分析 - 飞书文档
https://docs.feishu.cn/v/wiki/EZqCwDlhOiI01WknecscC3Vynqg/ac从简单的基础应用到复杂的数据分析和人工智能项目，应有尽有。对于初学者来说，这是一个很好的学习途径，可以通过实际的项目来深入理解Python的语法和编程逻辑。例如，其中 ...
TGI服务器源码中的gRPC接口如何与其他模块交互？ - 飞书文档
https://docs.feishu.cn/v/wiki/A5HBw5FIgiIdpRkbYT7cSYg5n8c/ai参考Text Generation Inference源码解读（一）：架构设计与业务逻辑：参考其中整体架构分析Text Generation Inference源码解读（二）：模型加载与推理：参考其中的模型 ...
Prefix Caching机制- vLLM源码解析3 - 飞书文档
https://docs.feishu.cn/v/wiki/POYNwdkaRiQCtWkY6D4c4NcQnCd/ah2024年7月5日 ... vLLM 中的Prefix Caching 机制通过在推理过程中缓存具有相同前缀（Prefix）的逻辑块，有效地减少了冗余计算，提高了大模型的推理速度。该机制在prefill 和 ...
Dify中的讯飞星火平台工具源码分析
https://z0yrmerhgi8.feishu.cn/wiki/YDjmw5scniQM3ckH25ucF1tAnme... tools\provider\builtin\spark image.png image.png 一. spark.yaml（工具供应商yaml） 这段代码是一个配置文件，用于设置一个平台工具的认.
Dify官方文档：全面指南与资源 - 飞书文档- Feishu
https://docs.feishu.cn/v/wiki/QqEJwtu5yisfmFkRkIEcKvwEndo/a51.《Dify应用操作和源码剖析》 https://z0yrmerhgi8.feishu.cn/wiki/N9MLw8SotiRDoYkUEMpc7UkUnGg 2.Dify生成式AI应用创新 ...