多模态模型的实现与发展 - 飞书文档
https://docs.feishu.cn/v/wiki/MoJxwYTLxitweakOM98cCNZqnzb/a7数据结构采用四级缓存设计，优化读写与训练分离，提升性能。 训练流程分离数据读写和计算过程，实现多级流水线并发。
飞搜侠
热门搜索
Kimi功能全解析，助你高效解决问题 - 飞书文档
https://docs.feishu.cn/v/wiki/YojIwenr1iRqq0kHRISc9NY1nkr/a1... 多个清晰的示例，说明希望模型模仿的内容。这种方法利用了模型上下文学习的 ... 2. 根据视频教程中的写作技巧，拆解小说中的事件团，识别多层危机（评为低，中 ...
如何基于Ray构建复杂数据处理链路？ - 飞书文档
https://docs.feishu.cn/v/wiki/JTciw6K6ai2hFukZO1rcI6VdnNA/apLoRA通过将权重更新分解为低秩矩阵，减少了可训练参数的数量，有效降低了内存开销。LoRA的rank值设为8，alpha值设为16，最终模型占用总显存的77%，即约1200GB。在此设置 ...
4.5 历史更新 - 飞书文档
https://docs.feishu.cn/article/wiki/FjiOwWp2giA7hRk6jjfcPioCnAc别愁，用“开餐厅”思路带你玩转AI编程！本篇文章把软件比作餐厅，形象解读前端、后端、API等概念，揭示软件诞生流程。同时梳理AI编程工具 ...
9月AGI技术月报上篇 - 飞书文档
https://docs.feishu.cn/article/wiki/Y7uKwcJngil85Zkuhuhcyp96nDd在multi-step执行阶段，每一步都进行模型推理。多步执行还会在每个step中更新seq_lens，通过CUDA并行操作来实现DECODE阶段的+1操作，从而保证数据流 ...
从《We Are The One》开始说起——它的诞生背后的融合工作流
https://docs.feishu.cn/article/wiki/X2nFwr4SsibWF8k46IKcC5PanT9由于UDIO的AI模型训练数据和参数调整不同，在使用UDIO时，需要通过不断的实践和学习，熟悉其特性。 发挥无限想象力. 由于SUNO和UDIO都支持上传音频，初始动机音轨可以来自任何 ...
探索OpenAI o1模型复现的难点与可能的解决方案 - 飞书文档
https://docs.feishu.cn/v/wiki/Cn2CwOhfDiNkHyk7YaWcl0HJnDd/a4除了微调和DPO之外，还有什么比较好优化大语言模型的方法？ https://www.zhihu.com/question/650415892/answer/3508696857. 拆解大语言模型RLHF中的PPO. https://zhuanlan ...
Kimi智能助手：功能强大的多面手 - 飞书文档
https://docs.feishu.cn/v/wiki/SwjBwhYCAieLgzk1v0qcHbBnnb8/a1... 多的是一些指令，是比较基础的资料。如果你想用好Kimi，用好AI，可以购买我的AIGC学习和实战手册。这是一套从入门到精通的AI实操教程。内含上百个AI应用与实践案例 ...
课程/教材/博客推荐 - 飞书文档
https://docs.feishu.cn/article/wiki/HYlcwbLnLiC6cjklWQocxT1Vns62024年12月1日 ... 它包括分类、回归、聚类、降维、模型选择和预处理等模块，支持多种算法实现，如SVM、决策树、随机森林、K-Means、PCA 等。库的设计简洁且易于使用，通过一致 ...
10月AGI技术月报下篇 - 飞书文档
https://docs.feishu.cn/article/wiki/QqHQwn3yJiVj27kacgYc50pgnId该项目的前端使用Python，理论上可接入多种神经网络框架（如Torch、ONNX、TensorFlow等），当前只专注于对接Torch。编译器基于“先编译后优化”的思路，重点在于使用MLIR框架进行 ...