低秩注意力：优化计算过程 - 飞书文档
https://docs.feishu.cn/v/wiki/PFIEwpEtdigsLVkAN2icjLgnnGf/a4低秩注意力（Low-Rank Attention）. 低秩注意力是一种优化注意力机制的方法，通过将注意力矩阵分解为低秩矩阵，这种方法能够有效地简化计算过程。低秩分解假设交互空间可以被更 ...
飞搜侠
热门搜索
《世界算力发展历程（上）：从古老智慧到现代计算机的算力演进》
https://docs.feishu.cn/v/wiki/CPOjwxcuVie0I0kFJL6cbVEAnRg/a5计算是对信息进行处理的过程。所以，如何表达和记录信息，是实施计算的第一步。 在原始社会，为了更好地描述自己观察到的信息 ...
微软小冰的同理心计算过程 - 飞书文档
https://docs.feishu.cn/v/wiki/HsapwBFRkihwtxkSj8AcDvC5nlg/a6微软小冰的设计理念是让机器人具备IQ + EQ + Personality的能力。 IQ就是智商，指能做很多事，有很多技能。 EQ是情商，主要指对话答复要考虑到对方的情绪和兴趣， ...
算力发展史 - 飞书文档
https://docs.feishu.cn/article/wiki/Bzu7wVdrtiw7sbkMQbycYyuEnTg... 计算和思考，这是最早的“算力”形式。随着文明的进步，人们发明了草绳、石头、算筹等简单的计算工具来辅助计算 ... 其核心思想是利用数学中的有限差分公式来简化计算过程。具体 ...
Python中MRO的计算过程复杂吗？ - 飞书文档
https://docs.feishu.cn/v/wiki/EXUjwJqItiFdHXkkLMccOXufnPh/ab在Python 中，MRO（Method Resolution Order，方法解析顺序）是指类继承体系中，Python 如何确定在调用方法时的解析顺序。MRO 决定了在多继承环境下，Python 如何寻找方法或 ...
Pytorch交叉熵函数的样例计算过程是怎样的？ - 飞书文档
https://docs.feishu.cn/v/wiki/PYwywFGzEi5tt5kB8rHcdwiPnCe/aa样例1，cross_entropy计算步骤如下（以下面那种图片为例子）：. 对input按列先进行softmax，将score转化为-> 每个样本出现 ...
SGLang 中Extend 阶段的Attention 计算过程 - 飞书文档
https://docs.feishu.cn/v/wiki/LrPowtneFiAwdmkt4zjcYuqQnye/a6在Extend 阶段（相当于正常情况的Prefill 阶段），一条Request 的Prefix 部分已经有KV Cache，保存在 K\_Buffer/V\_Buffer 中（之后Extend 的部分计算好KV 之后也会保存到里面）.
算力需求为何持续增长？ - 飞书文档
https://docs.feishu.cn/v/wiki/MjF1wuSl4iq908kN28EcKZQ7nGf/ah算力的字面意思，大家都懂，就是计算能力（Computing Power）。 所谓“计算”，我们可以有多种定义。 狭义的定义，是对数学问题进行运算的过程，例如完成“1+1=？
Transformer的Self - Attention机制：如何计算并发挥作用？ - 飞书文档
https://docs.feishu.cn/v/wiki/CS6VwBIdHixAVKkdXU8cq9okngb/a6**Transformer **的工作流程大体如下：. 第一步：获取输入句子的每一个单词的表示向量X，X由单词的** Embedding （Embedding就是从原始数据提取出来的 Feature ） 和单词 ...
多维表格公式计算优化指南 - Feishu
https://www.feishu.cn/hc/zh-CN/articles/022441339437-%E5%A4%9A%E7%BB%B4%E8%A1%A8%E6%A0%BC%E5%85%AC%E5%BC%8F%E8%AE%A1%E7%AE%97%E4%BC%98%E5%8C%96%E6%8C%87%E5%8D%972025年3月10日 ... 多维表格公式计算优化指南 · 采用多个变量列： · 列1：Table.FILTER(CurrentValue.年份=2021&&CurrentValue.人员=姓名).销售额.SUM() · 列2：Table.FILTER( ...