从Score Function理解DDPM - 飞书文档
https://docs.feishu.cn/v/wiki/KmkAwqnXPisrvfkK7RJcK9GqnAf/a62023年7月8日 ... 损失误差不用均方误差MSE。在实际网络训练中，上述蒙特卡洛采样 ... 公式计算出来。直接用$\sigma_t^2=\beta_t $ 效果也不错，总之不需要神经 ...
飞搜侠
热门搜索
统计学公式和原理补充【学院派】 - 飞书文档
https://docs.feishu.cn/article/wiki/wikcnWvxSOUmiftz4Xuu98ots1f在实际应用中，当从某总体中抽取一个样本后，并不能直接应用它去对总体的有关 ... （2）有效性有效性：指对同一总体参数的两个无偏估计量，有更小标准差的估计量更有效。
FlashAttention - 3的FP8精度下数值误差为何更低？ - 飞书文档
https://docs.feishu.cn/v/wiki/EBPnwBiVoiQZvFkU3MAcLNkHnbh/a7注意力机制作为无处不在的Transformer架构的核心层，是大型语言模型和长上下文应用的瓶颈。FlashAttention提出了一种通过最小化内存读/写来加速GPU上的注意力计算的方法。它 ...
量化技术对模型性能的影响如何 - 飞书文档
https://docs.feishu.cn/v/wiki/JuxQwA2alidCKkkFq5MczjuXnBd/af标准差fp16. 指标差值 ... 又根据激活值是基于先验数据获得或者执行时获得分为动态量化和静态量化，作者提出了三个层次的量化方式，其中O1~O3的计算延迟依次减少。
美团履约场景下AB测试，统计陷阱怎么破？ - 飞书文档
https://docs.feishu.cn/v/wiki/CqJiwCnmliLNsAkWpqycQ79Nnpd/ai不仅要在实验设计环节应对** 溢出效应 和 小样本 **的双重挑战，平衡好实验偏差与方差以确定合适的实验单元、分组方法和分析方法，给出合理的实验设计；.
ReLU函数的计算效率高在哪？ - 飞书文档
https://docs.feishu.cn/v/wiki/PjoUwaGZtiNeHPkHiifcHptPnme/agGELU 函数的计算涉及到误差函数，这在实际应用中可能会导致计算成本较高。因此 ... （其中$\Phi(x)$ 是标准正态分布的累积分布函数，$\phi(x)$ 是标准正态分布的概率密度函数。）.
算法小白用GPT做算法建模年省6万，数据探查是关键吗？ - 飞书文档
https://docs.feishu.cn/v/wiki/BPE7weipIiILR3kMiNhc9318nwf/ad验证方法如下：. 验证标准：将实际成交金额与用指数计算出来的成交金额做差值比对. 1）通过GPT拟合出来的公式，计算成交金额. 2）计算两个值，差值= 计算成交金额- 实际成交金额， ...
[算法学习] 从0开始掌握反向传播算法 - 飞书文档
https://docs.feishu.cn/article/wiki/XhFDwymwMiEMT6kkSCKc3LKinHd作者：吵爷基础入门反向传播算法是深度学习和神经网络领域的重要一步。反向传播算法是一种在神经网络中用于优化权重的方法。它使用链式法则来计算损失函数关于每个权重 ...
Transformer推理成本高？看OpenAI研究负责人的应对之策 - 飞书文档
https://docs.feishu.cn/v/wiki/EMzqwksSWisPxgkb51KcM045n7f/a2... 标准差来检测异常值。异常值特征保持原始形式，而其他值被分到多个bin 中，并且仅 ... 稀疏化是扩大模型容量同时保持模型推理计算效率的有效方法。本文考虑两种 ...
SFT数据高质量筛选方法中，哪个最适合工业应用？
https://docs.feishu.cn/v/wiki/ER7jwXJxrikHZ6kbCmQcfaminUo/aeSuperfiltering [3] 则进一步拓展了IFD。该论文将IFD 计算公式修改为$\text{IFD}{\theta}(Q,,A) = \dfrac{\text{PPL}{\theta}(A|Q)}{\text{PPL}_{\theta}(A)} $，即不再使用 ...