LLM在快手推荐的对比学习 - 飞书文档
https://docs.feishu.cn/v/wiki/YYqywFhxUiKpPfkk49DcMKXnnId/a7方法其实和上次介绍的小红书的NoteLLM（ **NoteLLM: 大语言模型在小红书推荐系统的落地应用**）有点类似的地方，都是想用大模型作为特征提取器来提取item文本中的语义信息来 ...
飞搜侠
热门搜索
多模态RAG应用中对比学习的样本是如何选取的？ - 飞书文档
https://docs.feishu.cn/v/wiki/E4c1w5KeOiDyxqkbhC8cTr2ZnOb/ac使用嵌入模型很容易实现这种理解,该模型首先将这些文本词转换为各自的嵌入,然后训练模型遵循一个简单的逻辑:如果词语相关,它们在向量空间中彼此接近,如果不相关,它们将被 ...
深入理解中文clip模型：从预训练到工程实践 - 飞书文档
https://docs.feishu.cn/v/wiki/CsnIwxbauiZ2fakSYp1cI8fwnie/aaCLIP是一种基于对比学习的多模态模型，与CV中的一些对比学习方法如moco和simclr不同的是，CLIP的训练数据是 文本\-图像对 ：一张图像和它对应的文本描述，这里希望通过对比学习 ...
多模态模型如何向统一框架发展？ - 飞书文档
https://docs.feishu.cn/v/wiki/Z5Ngwt7zpi7Pt1kRPjjcgwxCnZe/acCLIP 模型的思路非常简单，它将图片和文本利用Transformer分别编码为向量，然后使用对比学习（ITC）的方式进行训练。ITC使来自同一对的图片和文本的向量在向量空间中尽可能地 ...
AIDE：优化机器学习代码生成的Agent - 飞书文档
https://docs.feishu.cn/v/wiki/WQxtwZKCciRcbvkjmymcSgW0nif/a42024年11月9日 ... 多模态嵌入则集中在CLIP、BLIP和SimVLM等模型上，致力于从大规模图像-文本对中学习共享空间的表示。训练流程上，许多模型采取两阶段方法：初期对比预训练及多 ...
LLM4Rec里，如何利用LLM进行特征编码以丰富语义表征？ - 飞书文档
https://docs.feishu.cn/v/wiki/DMqOwfhbIi2kUlkxu0RcVaYjn2F/a5模型更新loss function 为item 对比学习，和预训练阶段不同的是，这里使用除正 ... 框架，end2end直接由query 生成答案。本质是将传统的索引融入到模型参数中 ...
联邦学习框架如何重塑多AI协作系统的知识网络拓扑结构
https://docs.feishu.cn/v/wiki/HLE7wrZF3iOJYgkM3k7cN59FnoH/a1多模态知识蒸馏技术正在重塑模型训练范式。OpenAI开发的协作训练框架，通过对比学习算法将GPT-4的生成能力、CLIP的视觉理解能力和AlphaFold的结构预测能力进行跨模态对齐。
AI前沿技术之自监督学习与小样本学习 - 飞书文档
https://docs.feishu.cn/v/wiki/Qmijw5m4Di42qPkULqmcqzRlnfe/a2大模型(Large Language Models): GPT、PaLM等 · 多模态AI: 视觉-语言模型(CLIP、Stable Diffusion)、多模态融合 · 自监督学习: 自监督预训练、对比学习、掩码语言模型等 · 小 ...
数字巴别塔构建：VLP 框架与对比学习的协同效应 - 飞书文档
https://docs.feishu.cn/v/wiki/DToOwxwXyiM2q6kUQyxcYm0cnMd/a7Vison-Language Pre-training（VLP）框架如同精密的光学棱镜，将2.4亿张标注图片分解为像素级的语义单元。ResNet-152模型在ImageNet数据集上的百万次迭代，赋予AI堪比艺术评论 ...
模型训练速度的对比与分析 - 飞书文档
https://docs.feishu.cn/v/wiki/PlMjwHppwiS4EekwnFZcPD8cnd8/a2目标非从业者：了解ai compiler 的研究内容、成本和意义。 AI 从业者：帮大家读了一些经典的paper。 主要讨论deep learning 模型的推理（inference）。