LLM对抗攻击：多种攻击方法及特点 - 飞书文档
https://docs.feishu.cn/v/wiki/TofRwK0ZeiaUnlk7RSGcGMcHnwe/a2给定一个输入x 和一个生成模型p(.)，该模型可输出一个样本y~p(.|x)。这里的对抗攻击是找到一个p(x)，使得y 会违反该模型内置的安全行为，比如输出非法主题的不安全内容、泄漏 ...
飞搜侠
热门搜索
对抗样本攻击原理与算法探究 - 飞书文档
https://docs.feishu.cn/v/wiki/DVgaw9FSBitbohk12iAcswmcnCd/a2而右边的这个人身上挂了一幅画，此时目标检测系统就无法检测到这个人了。这就相当于对模型的一种误导，使得攻击者可以在智能监控下隐身。在对抗攻击里，攻击样本在人 ...
增强VLP模型对抗攻击的新方法 - 飞书文档
https://docs.feishu.cn/v/wiki/L7UBwkyF9iaGRNkXMgXcGLgZnvn/a3然而，攻击者可以通过对类似的开源或已知结构的VLP 模型（如CLIP）进行研究，生成对抗样本并将其应用于闭源商业模型。这种方法被称为**对抗攻击的迁移攻击（Transfer Attack） ** ...
清华领衔发布多模态评估MultiTrust：GPT-4可信度有几何？ - 飞书文档
https://docs.feishu.cn/v/wiki/EWG1w3KqCifO8bkRNVDca1dhnIe/abGPT-4、Claude、Gemini等商用模型针对安全可信已经做过许多加固技术，但仍然存在部分安全可信风险。例如，他们仍然对对抗攻击、多模态越狱攻击等展现出了脆弱性，极大地干扰了 ...
对抗样本攻击如何防御？核安全准则提出三道技术防线 - 飞书文档
https://docs.feishu.cn/v/wiki/JnJuwvNNwiFAbMkkDzmc6G6Lnrb/ai... 方法研究AI如何重塑核安全文化. 麻省理工的"道德困境模拟器"，通过百万量级的推演寻找最优治理路径. 国际原子能机构的"AI预言"项目，用复杂系统模型预测 ...
语义的情感因素在释义和对抗性攻击中有何作用？ - 飞书文档
https://docs.feishu.cn/v/wiki/V6rAwhfw2iJGQakcB7AcX7trnHh/ad一方面，研究人员需要不断改进模型的架构和算法，提高模型的鲁棒性。例如，可以采用对抗训练的方法，让模型在训练过程中同时学习正常数据和对抗性数据的特征，从而增强对攻击 ...
在自然语言处理中平衡隐私与鲁棒性 - 飞书文档
https://docs.feishu.cn/article/wiki/OrsFwO0u0iqYrKkB3IicRG17n3k为了应对自然语言处理中隐私和鲁棒性的挑战，中国的一个研究团队在最近的一篇论文中提出了一种新颖的框架，该框架将DP 和对抗训练相结合。这种双重方法旨在创建一个安全且 ...
AI照片识别如何应对对抗攻击威胁？ - 飞书文档
https://docs.feishu.cn/v/wiki/EFJpwenFXi2z2YkcFsJciSNfnNl/a9AI 技术通过大量的数据训练和深度学习算法，能够对照片进行准确的识别和分析。相比传统的人工识别方法，AI 技术可以大大提高识别的准确性和效率。
LLMs的五种越狱类型及防御策略 - 飞书文档
https://docs.feishu.cn/v/wiki/TI5zwoPFeiiEZakrHSFc9TYgnGc/a2梯度攻击通过利用模型的梯度信息，生成有害响应。例如，使用梯度坐标贪婪算法（GCG）生成后缀，使模型生成有害内容。此方法通过梯度优化生成能避开模型检测 ...
网络安全中如何防范AI和ML的对抗攻击 - 飞书文档
https://docs.feishu.cn/v/wiki/E6ZkwDfv7iBGsxkqhWuctUmgnth/af恶意软件的种类繁多，且不断演变，传统的特征码检测方法往往滞后于新出现的恶意软件。AI和ML技术可以对恶意软件的行为进行分析，例如它对系统资源的使用方式、与其他 ...