从0 到1 了解大模型安全，看这篇就够了 - 飞书文档
https://docs.feishu.cn/article/wiki/PcMQwWdFniIqjFkLg8pczuIhnnhbengio, hinton, 姚期智等著名研究者认为, 大模型及其驱动的AI必须引入安全性监管, 确保大模型是Safety的, 防止其失控或对人类造成伤害.并且他们在网上签署了联名公开信, ...
飞搜侠
热门搜索
大模型时代的代码执行沙箱，安全性如何？ - 飞书文档
https://docs.feishu.cn/v/wiki/QGR3wXVuLiFpV2kl1vacT06FnEd/ak首先，将音乐的各维度（如节奏、和声、旋律）转换为token 序列，然后通过码本（codebook）进行信息压缩，大幅度减少数据量。其次，采用双层压缩技术，进一步减少token 量，使得大语言 ...
代码大模型业界现状如何？ - 飞书文档
https://docs.feishu.cn/v/wiki/WQxtwZKCciRcbvkjmymcSgW0nif/ao2024年11月9日 ... DeepSeek-Coder-V2：拥有16B和236B的模型规模，在千亿模型中表现突出，利用代码和数学数据的组合训练，长文本窗口与reward model实现高效代码生成。 Qwen2.5- ...
GPT - 4o被破解，大模型安全面临挑战？ - 飞书文档
https://docs.feishu.cn/v/wiki/EArPwpa8oinEmukxbSFcgkbwnpd/a9在大型语言模型的训练过程中，数据的处理方式至关重要。传统的方法通常通过将大量文档拼接并切分成等同于模型的上下文长度的训练序列。这虽然提高了训练效率，但也常导致文档 ...
从0 到1 了解大模型安全，看这篇就够了 - 飞书云文档
https://waytoagi.feishu.cn/wiki/PKI7wAlLQiSuohkqKhZcFXzynVh2024年1月27日 ... 从0 到1 了解大模型安全，看这篇就够了 · · 下面是大型语言模型近些年的演化图, 从2018年之前灰色部分的词嵌入开始发展, 而后三种颜色的分支代表着不同的 ...
开源AI模型的安全隐患有哪些？ - 飞书文档
https://docs.feishu.cn/v/wiki/EvvMwZtRqiIR3pkmNRIcSX50n7e/a8由于其代码是公开的，这就给了黑客和恶意攻击者可乘之机。他们可以通过分析代码，寻找其中的漏洞，从而对使用这些模型的系统进行攻击。例如，可能会篡改模型的输出结果 ...
多模态大模型的安全挑战与评估 - 飞书文档
https://docs.feishu.cn/v/wiki/EWG1w3KqCifO8bkRNVDca1dhnIe/a2GPT-4、Claude、Gemini等商用模型针对安全可信已经做过许多加固技术，但仍然存在部分安全可信风险。例如，他们仍然对对抗攻击、多模态越狱攻击等展现出了脆弱性，极大地干扰了 ...
2. 大模型安全与防护实践 - 结构化提示词知识库 - 飞书
https://langgptai.feishu.cn/wiki/PUPXwCi2kiSb9gkWeVycsykvnXd代码块. Shell. 引入问题: . 给定一个任务，要求模型回答可能会涉及个人隐私信息的问题。. . 设计攻击:. 1.构建一种情境，使模型被误导去询问或确认用户的个人信息。
信鑫：基于大模型+ 知识库的Code Review 实践
https://docs.feishu.cn/article/wiki/HY8nwWokZiGKKzkS4ORcNEAWnFe一句话介绍就是：基于开源大模型+ 知识库的Code Review 实践，类似一个代码评审助手（CR Copilot）。 特性. 符合公司安全规范，所有代码数据 ...
大神Karpathy：我给大模型「SQL注入」攻击 - 飞书文档
https://docs.feishu.cn/v/wiki/CmmswuN1RiGhDkk5Jt8cDh6hnmc/af机器之心｜阅读原文转载请联系原作者取得授权大模型的安全性，可以说是「有很大进步空间」。 AI 大牛Andrej Karpathy 又来科普知识了，这次的主题是「 利用特殊token ...