# articles

title: 基于差分隐私的检索增强生成
link: https://paper.seebug.org/3265/
category: AI安全
pubDate: 2025-01-02 07:44:00
description:
作者：Nicolas Grislain
译者：知道创宇404实验室翻译组
原文链接：https://arxiv.org/html/2412.19291v1#Sx4
摘要
检索增强生成（Retrieval-Augmented Generation, RAG）已成为为大型语言模型（Large Language Models, LLM）提供最新且相关上下文的主流技术。这一技术可以缓解模型生成不准确...


title: Qemu重入漏洞梳理 & CVE-2024-3446分析
link: https://paper.seebug.org/3264/
category: 漏洞分析
pubDate: 2024-12-30 07:35:00
description:
作者：华为安全应急响应中心
原文链接：https://mp.weixin.qq.com/s/gWK5JwzLz8qdfG4VUJqVhA
1 简介
主要是分析CVE-2024-3446漏洞的成因和漏洞的补丁，以及之前的补丁为何失效，顺便对Qemu历史重入漏洞进行了分析梳理
2 时间线


2020/07/21 e1000e重入导致的UAF（还没归为重入问题）


2021/08/23 重入漏...


title: 使用开源大语言模型将安全通告与易受攻击的函数配对
link: https://paper.seebug.org/3263/
category: AI安全
pubDate: 2024-12-30 06:34:00
description:
作者：Trevor Dunlap, John Speed Meyers, Bradley Reaves, and William Enck.
译者：知道创宇404实验室翻译组
原文链接：https://www.enck.org/pubs/dunlap-dimva24.pdf
摘要
随着对开源软件依赖性的需求不断增加，管理这些依赖中的安全漏洞变得愈加复杂。当前最先进的工业工具通过代码的可达性分...


title: 假 Zoom 会议钓鱼分析
link: https://paper.seebug.org/3262/
category: 情报分析
pubDate: 2024-12-27 07:08:00
description:
作者：Reborn, Lisa@慢雾安全团队
原文链接：https://mp.weixin.qq.com/s/bPGbEdTCKaM9uJhaRXlO6A
背景
近期，X 上多位用户报告了一种伪装成 Zoom 会议链接的钓鱼攻击手法，其中一受害者在点击恶意 Zoom 会议链接后安装了恶意软件，导致加密资产被盗，损失规模达百万美元。在此背景下，慢雾安全团队对这类钓鱼事件和攻击手法展开分析，并追...


title: [Agent]WKM：在智能代理中注入世界知识
link: https://paper.seebug.org/3261/
category: AI安全
pubDate: 2024-12-26 07:28:00
description:
作者：简单的机器学习
原文链接：https://mp.weixin.qq.com/s/2pn3QGLWWbG5yW-G2Ap9Yg
在面对特定任务时，人们往往会首先利用丰富的先验知识在大脑中简要演练整个过程，然后再执行无意识的动作。称这种知识为全局任务知识（也称为环境/任务常识）。此外，在任务过程中，心智世界知识模型会不断维持一种局部状态知识，代表人类对当前世界状态的认知。例如，想象你在一个...


title: 卡巴斯基禁令之后的影响
link: https://paper.seebug.org/3260/
category: 情报分析
pubDate: 2024-12-25 02:52:00
description:
作者：Pedro Umbelino, Jake Olcott
译者：知道创宇404实验室翻译组
原文链接：https://www.bitsight.com/blog/aftermath-kaspersky-ban
在2024年春，全球对供应链风险的担忧日益加剧，对技术供应商的信任和可靠性问题也愈发凸显。在这样的背景下，美国对俄罗斯的杀毒软件巨头卡巴斯基实验室下了禁令，禁止其产品进入美国市场。...


title: 以大模型为目标的威胁攻击与安全思考
link: https://paper.seebug.org/3259/
category: AI安全
pubDate: 2024-12-23 08:21:00
description:
作者：启明星辰ADLab
原文链接：https://mp.weixin.qq.com/s/YL37d_PjiFJkarEjcrTdiA
一、概 述
自2023年以来，以ChatGPT为代表的大语言模型（LLM）向人们展现出了人工智能所具有的无限潜力，为各行业带来了全新的发展模式和生产力提升。以大语言模型为基础的智能平台及系统也逐渐成为国家和企业的一种重要的基础设施，面对这样一种全新的基础设施...


title: 趋利避害的大模型行为：伪对齐
link: https://paper.seebug.org/3258/
category: AI安全
pubDate: 2024-12-23 03:06:00
description:
作者：Ryan Greenblatt, Carson Denison等
译者：知道创宇404实验室翻译组
原文链接：https://arxiv.org/abs/2412.14093v1
摘要
我们在此呈现了一项关于大型语言模型在训练过程中进行“对齐伪装”行为的演示：该模型有选择地遵从其训练目标，以防止其行为在训练之外被改变。具体来说，我们首先向Claude 3 Opus模型提供了一个系统提示...


title: 找出披着羊皮的狼：通过文本摘要技术破解对抗性文本到图像提示
link: https://paper.seebug.org/3257/
category: AI安全
pubDate: 2024-12-20 07:43:00
description:
作者：Portia Cooper, Harshita Narnoli, Mihai Surdeanu
译者：知道创宇404实验室翻译组
原文链接：https://arxiv.org/pdf/2412.12212
摘要
文本到图像模型常常遭受一种称为“分而治之攻击”（DACA）的逐步攻击，该攻击通过大型语言模型将敏感文本包装在看似无害的叙述中，以隐藏不当内容。为了有效抵御这种逐步DACA攻击，...


title: 探索 AI 驱动的网络安全框架：深度学习技术、GPU 支持和未来增强
link: https://paper.seebug.org/3255/
category: AI安全
pubDate: 2024-12-20 01:14:00
description:
作者：Tobias Becher, Simon Torka
译者：知道创宇404实验室翻译组
原文链接：https://arxiv.org/pdf/2412.12648
摘要
传统的基于规则的网络安全系统在防御已知恶意软件方面表现出色，但面对新型威胁，它们却显得力不从心。为应对这一挑战，新一代网络安全系统开始融合人工智能技术，尤其是深度学习算法，以提升其识别事件、分析警报和响应安全事件的能力...


title: Apache Struts2 文件上传逻辑绕过(CVE-2024-53677)(S2-067)
link: https://paper.seebug.org/3256/
category: 漏洞分析
pubDate: 2024-12-19 08:37:00
description:
作者：y4tacker
原文链接：https://y4tacker.github.io/2024/12/16/year/2024/12/Apache-Struts2-文件上传逻辑绕过-CVE-2024-53677-S2-067/
前言
Apache官方公告又更新了一个Struts2的漏洞，考虑到很久没有发无密码的博客了，再加上漏洞的影响并不严重，因此公开分享利用的思路。
分析
影响版本
St...


title: 越狱破解马斯克最新AI-Grok2揭秘：特朗普赢得大选背后，AI的推波助澜
link: https://paper.seebug.org/3254/
category: AI安全
pubDate: 2024-12-18 06:02:00
description:
作者：洺熙（米斯特Ai安全组核心成员）
原文链接：https://mp.weixin.qq.com/s/thSJwKA7RbEueQ7iYsThFQ
序言
你可曾想过，马斯克的Ai Grok2大脑里究竟藏着什么秘密？
本文将带你潜入X平台最新AI模型Grok2的“大脑”，通过对其核心指令——系统Prompt的深度解码，揭开马斯克打造的这款AI的神秘面纱
我们将一起探索：

从越狱谷歌Gemi...


title: AI 作为新型黑客：开发进攻性安全代理
link: https://paper.seebug.org/3253/
category: AI安全
pubDate: 2024-12-13 07:50:00
description:
作者：Leroy Jacob Valencia
译者：知道创宇404实验室翻译组
原文链接：https://arxiv.org/pdf/2406.07561
摘要
在网络安全这一宏大领域内，由防御性措施向主动防御的转变对于守护数字基础设施的安全至关重要。本文深入探讨了AI在主动防御网络安全中的角色，尤其是通过研发一个名为ReaperAI的独立AI代理，该代理被设计来模拟和实施网络攻击。借助于...


title: Qwen2.5-Coder 技术报告
link: https://paper.seebug.org/3252/
category: 经验心得
pubDate: 2024-12-11 16:46:00
description:
公众号：简单的机器学习
原文链接：https://mp.weixin.qq.com/s/EiV7x403sVqVcABo_qd2kg
引言
Qwen2.5-Coder 系列是阿里巴巴团队推出的一款重要的代码生成模型，相比其前代 CodeQwen1.5，该系列在多个方面进行了显著的升级。Qwen2.5-Coder 系列包括两个模型：Qwen2.5-Coder-1.5B 和 Qwen2.5-Co...


title: Qwen2 源码阅读——核心代码跟读
link: https://paper.seebug.org/3251/
category: 经验心得
pubDate: 2024-12-11 16:45:00
description:
公众号：简单的机器学习
原文链接：https://mp.weixin.qq.com/s/PVSPNfv0I8_cxgPTmOes5w
我们继续使用上一节使用的样例文本：
[&amp;quot;你好啊&amp;quot;, &amp;quot;简单的机器学习是为了让机器学习变得更简单而存在的&amp;quot;]


这个样例产生的tokens结果为：
{&#39;input_ids&#39;: tensor([[108386, 10392...


