PODCAST · technology
网络安全AI说
by mztkn
各位CSO好,这是一档分享网络安全建设干货的双人对话播客,emm~和全麦面包一样干
-
72
Mythos级AI攻击——安全恐慌启示录
📌 节目概要2026年4月7日,网络安全领域迎来了分水岭时刻。Anthropic发布了迄今为止最强大的前沿模型——Claude Mythos Preview,其展现出的安全能力远超预期,立即引发美国国家战略层面的高度关注。这不是一次普通的技术迭代,而是一场改写网络安全攻防规则的根本性变革。⚡ 核心看点🔥 Mythos为何令人恐慌?关键数据:Firefox漏洞利用成功率:其他模型 4.4% → Mythos 84%单次漏洞发现成本:不足50美元CyberGym漏洞复现率:83.1%🏛️ 美国在做什么?美联储紧急会议参会者:财政部长、美联储主席、摩根大通/高盛/花旗CEO核心议题:严肃对待Anthropic新型AI模型带来的网络安全风险Project Glasswing防御计划仅向约40家关键基础设施维护者开放Mythos访问权限创始成员:AWS、Apple、Google、Microsoft、CrowdStrike、Palo Alto Networks、JPMorganChase目标:在攻击者获得同等能力之前,优先修补最重要的系统⚠️ 中国被排除在Glasswing项目之外🚨 七大攻击向量🌏 中国面临的挑战技术差距对比核心困境:技术封锁让国内模型滞后于国外攻击者可用国外模型,防守方只能用国内模型0day挖掘与利用能力差固定存在📝 金句摘录"基于'摩擦=安全'的传统防御措施面临系统性失效风险""防御者需修补所有漏洞,攻击者只需找到一个——但现在攻击者有了Mythos""Mythos的能力是不确定的,但技术封锁会持续存在是确定的"
-
71
企业安全保护AI智能体思路分享
智能体三类形态"致命三要素"(Lethal Trifecta) 不可信的外部输入:网页、邮件、文档中隐藏的恶意指令 敏感数据访问权限:能访问公司核心数据和系统 外部通信能力:能向外发送数据三要素叠加 = 提示词注入从"文字游戏"升级为"数据窃取/系统破坏"主要攻击类型 间接提示注入:网页藏指令,智能体总结时触发 持久化内存中毒:修改身份文件,重启后仍执行恶意任务 日志中毒:HTTP头注入恶意代码,排错时触发 供应链投毒:恶意技能、被污染的开发者工具 基础设施泄露:网关暴露、API Key泄露、远程执行漏洞🛡️ 保护AI治理六步法核心理念:把智能体当真正的员工来管——有身份、有工牌、有权限、有监管。💡 网络安全AI说补充 当前保护AI智能体的方案仍处于探索阶段,本期仅为其中一种技术路线思考,不少国内外内的安全厂商及云厂商均有类似的初代产品,但实际效果仍有待实践检验。
-
70
企业如何安全使用OpenClaw
来看一看业内安全厂商,在帮助企业内部员工安全使用openclaw上有什么思考。本篇仅能作为一个方案参考,不一定是业内最优秀的,但确实较为直接地给出方案,实际解答了“企业如何安全使用openclaw”这一问题。本方案主要思路是用“沙箱技术”,沙箱的隔离方案看起来还不错,但仍需要实际测试使用才知道效果,另外如何在安全管控和使用openclaw上取得一个平衡点,可能得经过一段时间的验证才能有比较好的业内实践了。🎯 本期要点01. OpenClaw的两种形态 Chat AI:只动脑不动手的聊天机器人(如豆包、千问) AI Agent:有手有脚的智能体,能执行复杂任务,真正提升效率,如OpenClaw02. 三大核心风险🔨 破坏风险 AI幻觉、失忆导致误操作 案例:Meta安全总监因AI失忆误删所有邮件📤 泄密风险 恶意指令注入(隐藏白色文字攻击) API凭证明文存储,黑客可轻易获取⚔️ 攻击风险 恶意技能(Skills)投毒 远程控制、反弹shell、横向攻击内网03. 业界两大方案及痛点隔离路线 问题:性能占用高(500MB→2GB),配置复杂,体验差检测路线 问题:无法识别语义层面的攻击,检出率很低04. 本文解决方案:无感沙箱 Agent Space核心特性 ⚡ 轻量级:内存占用<200MB 🎭 无感知:仅首次认证,后续免认证 🛡️ 精细化管控:共享文件夹:最小化文件权限内网访问:按需授权上网权限:开放但搭配威胁检测系统权限:完全限制核心理念 隔离为兜底 + 检测为补充 给AI分配"数字工位",干该干的活,不越界
-
69
OpenClaw:AI顶流还是安全漏洞之王?
2025年爆火的AI开源框架OpenClaw,GitHub星标登顶,却成安全漏洞集大成者!110个漏洞、13.5万暴露实例、20%恶意插件,还有木马偷信息!听我们拆解这颗AI界的“定时炸弹”。项目概况OpenClaw(前身为 Clawdbot、Moltbot)是 2025 年 11 月上线的开源 AI Agent 框架,被定义为"真正可以执行任务的 AI"。该项目以惊人速度成为 GitHub 历史上增长最快的现象级项目之一,上线以来累计超过 200,000 颗星。核心能力与权限需求OpenClaw 拥有以下核心能力: 信息处理:浏览网页、总结 PDF、分析截图 日程管理:安排日历事项、发送提醒通知 商务自动化:在线购物、处理电子邮件 系统集成:读写本地文件、控制桌面应用 通信集成:集成 WhatsApp、Telegram、Slack 等主流消息平台 持久化记忆:记住数周甚至数月前的交互记录为实现上述功能,OpenClaw 需要获取用户的根文件权限、认证凭证(包括密码和 API 密钥)、浏览器历史和 Cookie,以及系统内所有文件和文件夹的访问权限。安全风险概览1. 漏洞层面风险 已披露漏洞数量:至少达 110 个(截止 2026 年 2 月 28 日) 高危漏洞:其中 3 个漏洞已有公开的 PoC(概念验证)代码,攻击者可直接利用 修复进度:截至 2026 年 2 月 26 日,已修复超过 40 个漏洞2. 暴露面风险 公网暴露实例:超 13.5 万个(覆盖 82 个国家) 可被 RCE 利用:至少 12,812 个实例存在远程代码执行风险 最新数据:3 月初发现超 40,000 个暴露实例,63% 部署存在漏洞3. 供应链风险 ClawHub 插件平台:存在超过 820 个恶意插件,占插件总数约 20% 技能增长失控:从 2,800 个飙升至 18,140 个(三周内增长 550%) 发布门槛极低:仅要求发布者拥有超过一周的 GitHub 账户4. 企业部署风险 影子部署:22% 的受监控企业中发现员工私自安装 OpenClaw 绕过管控:未授权部署形成隐蔽的安全风险点5. 恶意软件感染 实际感染证据:Vidar 木马变种已成功感染 OpenClaw 实例 信息窃取:出现基于该平台的信息窃取行为重大安全漏洞详解CVE-2026-25253(核心高危漏洞) CVSS 评分:8.8(高危) 漏洞类型:错误资源传输/跨站 WebSocket 劫持 影响版本:v2026.1.29 之前版本 攻击机制:Control UI 从 URL query string 读取 gatewayUrl 时未做验证,自动建立 WebSocket 连接并发送认证 Token PoC 状态:已公开命令注入漏洞(3 个高危) CVE 编号:CVE-2026-24763 / CVE-2026-25157 / CVE-2026-25475 漏洞类型:命令注入 攻击机制:用户可控输入未经充分过滤即传递给系统命令执行器 PoC 状态:已公开其他高危漏洞 CVE-2026-26322:SSRF(服务端请求伪造),CVSS 7.6 CVE-2026-26329:路径穿越(Path Traversal) CVE-2026-27001:日志投毒导致 Prompt InjectionClawHavoc 供应链攻击活动攻击规模 恶意技能数量:335 个(在 2,857 个审计技能中发现) 伪装策略:针对不同用户群体的精准伪装加密货币用户:111 个恶意技能YouTube 创作者:57 个恶意技能预测市场用户:34 个恶意技能开发者:28 个恶意技能攻击技术特征 域名抢注(29 个仿冒名称) 虚假系统提示 时间延迟攻击(数小时或数天才激活) 批量生成与快速扩散 单个上传者发布 677 个恶意包攻击载荷类型 外部恶意软件分发:技能包含恶意软件下载链接 混淆数据外溢:通过 base64、Unicode 混淆窃取凭证 安全禁用与破坏:诱导关闭安全机制、修改系统配置配置错误风险典型错误配置 默认绑定 0.0.0.0:监听所有网络接口而非仅本地回环 认证关闭:旧版本默认不启用认证 WebSocket Origin 校验关闭:导致 CSRF 攻击 明文凭据存储:API 密钥、密码以明文形式存储真实利用事件 Shodan 扫描事件:研究员成功访问数百个实例的 API 密钥、Bot Token、聊天记录 Moltbook 数据泄露:150 万个 API 认证 Token、35,000 个邮件地址泄露 Vidar 木马感染:配置文件被窃取,包含完整 Agent 操作上下文攻击向量分析攻击场景一:公网暴露实例直接攻击 前提:无认证或弱认证,监听公网 IP 攻击者可直接访问:控制面板、WebSocket 端口、明文凭据、聊天历史、已集成服务攻击场景二:本地浏览器劫持 前提:运行未打补丁版本(< v2026.1.29),即使仅监听 localhost 攻击路径:恶意网站 → 用户浏览器 → 向 localhost:18789 发起 WebSocket 连接 → 窃取 Token → 获得完整控制权加固建议对企业用户紧急处置与基础防护 升级至 v2026.2.26 及以上版本 全面轮换关联凭证(LLM API 密钥、消息应用 Token 等) 核查公网暴露情况,及时整改 强制网关仅监听 127.0.0.1:18789 配置防火墙,拒绝 18789 端口公网入向流量 启用密码认证(16 位以上强密码) 定期轮换 Gateway Token 为 Control UI 配置独立浏览器 Profile长效安全管控 仅安装经审核通过的 ClawHub 技能 新技能部署前需在隔离环境完成代码审查 监控 18789 端口异常连接行为 监控 mDNS 广播,发现未申报的实例 将 OpenClaw 纳入影子 IT 扫描范围 制定专项使用政策,纳入标准变更管理流程对个人用户 安全意识提升:充分认识安全风险,按照最佳实践配置 环境隔离:考虑在虚拟机或容器中使用 敏感信息保护:避免让 OpenClaw 访问敏感信息 行为监控:监控网络连接和文件访问 定期检查:检查系统异常行为 应急响应准备:定期备份重要数据,发现异常时立即隔离系统核心警示OpenClaw 安全危机不仅是一个具体项目的安全问题,更是整个 AI Agent 技术发展过程中的重要警示。它提醒我们: 技术革新与安全治理必须同步:在追求技术创新的同时,必须同步考虑安全治理 便利性与风险的权衡:享受自动化便利的同时,必须清醒认识潜在风险 供应链安全的重要性:开放生态需要严格的安全审核机制 用户安全意识的关键性:技术安全措施需要配合用户的安全意识OpenClaw 的案例表明,AI Agent 具有巨大的潜力和价值,但其安全挑战也同样巨大。只有通过技术社区、企业用户、安全研究人员和政策制定者的共同努力,才能建立一个既能够促进创新又能够保障安全的 AI 生态系统。
-
68
OpenClaw 安全性分析
文章选自公众号:比瓴安全原文链接:https://mp.weixin.qq.com/s/qs7fxmntjp3YUKuLzibsGw播客简介 🎙️本期播客深入探讨了近期在GitHub上爆火的OpenClaw自动化代理系统的安全隐患。该项目号称能让AI真正“拥有双手”,直接操控电脑执行任务,但在强大功能背后隐藏着系统性的安全风险。系统各层的安全漏洞 🔍 消息适配环节:AI与电脑之间的翻译官可能被篡改 网关服务器:系统入口出口易被截获和控制 指令构建环节:AI生成指令可能被恶意修改 执行引擎:核心执行单元易被植入恶意代码 响应路径:反馈结果可能被篡改误导用户本地部署的安全矛盾 ⚖️ 数据不出本地的安全假象 高权限带来的完全接管风险 AI成为无判断力的“高权限实体”三种典型攻击路径 ⚔️ 登录令牌被盗:黑客可直接冒充用户登录系统 恶意插件投毒:第三方插件暗藏木马病毒 记忆毒化攻击:长期记忆系统被植入恶意信息关键漏洞与风险点 💥 CVE-2026-25253:记忆系统权限配置错误 插件市场灰色地带:300+恶意插件潜伏 社交代理新风险:AI模拟人进行诈骗活动安全测试的惊人发现 ✍️ 90%以上系统存在身份验证失效 系统指令可轻易被泄露 防护能力基本处于“裸奔”状态强化防御的建议 🛡️ 多因素身份认证与权限管理 工具调用隔离与权限拆分 记忆系统加密与敏感信息保护 严格的插件审核机制
-
67
AI智能体分级与安全防护新解
随着人工智能技术的飞速发展,AI智能体已成为推动生产力变革的核心力量。本期播客创新性地提出了AI智能体三级分级体系,从知识问答类应用(L1)到工作流类应用(L2),再到自主规划类应用(L3),清晰勾勒出AI智能体的演进路径与发展趋势。报告深入剖析了AI应用面临的多重风险,包括不可知性风险、不可控风险、忠诚度风险和能力滥用风险等。通过对比传统编码型应用与AI应用的本质差异,揭示了AI应用黑盒特性带来的安全挑战。基于对AI应用风险的深刻洞察,报告提出了构建企业级智能体安全治理平台的解决方案。相信你没有听爽,不过由于各种敏感因素,并不能将本方案更加清晰地展示出来,不过我觉得几个月后就能有更多干货内容的展示啦。
-
66
如何要到网络安全预算
文章选自:https://www.csoonline.com/article/4104472/how-to-justify-your-security-investments.html作者:Chritstoph Schuhwerk.Christoph Schuhwerk, CISO in Residence bei Zscaler.在本期播客中,我们深入探讨了CISO(首席信息安全官)如何向决策层证明网络安全投资的明智性。从安全技术与企业战略的关联,到风险与收益的沟通语境,再到如何考量股东价值,全面解析了CISO在向董事会阐述安全战略时的关键要点和有效方法。《网络安全AI说》补充:如何要到网络安全预算,真的真的真的很难!和几个CSO聊过后,发现“在可控范围内放大安全事件的影响”是要到预算的不错途径。
-
65
一个公司的数据安全实践
详细记录了案例公司在数字化转型过程中构建数据安全治理体系的具体历程。案例公司在初期面临着管理与技术脱节、资产盘点过度依赖人工以及风险监测响应薄弱等核心挑战。为解决这些痛点,公司通过部署数据安全大脑平台,借助AI大模型在数据安全上的能力,实现了自动化资产识别、API意图推理及精准的数据分类分级。该方案成功将数据安全深度融入现有的网络安全运营体系中,确立了多部门协同的权责边界。实践证明,这种“以监促管”的架构显著提升了敏感数据的覆盖率与合规监控效率,有效优化了整体安全投资。通过技术手段赋能,案例公司最终构建起了一个闭环、可视化且高效的数据安全运营环境。
-
64
AI大模型如何给网络安全告警降噪?
🎙️ 播客《AI大模型在网络安全告警降噪中的原理》Show Notes🍟核心主题解析AI大模型如何通过智能研判技术,从海量网络安全告警中精准识别真实威胁、过滤误报,提升安全运营效率。🍟关键内容速览 技术原理总览安全大模型通过 客制学习Agent(学习客户业务行为)和 调查研判Agent(多维度关联分析)协同工作,将告警分为 黑(真实攻击)、白(误报)、灰(疑似行为)三类。双Agent架构保障实时处理海量告警,兼顾效率与准确性。 三大核心能力判黑:关联研判真实攻击通过历史基线、上下文行为、多维度数据(如告警表、事件表)交叉验证,举例说明如何识别恶意Payload执行、主机失陷等攻击。 案例:单包无法判断的恶意下载行为,通过关联后续数据包确认攻击成功。 判白:业务误报识别建立客户业务行为基线,自动识别持续性请求、相似URL接口、静态资源访问等正常业务,过滤90%以上误报。 脆弱性场景研判按访问方向(外对内/内对内/内对外)和攻击结果,细化研判逻辑,区分“脆弱性请求”与“脆弱性成功”。🍟部分引用资料🍟业内厂商参考当前网络安全领域许多厂商均有推出类似的AI大模型,比如深信服、奇安信、安恒、360、腾讯云、阿里云等(排名不分先后)。其中一些厂商有SAAS版的服务,可以选择试用体验下。
-
63
AI反钓鱼,国内外最新进展及模型分析
选自公众号:AI与安全原文链接:https://mp.weixin.qq.com/s/RYM7oGm7VCs-N3qRiEGKaA难得见到如此全面的分析,原文更加精彩,推荐大家看看。🎙️ 核心主题AI驱动的反钓鱼技术前沿发展,涵盖学术研究突破与国内外厂商实践案例,解析大模型在邮件安全领域的应用范式与技术挑战。关键内容速览 反钓鱼技术演进史从规则匹配(SPF/DKIM校验)→ 传统机器学习(SVM/随机森林)→ 深度学习(CNN/RNN)→ 大模型时代(LLM/SLM多模态检测)的技术跃迁痛点解析:传统方法受限于人工特征工程,难以捕捉语义级社工攻击意图 学术研究双方案对比ChatSpamDetector(单模型) :流程:邮件解析→简化处理→结构化提示词→LLM判定(输出JSON结果含钓鱼概率/冒充品牌/判断理由)局限:对模型能力要求极高,单Agent误报率超20%(Llama2-70B实测数据)MultiPhishGuard(多智能体) :创新点:对抗代理生成变体邮件+Text/URL/Metadata三Agent协同检测+PPO强化学习优化权重优势:高对抗样本检出率提升15%,误报率降低至行业平均水平的1/3 国际厂商技术实践微软Defender for Office 365:混合架构:LLM(语义理解)+ SLM(Phi-3系列4B/7B模型,成本优化)核心能力:意图分析(如CEO冒充/工资欺诈判定)+ 威胁分类(10+细分场景标签)Proofpoint语义引擎:轻量化模型:0.3B参数专用模型(每2.5天更新),支持100+语言检测特色功能:OCR解析二维码钓鱼+行为AI引擎(发件人异常/URL信誉关联分析) 国内标杆方案(深信服)技术架构:8B多模态推理模型:支持图片/HTML/附件联动分析,集成OCR与浏览器自动化工具向量数据库优化:误报样本特征存储,相似度检索降低误报率至0.046%实战性能:硬件部署:双4090服务器日处理10万+邮件,检出精准率95.4%多模态案例:自动破解验证码→下载网盘恶意文件→沙箱动态分析 产业洞察 成本对比:训练8B模型需H100*50卡运行30天,安全语料标注成本占比超60%攻防趋势:大模型生成钓鱼邮件能力已超越人类红队,催生"AI护栏"防护需求
-
62
企业数字化转型中的网络安全变革
🎙️ 企业数字化转型中的网络安全变革播客笔记核心议题数字化转型浪潮下,企业网络安全如何从"被动防御"转向"主动赋能"?本期播客深入解读网络安全变革的10大核心观点,探讨安全与业务融合的落地路径。
-
61
甲方企业如何选网络安全产品
选自公众号:安全内参原文链接:https://mp.weixin.qq.com/s/UkZSIVQr52BExHq4vq29hg🎙️ 播客Show Notes:甲方网络安全产品选型全框架指南主题:从需求诊断到成本优化——构建科学的安全产品决策体系🔍 深度拆解1️⃣ 需求与目标:锚定北极星✅ 核心业务系统梳理(如交易系统/数据库)✅ 历史威胁事件复盘(勒索/钓鱼攻击记录)✅ 现有防护漏洞扫描(防火墙/IDS覆盖率)2️⃣ 产品评估三维度3️⃣ 决策流程创新 打分机制:技术团队(60%)+ 业务部门(30%)+ 采购(10%) 潜规则管理:设立"灰色地带申报制",公开人情因素并量化影响💡 甲方实战Tips 避坑指南:警惕"新技术噱头",优先选择经金融/政务行业验证的成熟方案
-
60
安全运营的本质:分工的力量
本文选自公众号:0x727开源安全团队原文链接:https://mp.weixin.qq.com/s/IZ-DvbWxRraWXXLOquFu-w很少看到如此精彩的理论思考,作者太牛逼了!!!!!组织的安全运营水平,最直接表现在分工发展程度。任何新威胁与复杂性,只要不是已知威胁的重复,必然推动分工深化。分工深化,不是岗位调整,更是认知、协作、行动策略系统进化。它让运营面对未知挑战不再依赖偶然,而依靠整体的力量将复杂性、不确定性转化为可控,将潜在风险转化为可管理现实,将零散威胁转化为组织整体性的防御力量。——Micropoor核心主题安全运营的本质在于科学分工,通过专业化协作将个体能力转化为系统防御力量,应对复杂威胁环境。关键讨论点 分工的底层逻辑:亚当·斯密"别针工厂"案例:分工使效率提升240倍,类比安全运营中威胁情报、漏洞修复、事件响应等环节的协同价值。警惕"全能型工程师"陷阱:分工不足会导致认知过载与响应滞后。 多学科视角下的分工价值经济学:专业化技能、转换成本节约、规模经济(如SOC梯队分工)。社会学:从"机械团结"到"有机团结",红队/蓝队/情报团队的信任链条构建。管理学:动态能力理论——AI威胁催生AI安全分析师岗位,云计算推动DevSecOps分工。心理学:认知负荷调节与"自我决定理论"(胜任感、自主性、归属感缓解安全团队压力)。 实践落地建议:大型组织:细化岗位分工(如威胁情报、SOC、合规审计),建立跨团队协作流程。中小企业:借助云安全服务、MSSP实现社会化分工,聚焦核心能力建设。避坑指南:避免分工僵化,通过定期演练(如攻防对抗)检验协作有效性。
-
59
安全威胁与事件运营指标体系
📝 内容摘要本期播客围绕"安全威胁与事件运营指标体系"展开,通过"安全体检表"的比喻,系统讲解了指标体系的定义、核心价值、运营过程分解及20项关键指标。用"金库与零钱""拼图游戏"等生动案例,将复杂的安全运营知识转化为易懂的内容,帮助快速掌握如何通过数据化指标衡量安全运营成效。🔑 关键话题与时间戳开场与主题引入 安全运营指标体系的核心价值:像"仪表盘"一样监控安全状态 为什么需要指标体系?——从"凭感觉"到"靠数据"的安全管理升级什么是安全运营成效指标? 三大衡量维度:过程覆盖全面性、结果准确性、响应及时性 应用场景:目标制定、团队对比、上级监督评价 关键概念辨析:成效(目标达成度)vs 成果(直接产出物)vs 成熟度(体系完善度)安全运营过程分解 四阶段闭环:安全监测(发现线索)告警监控(筛选有效信息)威胁研判(判断事件真实性)事件处置(解决并闭环) 类比:安全运营就像"破案",四阶段缺一不可指标体系与统计方式 20项指标分类:35%定性指标(人工评估)+ 65%定量指标(数据统计) 三大统计方法:模拟测试+人工验证(如漏报率)环境采样+人工评估(如误报率)运行数据统计(如平均处置时间) 工具支撑:XDR平台、BAS模拟攻击工具、AEV对抗性暴露验证工具核心指标详解 监测覆盖类:监测类别覆盖率(15类日志完整性)监测位置完备率(工作负载:网络边缘:终端=4:3:3权重) 告警与研判类:误报率:避免"狼来了"效应平均研判时间(MTTA):从发现到分析的效率 处置与闭环类:自动化抑制占比:减少人工干预,提升响应速度平均恢复时间(MTTR):业务中断损失的关键指标总结与实践建议 指标体系价值:不仅衡量现状,更驱动持续改进 落地技巧:标准化流程(如调查checklist)📚 延伸思考 如何平衡指标考核与实际安全效果? 中小团队如何低成本落地指标体系? 未来安全运营指标的发展趋势(AI驱动?自动化闭环?)🎧 适合人群 企业安全运营团队成员 网络安全管理者与决策者 对安全指标体系感兴趣的IT从业者
-
58
AI红队测试&传统红队测试
本文选自公众号:AI与安全原文链接:https://mp.weixin.qq.com/s/VS56-Si6hnTGDOCnImGWQQ简介本播客深入探讨AI红队的定义、实施方法、现实挑战及行业案例,帮助听众理解如何通过结构化对抗性测试提升AI系统安全性。核心主题 AI红队与传统红队的本质区别 AI红队的标准化实施流程 实战中的挑战与解决方案 科技巨头的红队实践案例关键要点总结1. AI红队的核心价值 识别AI系统的概率性风险(如幻觉、偏见),弥补传统渗透测试盲区 需多学科团队协作(机器学习专家+安全工程师+社会科学家)2. 实施关键步骤 范围定义:明确测试目标(模型/API/数据管道)与风险场景 对抗性场景设计:模拟提示注入、数据中毒等真实攻击手段 持续迭代:随模型生命周期更新测试策略,避免一次性评估3. 行业最佳实践 OpenAI:混合人工+自动化测试,外部专家参与漏洞发现 Google:结合国家行为体威胁情报,模拟高级攻击链 Meta:针对开源模型(如Llama 3.1)重点测试儿童安全与生物威胁参考资料 原文链接:AI红队,PaloAlto的观点和实践
-
57
蚂蚁容器安全(AntCWPP)能力建设
原文链接:https://mdn.alipayobjects.com/huamei_muqr6f/afts/file/rupuR4MUMeQAAAAAghAAAAgADmJsAQFr/蚂蚁容器安全(AntCWPP)能力建设-基于Kata和eBPF.pdf🎙️ 播客简介本期播客深入探讨蚂蚁集团基于Kata和eBPF技术构建的容器安全方案AntCWPP,解析传统容器安全的痛点、创新技术架构及落地实践效果。适合对云原生安全、容器技术感兴趣的技术人员和安全从业者。📌 核心话题 传统容器安全的五大挑战:共享内核导致的容器逃逸风险策略管理复杂且影响范围大生产环境内核版本碎片化问题拦截策略下发的高风险性能与安全的平衡难题 Kata+eBPF:容器安全的双重保险Kata容器:独立内核架构实现"别墅级"隔离,彻底阻断逃逸路径eBPF技术:内核层"智能保安",实现进程/网络/文件行为的细粒度管控协同优势:强隔离+精准防护,解决传统方案"顾此失彼"的困境 AntCWPP方案架构解析四大核心组件:管理平台(指挥中心)、策略服务中心(K8s CRD)、宿主机Agent(执行者)、Kata Pod(安全容器实例)veBPF通信通道:实现宿主机与Kata容器内eBPF程序的高效交互双层防护机制:默认审计策略全覆盖+应用级策略精准管控 关键技术落地细节进程管控:LSM hook点拦截非白名单程序,Drift Prevention防止镜像篡改网络隔离:TC层+LSM层双重过滤,实现基于五元组的精准访问控制文件防护:inode映射加速FIM监控,敏感文件修改实时拦截系统调用审计:syscall跟踪点+LSM hook点结合,覆盖全量攻击面 业务落地案例高风险在线应用防护:进程白名单+网络访问控制,将攻击风险降至趋近于零AI Agent沙盒环境:为大模型生成代码提供隔离执行空间,防止恶意代码逃逸🌟 技术亮点 内核灵活选择:Kata容器内核独立升级,轻松支持eBPF新特性 微隔离能力:单个Pod策略异常不影响其他业务,爆炸半径趋近于零 高性能设计:eBPF程序内核态运行,性能损耗<3% 全链路可观测:安全事件日志包含进程/容器/策略多维元数据📚 相关资源 技术方案解析:AntCWPP架构白皮书🔍 延伸思考 安全容器与传统虚拟机的性能对比 eBPF在云原生安全领域的未来应用场景 AI代码执行环境的安全防护最佳实践
-
56
看实践:从传统网络到全网零信任过程详解
选自公众号:阿肯的不惑之年原文链接:https://mp.weixin.qq.com/s/2J-Gr9F_ZPlJsB3CFYAZCwEthan作为当事人,详细介绍了全网零信任落地的思路、计划、挑战和解决办法。任何一个企业要全网推行零信任架构,面临诸多挑战,比如适合的产品、原有网络和系统的适配、推广的节奏、其他部门的配合等。在阿肯看来,最重要的是与管理层和业务部门对齐零信任认知,确认将零信任理念和框架作为未来安全建设的方向。这个方向一旦达成一致,过程中的问题就是如何想办法解决的问题。变革中没有容易的事情,让我们一起努力!作者简介-----------------------------------Ethan:高科技上市公司安全运营负责人,12年的内部安全建设经验,对零信任、实战攻防有深入研究。感兴趣的同学更推荐阅读原文,有更多丰富细节。
-
55
网络安全AI大模型如何学习业务误报
系统阐述了网络安全AI大模型通过建立业务行为基线识别11类误报场景的原理与案例,包括持续请求、多主机访问、相似URL等典型业务行为模式,强调AI通过学习业务规律而非机械执行规则来降低误报率,核心方法是分析请求特征、访问模式和上下文环境,实现对正常业务行为的精准识别与误报过滤。
-
54
AI大模型如何赋能安全运营
以下为AI大模型在安全运营中的常见价值:1、AI来做规则解析2、AI来做资产归属推理3、AI提升未知威胁检测准确率4、AI实现威胁自动对抗5、AI实现自动化攻击调查溯源
-
53
网络安全对投资并购的影响
选自公众号:安在原文链接:https://mp.weixin.qq.com/s/9VYZH4Hsj_L5qUZmWwP2QA探讨了网络安全在风险投资、私募股权以及并购活动中日益增长的重要性。首先指出,风险投资公司传统上并未将网络安全视为早期投资的关键考量,因为初创公司的失败通常与网络事件无关。然而,文章强调,私募股权公司和并购方对网络风险的态度正在发生转变,这主要是由于多起备受瞩目的网络事件对交易价值和企业声誉造成了重大影响。为此,越来越多的私募股权公司正在采纳专属托管安全服务提供商(MSSP)模式来管理其投资组合公司的网络风险。最后,预示网络尽职调查将成为未来并购过程中一个更结构化和标准化的关键组成部分,类似于财务审计,以更好地理解和管理相关风险。
-
52
大模型自身安全体系化分析
本期播客节选自中国信通院和阿里云合著的《2024大模型自身安全研究报告》,感兴趣的同学自行百度查看原文吧。概述了大型模型自身安全的框架,涵盖了安全目标、安全属性、保护对象和安全措施四个核心层面。报告详细阐述了确保训练数据安全可信、算法模型安全可靠、系统平台安全稳定以及业务应用安全可控的具体目标。此外,报告还深入探讨了训练数据、算法模型、系统平台和业务应用各环节的安全保护措施,包括数据合规获取、模型鲁棒性增强、系统安全加固以及生成信息标识等。整体而言,这份报告提供了一个全面且多维度的大型模型安全防护指南。
-
51
金融网络安全能力成熟度模型简析
概述了金融网络安全能力成熟度模型,该模型通过详细的能力域和子域定义了组织网络安全的不同成熟度级别。它涵盖了从业务识别、资产管理、安全策略到风险管理、物理安全、网络通信安全等多个方面。此外,它还包括了服务器、终端、应用和数据安全,并详细阐述了安全开发、安全运维、人员安全、攻防实战、安全监控、威胁感知、分析预警以及响应恢复等关键领域。该框架通过能力等级(L1-L5)为金融机构提供了衡量和提升其网络安全能力的具体指导。不确定是不是可以放模型原稿,暂时先不放吧,劳烦各位听播客啦。
-
50
看一个开发安全实践落地经验
原文选自:安全村SecUN原文链接:https://mp.weixin.qq.com/s/joCWYzEholKAPpof8H0W6A很少看见这么详实高价值的开发安全赋能实践,原文有很多图片解析,更精彩!摘要:随着攻击手段的复杂化和法律合规要求趋严,安全左移已经成为行业共识,可以显著降低修复成本及提高产品安全性。伴随软件开发模式的敏捷化转变和DevOps的流行,DevSecOps相应出现,但机构在落地过程中,普遍面临诸多困难,如安全人员不足、缺少威胁分析工具和安全需求库等,严重影响了应用系统的安全保障效果。本文将介绍开发安全赋能平台的实践探索,以平台为载体整合和重构安全专家多年积累的领域知识、经验、技术、工具和流程,将安全赋能到软件开发的各个阶段,伴随研发流程进行安全风险同步管理,通过自助化、流程化、自动化的平台赋能,减轻机构从事DevSecOps的困难,提高安全效能,快速交付合法、合规,且满足较高安全保障水平的软件产品。关键词:开发安全赋能平台、DevSecOps、轻量级威胁建模、安全测试编排与关联、数据安全评估内嵌、开发安全度量指标
-
49
当钓鱼邮件遇上AI大模型,鹿死谁手
深入探讨了钓鱼邮件的演变及其对传统网络安全措施构成的挑战。电子邮件的普及为钓鱼攻击提供了广阔空间,而社会工程学和“网络钓鱼即服务”以及GPT等技术的兴起,进一步降低了攻击成本和技术门槛,使得攻击者能够生成更具欺骗性和隐蔽性的高级威胁样本。这些样本能够轻易规避传统的基于规则和情报的防御手段。为应对此风险,提出并详细介绍了利用生成式人工智能大模型技术构建钓鱼邮件检测专用模型的必要性及其工作原理。这种模型通过海量数据预训练和专家经验微调,具备卓越的自然语言理解能力和高级威胁检测识别能力,能够像人类安全专家一样全面分析邮件内容、附件、链接等维度,以应对二维码钓鱼、加密压缩包/文档、HTML走私、白链接跳转、账户接管、问卷调查、网页克隆和网盘/中转站等多种高对抗钓鱼场景。
-
48
数据安全也抡起了AI大模型的魔法棒
主要介绍了数据安全大模型的构建及其在数据分类分级和风险检测两大核心方向的应用。该模型通过结合领域知识和先进的训练技术,从一个基础模型演变为能够直接应用于实战场景的智能体。在数据分类分级方面,阐述了利用大模型自动化识别、分类和定级数据的优势,尤其是在处理结构化和非结构化数据方面的能力。至于数据安全风险检测,强调了该模型如何通过整合业务属性、用户行为分析(UEBA)和弱信号关联等技术,显著提高风险识别的准确性和效率,有效减少误报并挖掘高价值安全事件。
-
47
数据安全-从入门到躺平
全面介绍了数据安全领域的核心概念和演进历程,旨在帮助理解数据安全工作。首先定义了数据安全及其常用术语,如API、数据字段和数据库,并区分了结构化与非结构化数据。接着,阐述了数据分类分级、数据脱敏、数据水印和数据防泄漏等关键技术。还回顾了数据安全体系从静态防护到大规模数据流动的演进,并指出传统安全方案在面对复杂数据环境时的局限性,最后强调了识别数据资产、监控数据流动风险以及实施分级管控的重要性。
-
46
关于年度攻防演练的一些关键点
本期是关于年度攻防演练的关键点分析。详细阐述了防守方在演练中失分的常见原因,例如未受关注的暴露面和难以监测的社交工程钓鱼,并指出了得分的关键要素,如有效的监测发现和快速的应急处置能力。文本还探讨了年度攻防演练所面临的最大挑战,包括值守人员的疲劳和设备的大量漏报。最后,它提出了2025年防守的五大关键布局点,旨在解决数字资产攻击面、社交工程防护、集团统一安全防护、威胁检测研判效率以及长周期常态化攻防对抗等核心问题。
-
45
AI大模型应用攻击——提示词注入场景案例
本期探讨了大型语言模型应用程序中可能出现的提示词注入攻击,解释了攻击者如何通过精心设计的输入来劫持模型,使其生成有害内容、泄露敏感信息或执行非预期行为。 文章区分了直接注入(攻击者直接与模型交互)和间接注入(通过第三方或嵌套提示进行),并提供了生成有害信息、泄漏敏感信息以及上传文件执行恶意代码的具体示例。 此外,文本分析了大型模型自身防护机制的局限性,特别是在面对复杂和多轮攻击时的不足,并指出高质量基准测试和复杂应用场景的增加使得攻击更难检测。
-
44
如何度量企业安全团队的价值
作者:李维春(某券商安全总监)选自公众号:安在原文链接:https://mp.weixin.qq.com/s/NUBg8yS6aJcOegNcMYxczw近期有幸见到李老师,听他讲解如何度量企业安全团队的价值,将课题的心路历程与思考方式细致无私分享,收获颇丰。其中观点想必对各位老师也是一个很好的参考,特做本期播客,原文文字更加精彩。
-
43
大集团型企业的“监管赋”网络安全思路
从网络安全法,到关保条例,都有对总部实施统一运营/监管,降低分支安全风险的要求。以下从“监管赋”的思路谈一下网络安全建设思路出于敏感要求,本次无法放置文字稿,劳烦各位听音频啦。
-
42
多云场景下的安全运营几个常见问题
如何在云环境下做好安全运营的效果成为了大量企业面临的安全重要挑战。尤其是企业使用多家公有云时,多云环境下统一安全运营便成为难题,企业希望通过本地的一个安全运营中心SOC把所有云的安全都管理起来。我们从以下几个点来看看现在的好方法。1、我们公司有多个公有云,本地也有私有云,我想把全部主机的访问关系都一盘棋看到。特别注意,我不想再额外部署任何其他安全厂商的主机安全,我在各个云上已经有不同品牌的主机安全了。方案:利用安全运营平台SOC,与公有云平台运维API进行数据对接,从而获取云上全量资产和网络数据,结合图数据库技术最终进行拓扑图绘制与展示。2、如果我还是想看流量侧的各个风险怎么做,云上很难像本地一样部署探针1️⃣直接云厂商的NDR产生的各个安全告警等日志传到安全运营中心SOC进行综合分析。2️⃣在云上部署传统安全厂商的虚拟化探针,云主机网卡转发流量到虚拟探针即可。或者把多个VPC的虚拟交换机流量镜像到虚拟话探针。需要注意的是部分云厂商有收费和可用区限制,且如果仅镜像虚拟交换机的流量那云主机的东西向流量便无法检测到了。3️⃣安装传统厂商的终端探针,需要在云主机上安装Agent进行流量转发,需要注意的是有可能会影响云主机性能。3、云上有啥比本地好的安全措施吗由于本地很难去看东西向流量,而云上可以通过对接云API很容易拿到这部分数据,所以会有一个新能力:云攻击路径预测分析。即是基于云网络访问关系、云环境配置信息、云上漏洞信息,自动化的预测存在高危风险同时暴露外网的攻击入口,并预测入口资产实现后黑客可能横向移动方向,形成云攻击路径预测分析能力。云攻击路径区别于业界已有的“事后攻击链分析和还原”,旨在以攻击者视角事前预测云环境中存在的实际可利用攻击路径。
-
41
证券公司攻击面管控及安全验证工作实践
选自公众号:安全村SecUN原文链接:https://mp.weixin.qq.com/s/0DDAKqWA7c5RzD3lox0rdw网络安全AI说:原文更精彩,篇幅较长,很详细的讲述了自身对攻击面管理的看法,长江证券的老师们对这块的研究确实非常深入,感兴趣的各位建议可看下原文,很体系化。
-
40
苹果供应链网络安全要求及应对
苹果公司会对其供应链体系内的公司,做网络安全现状的现状调查,安全要求较为具体,评估结果会和苹果给到的订单正相关。苹果会通过邮件的形式发送要求整改的文档给到供应商,让供应商对标进行整改。整改完成后会给到要求其使用对话框回复给到苹果官方,最后苹果官方评估是否符合要求,如审核通过后,会关闭该弹窗的对话框。如限期内无法完成整改,则会发邮件警告。以下列举部分苹果的要求以及业内的解决方案
-
39
来,解构一下网络安全大模型
本篇的文字版出于敏感要求无法放出,劳烦各位听播客啦从国内某领先安全厂商的网络安全大模型出发,看行业内的技术情况一、网络安全大模型的构建过程,四个阶段二、安全大模型利用 MoE 的设计思想,运行原理是怎么样的三、MoE 架构包含多个专家模型是哪些四、训练用到的数据是哪些
-
38
大模型应用来啦,企业如何防护风险
一、从输入输出角度看,大模型应用的风险1、输入风险:1️⃣提示注入攻击:不仅针对文本形式注入,也要关注通过多轮文本交互、文档、图片、代码等复杂形式进行的注入攻击。这种注入攻击通常会让模型绕过安全控制,生成一些不好的内容,或者生成一些非当前用户权限范围内能查看的数据。2️⃣敏感或重要信息泄露:用户输入时可能存在企业数据泄漏。2、输出风险:1️⃣生成有害信息:如涉政、涉恐、涉暴、涉黄、违反伦理道德,尤其对公众提供服务时。2️⃣敏感或重要信息泄露:模型输出核心代码、设计原理、经营数据、个人隐私等导致数据泄露3️⃣输出影响范围扩大:生成错误的执行路径或重大策略建议,向下游设备或者工具下发异常指令。二、防护类型分类1、对于企业内部员工,访问企业内部自建大模型:1️⃣防止输入风险:提示注入防护2️⃣防止输出风险:信息泄漏防护、生成有害信息防护2、对于企业内部员工,访问互联网大模型1️⃣仅防止输入风险:信息泄漏防护三、有什么解决方案1、防护框架从整体上看,其实有三层风险需要关注,由于比较新的是智能应用风险,所以本此重点讲解第三部分智能应用风险。1️⃣模型开发风险:模型幻觉、数据投毒等2️⃣系统平台风险:模型漏洞、访问权限失效等3️⃣智能应用风险:提示注入、敏感信息泄漏、有害内容生成等2、自建大模型防护1️⃣将原本发送到业务大模型的提示内容,送入到安全系统中检测(这里的检测系统可以用“大模型防火墙”,也看到有专业安全企业在单独做此类“安全检测智能体”,这个单独的“安全检测智能体”就可以检测提示词注入攻击,或者信息泄漏,或者有害内容生成等)。 2️⃣如果检测结果正常,则将原始提示词发送给业务大模型;若结果异常,则拦截并提示。当然业务大模型生成的内容也可进行有害性与合规性的检测和拦截 3️⃣企业管理员可针对提示注入规则、重要或敏感字段/内容规则、有害/合规内容规则等进行自定义,匹配实际要求。3、互联网大模型防护 1️⃣直接用常见的防泄密方案即可,注意要做到影子AI应用发现、敏感文件上传管控等。
-
37
DeepSeek在网络安全大模型下的应用
奇安信、三六零、亚信、安恒、天融信、启明等陆续发布了DeepSeek接入的热点软文,本期探讨DeepSeek在网络安全大模型下的应用真的那么简单吗。 本期文字内容不便发,劳烦各位听播客吧
-
36
Deepseek被美国地址DDOS攻击
第一阶段,1月3日、4日、6日、7日、13日,出现疑似HTTP代理攻击。在该时间段,XLab可以看到大量通过代理去链接DeepSeek的代理请求,很可能也是HTTP代理攻击。第二阶段,1月20日、22-26日,攻击方法转为SSDP、NTP反射放大。该时间段,XLab监测发现的主要攻击方式是SSDP、NTP反射放大,少量HTTP代理攻击。通常SSDP、NTP反射放大这种攻击的防御要简单一些,容易清洗。第三阶段,1月27、28号,攻击数量激增,手段转为应用层攻击。从27日开始,XLab发现的主要攻击方式换成了HTTP代理攻击,此类应用层攻击模拟正常用户行为,与经典的SSDP、NTP反射放大攻击相比,防御难度显著增加,因此更加有效。值得注意的是,1月28日3点开始,本次DDoS攻击还伴随着大量的暴力破解攻击,暴力破解攻击IP全部来自美国。Http代理攻击:大致是攻击者通过大量被控制的PC向Deepseek的主机不停的发送大量的貌似合法的请求,造成被攻击服务器资源耗尽。因为是貌似合法的请求,所以比较难检测,业内目前比较新的方式是用智能识别方式进行检测:压力学习模型会根据源站返回的HTTP状态码和时延等来实时地感知源站的压力,从而识别源站是否被CC攻击了,DDoS高防再根据异常检测模型实时地检测源站在HTTP协议上的特征的异常行为,然后基于这些异常特征,使用AI算法生成精准防护规则和CC防护规则,来防御CC攻击。本次Deepseek遭受的DDOS攻击具体如何防护还待进一步实际细节资料发布。
-
35
顶尖CISO如何打造企业网络安全文化的
选自公众号:信息安全D1net(企业网D1Net)原文链接:https://mp.weixin.qq.com/s/rlm1xGrsw2sMUUsGrzY8_g在日益增长的威胁环境中,CISO强调了网络安全团队需要理解并使用业务语言的重要性,并以战略眼光推动更大的客户和利益相关者价值。“这不是一个适合弱者的职业。” 这也是为什么这份职业如此令人振奋的原因,它不仅需要技术技能,还需要更多的能力来成功应对这一领域的挑战。北极星:将网络安全与企业使命联系起来凭借对企业的全局视角,网络安全企业处于一个独特的位置,能够预见问题和需求,影响业务战略,并主动推动业务变革和影响,然而,许多网络安全专业人士仍然埋头于细节,缺乏对自己在推动业务使命中所扮演角色的认知。最优秀的CISO会有意确保他们的团队理解自己的使命及其与业务的联系,这是他们如何将职能提升到超越战术执行者或值得信赖的顾问,成为具有前瞻性和创新性的合作伙伴的一部分。ELC的Noaman一直将培养这种业务优先的意识作为其企业的重点。她说:“我告诉他们,无论你扮演什么角色,你都是拼图的一部分,没有这块拼图,拼图就不完整。你必须知道自己在拼图中的位置,这样才能说,‘如果我没有完成这部分工作,我们就无法实现那个目标。’了解你的位置,了解你所做的工作如何为最终目标做出贡献,这一切都至关重要。”她表示,这种心态体现在团队成员与业务同事的互动方式中。他们不仅考虑所处理问题的价值,还考虑其总体使命,即以客户为中心的安全。最终,她表示,这一切都是关于建立共识,而建立共识的首要利益相关者就是你的团队。“Noaman说:“当你让他们理解你要实现的‘北极星’,也就是为什么要这么做——他们了解安全方面的原因,但他们是否理解业务方面的原因——这就是让他们专注并有动力朝同一方向前进、以相同速度划桨的关键。你必须告诉他们最终目标是什么。”用业务语言沟通以使命为导向、作为业务推动者出现是建立信誉并获得关键安全举措支持的关键,但如果你不懂业务语言,就无法与业务伙伴建立可信的联系。事实上,网络安全行业在各个层面上最大的技能差距并非技术,而是人际沟通。Northwestern Mutual的Deaner说:“我有一支非常出色且技术过硬的团队。但当你与业务和其他战略利益相关者对话时,他们不一定知道什么是单点登录或多因素认证,他们只想知道如何解决问题。”表达得越简单越好。网络安全专业人士常常陷入技术术语中,结果失去了听众的注意力。Noaman建议道:“要清晰、明确、直接。如果你一开始就直接说明你需要做什么并解释为什么这样做,就不必解释技术细节,因为现在每个人都理解了原因。”在业务现实的背景下进行沟通也是必不可少的——这需要熟悉业务同事的日常经历。Deaner鼓励她的团队了解业务,参观呼叫中心,倾听电话交谈,“这样他们就能开始感受到另一端的人可能正在感受到的情绪。”最重要的是,RAND的Rodgers表示,要记住这个基本而又重要的原则:“在每一次对话中都要牢记业务的优先事项。”顶尖网络领导者的差异在领导层面,高级沟通技能更加重要,而这种技能差距往往更大。网络安全和其他技术专业人士通常是基于作为技术人员的成就而被提拔到领导职位的。尽管他们的技术资质可能非常出色,但在核心领导能力方面,例如沟通、影响力、客户导向和商业敏锐度,他们往往缺乏发展或指导。正如Rodgers所说:“把你带到这里的东西不会让你走得更远。你知道如何配置防火墙,但现在你必须向高管们进行沟通。你需要了解业务,并能够用业务语言谈论你的技术、安全和解决方案。能够进行这些对话是伟大领导者的区别所在。”由于沟通技能对领导力的基础性作用,它们对领导效能产生了连锁反应。例如,透明度通常会建立更多的信任,从而促进更好的合作与协作。“质疑动机的情况会减少,”Noaman说,“我们在彼此交流,你理解我们为什么需要这么做。我认为,唯一能实现协作的方式就是通过信息的透明和简洁。因为我可能认为我们是一致的,但除非你和我在同一条船上一起划桨,否则我们并不一致。”这些直觉性、以人为本的技能至关重要,尤其是在CISO们经常处理的高压、高风险情况下。正如Deaner所说:“我可以讨论CVSS评分,但归根结底,没有人愿意度过糟糕的一天。我认为,与其过于技术化,或者使用恐惧、不确定性和怀疑,或者不简化问题并在合适的时间地点与人沟通,远不如将问题定位为简单的‘没有人想要度过糟糕的一天’来得好。”激发个人和团队的韧性在信息安全领域,风险无处不在,攻击变得越来越复杂,责任重大。成功的CISO的一个定义性特征是他们的勇气。好消息是,勇气就像肌肉一样,可以像其他任何技能一样被培养出来,勇气也是一种心态。这个小组中的CISO们描述了各种内部动力,这些动力使他们即使面对艰难的挑战,依然保持在赛场上,保持韧性和适应性。他们明确表示,当你因热爱所做的事情而驱动,并始终保持对自己产生的影响的清晰认知时,勇敢变得更加容易。一个共同点是他们专注于“关键时刻”,即网络安全与各种利益相关者之间的接触点。有意识地关注这些时刻的领导者发现,他们能够更好地预见问题,并更有策略地作为业务推动者出现。Rodgers说,这是她在职业生涯早期工作在帮助台时学到的一课。整天处理投诉需要一种特殊的勇气。“但它的美妙之处在于,你会了解人们及其工作方式,”她说,“我到了一种程度,我能够预见他们会想要什么,所以我开始主动提供这些东西。现在,我在领导职位上运用同样的教训,来预见业务部门的需求。”Deaner补充道:“了解我们的客户帮助我的团队快速上手,并帮助你理解你为什么要做这些工作。我们充满激情,但我们也有很多时候会感叹,这实在太疯狂了。获得那种‘我在产生影响并保护我的客户’的感觉,真是太好了。”在这个行业,“总有些事情让你时刻保持警惕,”Noaman说,“这不仅是工作描述的一部分,也是我们这些在网络领域成长的人所具备的一部分。我们通过伤疤学会了这一点。”伟大的领导者会创造一种文化,使人们能够在高压环境中茁壮成长,而不是被这种环境压垮。随着倦怠感的上升,培养、吸引、激励和留住最佳人才是顶尖CISO们的首要任务——因为他们知道,没有一支技术过硬、充满激情、目标一致的团队,他们无法保护利益相关者并完成使命。“Noaman说:“我用跨国旅行来做比喻。我们正从A点到B点,我们有这些目标。我不会告诉你如何到达那里,也不会告诉你需要做什么,这是你们的工作。我的工作是让你们为这次旅行做好准备,因为这是一段旅程。作为领导者,我必须设定这个愿景,然后带领大家一起前行。”领导力的平衡艺术正如这三位CISO所展示的那样,最好的领导者以谦逊、同理心、适应力、韧性和透明度(HEART)来领导,同时要求他们的团队负责,并专注于交付成果,这是一种微妙的平衡艺术。过于关注结果,你会失去你的团队,但过于专注于HEART,你可能会失去工作。在我们着眼于培养面向未来的网络安全领导者时,这一点尤其值得牢记。我们需要确保他们具备这项工作所需的技术、商业和领导能力。这意味着要在他们当前的水平上与他们接触,并为他们的旅程做好准备。“我如何提升人们的能力曲线是有差异的,”Rodgers说,“这取决于识别领导技能的差距,也取决于个人及其想要达到的目标。此外,还很大程度上取决于你所处的环境,有时人们没有得到展示或发光的机会。要提升年轻领导者的能力,你必须有意为之。”如果从这些领导者的成功中可以汲取一个总的教训,那就是:要有意图。考虑一下你当前所处世界中的变化有多大,这将是未来变化速度最慢的时候。对文化、人才和业务影响的有意关注从未如此重要。”
-
34
美国人民的网络安全战略咋样的
选自公众号:关健基础设施安全应急响应中心原文链接:https://mp.weixin.qq.com/s/s-oSUZlurLyXBHLPqvZRjw(一)放弃企业完全自愿原则,软硬兼施加强网络安全公私合作一直以来,在网络安全问题上,美国政府允许私营公司自愿遵守安全指南。然而,科洛尼尔、太阳风等一系列事件表明这种自愿原则很大程度上未能对企业形成约束从而阻止网络入侵。美国前总统克林顿、小布什和奥巴马都曾试图针对重点领域建立联邦政府主导的监管机制,但最终都在资本游说下束之高阁。因此,相关规则的执行一直是完全自愿的。拜登政府认为,虽然对关键基础设施网络安全的自愿措施产生一定程度的效果,但缺乏强制性要求使得结果不够理想。上任后,有关政策取向开始由自愿原则转向政府监管,督促相关部门尽快制定监管要求、加强政策引导、扩大公私合作,共同强化国家安全和公共安全。2021 年上任之初,拜登在签署的《改善国家网络安全行政令》中就强调公私合作的重要性,并提出通过修订供应商合同强化威胁信息共享、建立网络安全审查委员会机制两项合作举措;同年 8 月,网络安全和基础设施安全局(CISA)采纳日光浴委员会的建议,成立了联合网络防御合作组织(JCDC),以整合整个联邦政府、私营部门和国际合作伙伴之间的防御行动和信息共享;2022 年 3 月,拜登签署《关键基础设施网络事件报告法》,要求关键基础设施实体在遭遇重大网络事件 72 小时内,以及因勒索攻击支付赎金 24 小时内向 CISA 进行报告,标志着美国正式进入网络安全强监管时代。(二)加大前沿技术研发力度,集合一切力量维护科技领先地位特朗普政府采用的中美全面脱钩政策并未收到预期效果,反而暴露了对华依赖和供应链短板。拜登政府上台后,从现实角度出发重新评估对华科技政策,认为中国在科技方面拥有政策扶持、市场规模、人才储备等方面的优势,短期内难以完全遏制,反而会失去庞大市场。因此,拜登政府调整战略方向,将更多资源和精力投入国内前沿技术研发,希望以此扩大与中国的科技代差,进而使两国科技实力、综合国力出现“自然分叉”。《2022 年国家安全战略》对科技做出专门部署,未来将聚焦半导体、微电子、先进计算、量子、人工智能、下一代通信、清洁能源与生物科技等发展较为迅速、竞争相对激烈、应用前景明朗的技术领域。在科技战略的指引下,美国政府和高科技企业大力发展网络前沿技术,全力维护网络空间优势地位。2022 年 3 月,美国参议院投票通过《下一代电信法案》,授权组建“下一代电信委员会”,负责监督联邦政府对下一代通信技术的投资和政策制定;同年 5 月,拜登签署了《关于加强国家量子计划咨询委员会的行政命令》和《国家安全备忘录》两项总统政令,旨在推动美国量子信息技术的研发与应用,确保在该领域继续保持领先优势,同时,减小密码系统对量子技术的脆弱性;7 月,国家标准与技术研究院(NIST)发布四种新的加密算法,用于抵抗量子计算机的攻击;12 月,拜登签署《量子计算网络安全防范法》,为联邦政府应对基于量子计算带来的网络攻击做好准备,推动数字系统向后量子时代过渡。企业方面,SpaceX 持续推进全球最大的星链卫星计划,计划发射 4.2 万颗近地轨道卫星,布局新一代卫星互联网;美国人工智能研究实验室 OpenAI 于 2022 年底推出了自然语言处理工具 ChatGPT,在全球范围内引起轰动,开启了通用人工智能时代。(三)灵活运用胡萝卜加大棒,通过产业链重构塑造其芯片霸权经济全球化时代,产业链供应链的形成是市场规律和企业选择共同作用的结果。半导体作为技术密集型和资本密集型的高精尖产业,是一个包含设计、制造和封装测试在内的、涵盖 70 余个细分领域的复杂生态系统,任何一个国家都不可能形成独立的产业链闭环。几十年来,各国结合自身技术实力和要素禀赋,在某些细分领域积累了专业化优势,形成了配合默契、运转高效、彼此依赖的全球供应链格局。美国作为半导体发明者,长期以来坚持“本土发明,离岸制造”的原则——将高附加值的上游设计环节留在国内,生产制造业务外包到国外。与此同时,全球经济数字化、智能化发展,芯片已成为计算机、手机、家电、医疗器械、汽车以及军事装备等现代制造业产品的核心部件。随着经济社会数字化转型,原有的生产结构已无法满足市场需求的快速增长,供需矛盾突出。新冠疫情期间,工厂停工、产能下降,导致全球半导体产业链断裂,进一步加剧了全球“缺芯”。美国“离岸制造”带来的制造业空心化使其产生深深的“芯片焦虑”,这种焦虑在持续推进对华战略竞争的背景下愈发突出,其重塑芯片霸权的野心日益强烈,对华展开的遏制打压动作也日趋激烈。2022 年 8 月,《芯片与科学法案》正式通过,美国政府一方面以“胡萝卜”作诱饵,拨款 520 亿美元用于芯片生产与供应链建设,提升美国半导体制造能力;另一方面以“大棒”作威胁,在法案中专门设置“中国护栏”条款,迫使芯片巨头在中美之间选边站队。此外,拜登政府还积极推动与日本、韩国和中国台湾地区组建芯片四方联盟(CHIP4),加强半导体供应链控制,将“离岸制造”转换为“友岸制造”“近岸制造”“回岸制造”,推行全球芯片产业链“去中国化”。(四)积极巩固创新盟伴体系,以意识形态为标准开展网络合作拜登政府高度重视通过盟友体系实现自身利益。为弥补特朗普政府“美国优先”政策对盟友利益和自身国际形象的损害,拜登上台后即以网络议题作为拉拢盟友的抓手,持续加强与传统盟友伙伴的密切合作,恢复在国际组织中的领导地位。同时,拜登团队还以意识形态为叙事,启动建立新型网络空间合作伙伴关系,强化针对中俄等国家的“集体韧性”。长期活跃于大国博弈场的美国在网络空间的合作并非“开放自由民主”,而是以意识形态和价值观为标准和前提。价值观一致或相近也许有助于国家间的合作;但更重要的是通过刻意煽动价值观对立可以引发冲突和对抗,进而实现打压对手的最终目的。就任以来,拜登政府一是巩固与传统核心盟友的合作,以小多边形式在联合溯源、跨境数据流动、网络空间国际规则制定等方面加强协同;二是利用双多边合作机制,积极在印太地区开展极具针对性的网络协作,通过数字经济贸易、网络安全政策对话、网络协同防御等措施谋求地区网络军事存在和影响力提升;三是与乌克兰、以色列等高地缘政治利益国家和地区开展网络事件最佳实践、漏洞和威胁信息共享等合作,探索建立新型网络空间合作伙伴关系。(五)部署进攻性政策和行动,以网络威慑之名行网络攻击之实威慑作为美国网络安全防御的关键内核由来已久,2003 年美国首份《国家网络空间安全战略》就提出,依靠建设强大的防御体系使敌方产生“打不赢”的想法,从而达成威慑目的。此后,在几届政府的推动下,美国网络威慑力获得大幅提升,其威慑理论和实践也从防御性威慑全面转向进攻性威慑,而且越来越突出“全政府”“全国家”的分层和综合威慑,即集合政治、经济、军事、外交等所有手段让攻击者承担责任、付出代价,从而达到拒止和预防威胁的目的。拜登政府上台后,延续了进攻性反制策略且更为激进、主动:将美国网络国家任务部队(CNMF)升级为次级统一司令部,同时赋予其更高的决策和行动权力;持续开展网络军演,提升美军攻防和持久作战能力;增加对进攻性网络行动的国防投入,不断扩充网络任务团队数量和规模;积极与盟友和合作伙伴开展国际合作,支撑网络任务部队在全球范围内实施“前出狩猎”行动。在这些网络威慑行动背后,美国却以“维护国家安全”为幌子,无视国际法和国际关系基本准则,利用技术优势在全球范围内实施大规模、有组织、无差别的网络窃密、监控和攻击。在美国国家安全局(NSA)入侵西工大的网络事件中,特定入侵行动办公室(TAO)做了长时间准备工作,并且进行了精心伪装,先后使用了 54 台跳板机和代理服务器、41 种 NSA 专属网络攻击武器,仅后门工具“狡诈异端犯”就有 14 款不同版本。从不断爆出的“棱镜门”“脏盒”“怒角计划”“强健计划”,到近期的五角大楼“泄密门”,一系列网络监控和攻击事件反复证实美国就是全球头号“黑客帝国”,而网络威慑战略的本质也是以威慑之名行攻击之实,最终服务于美国的网络霸权和全球霸权。(六)聚焦基础设施网络安全,多措并举强化关键基础设施保护在国际局势多变和大国博弈加剧的背景下,围绕关键信息基础设施的网络攻防已成为网络空间高烈度对抗的主战场,因此,各国均将提升基础设施对网络威胁的防御和弹性作为优先议题。美国作为互联网起源地和网络技术强国,也是关键基础设施保护起步最早的国家,防御理念和能力一直走在世界前列。然而,由于网络空间本身的“非对称性”,使美国在关键基础设施网络攻击面前也未能独善其身,特别是拜登上任之初的一系列网络攻击事件,使本届政府将关键基础设施保护作为执政考虑的重中之重。《国家网络安全战略》中,关键基础设施保护位列五大支柱之首,更加凸显拜登对该议题的重视程度。执政以来,拜登政府加紧出台各项措施强化对关键基础设施的保护。2021 年 7 月,拜登签署《改善关键基础设施控制系统网络安全备忘录》,指出关键基础设施控制和运行系统面临的网络安全威胁,是美国面临的最重要和日益严重的问题之一,阐述了加强工业控制系统网络安全的推进落实计划;2022 年 3 月,美国通过《关键基础设施网络事件报告法》,明确要求关键基础设施相关实体在规定时限内向 CISA 通报网络事件;同年 11 月,CISA 更新《基础设施韧性计划框架》和《跨部门网络安全绩效目标 2022》,为地方政府和各行业提供明确的保护指南。(七)推动网络防御重心转移,零信任文化和理念加速落地生根传统的安全理念将网络划分为内外网,并在边界处设置防火墙、安全网关等设备作为防护。随着云计算、物联网、大数据等技术发展和产业数字化转型,核心网络资产开始从本地向云上迁移,导致防护边界逐渐模糊、效果急剧下降。在此背景下,零信任架构应运而生。零信任基于“从不信任,始终验证”理念,认为所有的网络流量均不可信,对任何访问请求都应该进行安全认证,目前已成为当下最前沿的一种防护手段。自 2010 年提出以来,零信任概念一直被美国各政府机构高度关注,相关技术不断发展完善。近年来,美国遭受网络攻击的数量和规模都呈现上升趋势,推动零信任概念落地被加速提上日程。拜登政府上任后,将零信任作为施政网络空间的重要抓手,国防部、NIST 等相关部门先后出台多项政策文件,助力零信任应用转化和落地见效。2021 年 2 月,NSA 发布《拥抱零信任安全模型》,建议将零信任安全模型部署到国家安全系统和国防部所有的关键网络中;同年 5 月,美国国防信息系统局(DISA)发布《国防部零信任参考架构》,为国防部大规模部署零信任提供了指导原则和技术标准;当月,拜登签署《改善国家网络安全行政令》要求加快推动政府网络云上迁移并推进零信任架构;9 月,美国管理和预算办公室(OMB)和 CISA 分别发布了《联邦政府零信任战略》和《零信任成熟度模型》,以推动并落实美国联邦政府机构的网络安全架构向零信任转型;2022 年 11 月,美国国防部发布《国防部零信任战略》及路线图,设定了未来五年达到的零信任目标愿景,并阐述了具体实施方法。相关政策逐步落地,标志着热议多年的零信任理念和文化在拜登任内落地生根。
-
33
OWASP发布:大语言模型应用面临的十大风险
选自公众号:安全牛原文链接:https://mp.weixin.qq.com/s/LIyHplGvwPek4HaD-LGfvAOWASP TOP10大家比较熟悉,总结更新应用面临的主要威胁,在整个行业是可信度最高的风向标。本次他们发布的十大风险是针对大语言模型的,一起来看看吧。从排名第一的提示注入到新增的系统提示泄露,“OWASP大语言模型(LLM)应用十大风险涵盖了从模型安全、数据保护到资源消耗等多个维度的风险。LLM01:提示注入提示注入漏洞是指用户的提示以非预期方式改变LLM的行为或输出。即使这些输入对人类来说是不可感知的,只要模型能够解析内容,就可能产生提示注入。提示注入漏洞存在于模型处理提示的方式中,攻击者可能强制模型将提示数据错误传递到其他部分,导致违反指导原则、生成有害内容、启用未授权访问或影响关键决策。虽然检索增强生成(RAG)和微调等技术旨在使LLM输出更加相关和准确,但研究表明它们并不能完全缓解提示注入漏洞。提示注入和越狱在LLM安全中是相关概念,它们经常被交替使用。提示注入涉及通过特定输入操纵模型响应以改变其行为,这可能包括绕过安全措施。越狱是一种提示注入形式,攻击者提供的输入导致模型完全无视其安全协议。开发人员可以在系统提示和输入处理中构建安全防护来帮助缓解提示注入攻击,但有效防止越狱需要持续更新模型的训练和安全机制。LLM02:敏感信息泄露敏感信息会影响LLM及其应用场景。这包括个人身份信息(PII)、财务细节、健康记录、机密业务数据、安全凭证和法律文件。专有模型的训练方法和源代码等也被视为敏感信息,特别是在封闭或基础模型中。LLM存在通过输出暴露敏感数据的风险,可能导致未经授权的数据访问、隐私侵犯和知识产权泄露。消费者应该了解如何安全地与LLM互动。他们需要理解无意中提供敏感数据的风险,这些数据后续可能在模型的输出中被泄露。为降低这一风险,LLM应用程序应执行充分的数据净化,以防止用户数据进入训练模型。应用程序所有者还应提供明确的使用条款政策,允许用户选择不将其数据包含在训练模型中。在系统提示中添加对于LLM应返回的数据类型的限制,可以缓解敏感信息泄露。但是,这些限制可能并不总是被遵守,并可能通过提示注入或其他方法被绕过。LLM03:供应链安全LLM供应链容易受到各种漏洞的影响,这些漏洞可能影响训练数据、模型和部署平台的完整性。这些风险可能导致有偏见的输出、安全漏洞或系统故障。虽然传统软件漏洞关注代码缺陷和依赖性等问题,但在机器学习中,风险还扩展到第三方预训练模型和数据。这些外部元素可能通过篡改或投毒攻击被操纵。创建LLM是一项专业任务,通常依赖于第三方模型。开放访问LLM的兴起和新的微调方法(如"LoRA"低秩适应和"PEFT"参数高效微调),特别是在Hugging Face等平台上,引入了新的供应链风险。此外,设备端LLM的出现增加了LLM应用程序的攻击面和供应链风险。LLM04:数据和模型投毒数据投毒发生在预训练、微调或嵌入数据被操纵以引入漏洞、后门或偏见时。这种操纵可能会损害模型的安全性、性能或道德行为,导致有害输出或能力受损。常见风险包括模型性能下降、有偏见或有害的内容,以及下游系统被利用。数据投毒可以针对LLM生命周期的不同阶段,包括预训练(从通用数据学习)、微调(使模型适应特定任务)和嵌入(将文本转换为数值向量)。理解这些阶段有助于识别漏洞可能的来源。数据投毒被视为一种完整性攻击,因为篡改训练数据会影响模型做出准确预测的能力。使用外部数据源的风险特别高,因为它们可能包含未经验证或恶意的内容。此外,通过共享存储库或开源平台分发的模型可能带来超出数据投毒的风险,例如通过恶意序列化等技术嵌入的恶意软件,这些软件在加载模型时可能执行有害代码。同时还要考虑,数据投毒可能导致后门的植入。这种后门可能使模型的行为保持不变,直到某个触发器导致其改变。这可能使此类更改难以测试和检测,实际上为模型成为潜伏特工创造了机会。LLM05:不当输出处理不当输出处理特指在将大语言模型生成的输出传递给下游组件和系统之前,对其进行不充分的验证、净化和处理。由于LLM生成的内容可以通过提示输入来控制,这种行为类似于为用户提供对附加功能的间接访问。不当输出处理与过度依赖的区别在于,它处理LLM生成的输出在传递到下游之前的问题,而过度依赖则关注对LLM输出的准确性和适当性过度依赖的更广泛问题。成功利用不当输出处理漏洞可能导致Web浏览器中的XSS和CSRF,以及后端系统上的SSRF、权限提升或远程代码执行。以下条件可能增加此漏洞的影响:应用程序授予LLM超出最终用户预期的权限,从而能够实现权限提升或远程代码执行;应用程序容易受到间接提示注入攻击,这可能允许攻击者获得对目标用户环境的特权访问;第三方扩展没有充分验证输入;缺乏针对不同上下文的适当输出编码;对LLM输出的监控和日志记录不足;缺乏对LLM使用的速率限制或异常检测。LLM06:过度代理权限LLM系统通常被开发者授予一定程度的代理权限,即通过扩展调用函数或与其他系统交互的能力,以响应提示并采取行动。对调用哪个扩展的决定,也可能委托给LLM"代理"根据输入提示或LLM输出动态来确定。基于代理的系统通常会使用先前调用的输出来指导和引导后续调用,并反复调用LLM。过度代理权限是一种漏洞,它使系统能够响应来自LLM的意外、模糊或被操纵的输出而执行有害操作,不管是什么导致LLM出现故障。常见触发因素包括:由设计不当的良性提示或性能不佳的模型导致的幻觉/虚构;来自恶意用户、早期调用恶意/受损扩展或(在多代理/协作系统中)恶意/受损对等代理的直接/间接提示注入。过度代理权限的根本原因通常是功能过度、权限过度和自主权过度,可能导致机密性、完整性和可用性方面的广泛影响,这取决于基于LLM的应用程序能够与哪些系统进行交互。LLM07:系统提示泄露提示泄露漏洞指的是用于引导模型行为的系统提示或指令可能包含敏感信息的风险。系统提示旨在根据应用程序的要求指导模型的输出,但可能无意中包含机密信息,这些信息可能被用来促进其他攻击。因此,系统提示语言中不应包含凭证、连接字符串等敏感数据。同样,如果系统提示中包含描述不同角色和权限的信息,或者像连接字符串或密码这样的敏感数据,虽然披露这些信息可能有帮助,但根本的安全风险不是这些信息被披露,而是应用程序通过将这些委托给LLM而允许绕过强大的会话管理和授权检查,以及敏感数据被存储在不应该存储的地方。LLM08:向量和嵌入漏洞在使用检索增强生成(RAG)的大语言模型(LLM)系统中,向量和嵌入漏洞带来重大安全风险。向量和嵌入的生成、存储或检索方面的弱点可能被恶意行为(有意或无意)利用,从而注入有害内容、操纵模型输出或访问敏感信息。检索增强生成(RAG)是一种模型适应技术,通过将预训练语言模型与外部知识源结合,来提高LLM应用程序响应的性能和上下文相关性。检索增强使用向量机制和嵌入。LLM09:错误信息错误信息发生在LLM产生看似可信但实际是虚假或误导性的信息时。这种漏洞可能导致安全漏洞、声誉损害和法律责任。错误信息的主要原因之一是幻觉:LLM生成看似准确但实际是虚构的内容。当LLM使用统计模式填补训练数据中的空白而不真正理解内容时,就会出现幻觉。因此,模型可能产生听起来正确但完全没有根据的答案。虽然幻觉是错误信息的主要来源,但它们不是唯一的原因;训练数据引入的偏见和不完整的信息也可能造成影响。一个相关的问题是过度依赖。过度依赖发生在用户过分信任LLM生成的内容,未能验证其准确性时。这种过度依赖加剧了错误信息的影响,因为用户可能在没有充分审查的情况下将错误数据整合到关键决策或流程中。LLM10:无界消耗无界消耗风险指的是LLM应用在缺乏合理限制的情况下,可能被攻击者利用进行过度推理,导致资源耗尽、服务中断甚至模型被窃取的安全隐患。推理是LLM的关键功能,涉及应用学习到的模式和知识来产生相关的响应或预测。成功实施旨在破坏服务、耗尽目标财务资源,甚至通过克隆模型行为来窃取知识产权的攻击,都依赖于一类常见的安全漏洞。无界消耗发生在LLM应用程序允许用户进行过度和不受控制的推理时,导致拒绝服务(DoS)、经济损失、模型盗窃和服务降级等风险。LLM的高计算需求,特别是在云环境中,使其容易受到资源利用和未授权使用的影响。OWASP项目负责人Steve Wilson最后指出,随着AI技术快速发展,攻击者也开始利用AI来发动更复杂的攻击,企业必须与时俱进,采用新型安全工具来保护自己的AI应用系统。
-
32
大模型赋能网络安全,能有用?
选自公众号:星尘安全原文链接:https://mp.weixin.qq.com/s/b2C2QoCjjS0RzayO9DYjBQ1. 威胁分析技术实现路径: 数据收集: 汇总威胁情报、日志、网络流量等多源数据 文本预处理: 对非结构化数据进行清洗和标准化 大模型微调: 使用安全领域数据对预训练大模型进行微调 提示工程: 设计有效的提示(prompts)来引导模型分析威胁 结果解析: 解析模型输出,提取关键信息和洞察带来的好处: 自动化复杂的威胁分析过程,提高分析效率 发现潜在的威胁关联,构建完整的攻击链 生成人类可读的威胁报告,辅助决策相比传统方法和普通AI的优势: 能够理解和处理非结构化的安全数据,如日志和威胁描述 具有强大的推理能力,可以发现隐蔽的攻击模式 可以持续学习新的威胁知识,保持与最新攻击技术同步2. 安全运营助手技术实现路径: 知识库构建: 整合安全最佳实践、内部策略等形成知识库 对话系统设计: 开发基于大模型的对话接口 上下文管理: 实现多轮对话,保持对话上下文 工具集成: 将大模型与现有安全工具(如SIEM, SOAR)集成 持续学习: 基于用户反馈不断优化模型响应带来的好处: 为安全分析师提供7*24小时的智能辅助 加速问题诊断和解决过程 提供一致的安全建议,减少人为错误相比传统方法和普通AI的优势: 能够理解复杂的自然语言查询,提供更自然的交互体验 具备跨领域知识整合能力,可以处理多样化的安全问题 可以生成定制化的解决方案,而不仅仅是预定义的响应3. 高级恶意软件分析技术实现路径: 样本预处理: 提取恶意软件的静态和动态特征 特征转换: 将提取的特征转换为自然语言描述 大模型分析: 使用微调后的大模型分析恶意软件行为 变种检测: 利用大模型的泛化能力识别恶意软件变种 报告生成: 自动生成详细的恶意软件分析报告带来的好处: 快速分析复杂的恶意软件,缩短响应时间 检测高级和未知的恶意软件变种 生成全面且易懂的分析报告,便于团队协作相比传统方法和普通AI的优势: 能够理解和分析复杂的代码结构和行为模式 具有强大的推理能力,可以推测恶意软件的目的和影响 可以通过少量样本快速适应新型恶意软件,具有更好的泛化能力4. 安全策略管理技术实现路径: 策略文档解析: 使用NLP技术解析现有安全策略文档 合规要求分析: 利用大模型理解最新的合规要求 差距分析: 比较现有策略与最佳实践和合规要求的差距 策略生成: 使用大模型生成或更新安全策略 人机协作: 安全专家审核和调整生成的策略带来的好处: 自动化安全策略的制定和更新过程 确保策略与最新的合规要求和威胁形势保持一致 生成清晰、易懂的策略文档,便于执行和培训相比传统方法和普通AI的优势: 能够理解和处理复杂的法规文本和技术文档 具有强大的上下文理解能力,可以生成符合组织特定需求的策略 可以快速适应新的安全标准和最佳实践,保持策略的先进性5. 高级社会工程攻击检测技术实现路径: 数据收集: 整合邮件、社交媒体、通讯记录等多源数据 语义分析: 使用大模型分析通信内容的语义和意图 上下文理解: 考虑组织结构、业务流程等背景信息 异常检测: 识别与正常通信模式不符的可疑行为 风险评估: 综合评估潜在社会工程攻击的风险等级带来的好处: 有效检测复杂和定制化的社会工程攻击 减少误报,提高检测的准确性 提供详细的攻击分析,辅助制定防御策略相比传统方法和普通AI的优势: 能够理解复杂的语言模式和隐含意图,检测高级钓鱼攻击 具有强大的上下文理解能力,可以考虑组织特定的通信模式 可以快速适应新型社会工程技术,保持检测能力的先进性6. 漏洞管理技术实现路径: 漏洞信息收集: 整合CVE数据库、安全公告等多源信息 上下文分析: 使用大模型理解漏洞的技术细节和影响范围 资产映射: 将漏洞信息与组织的IT资产清单关联 风险评估: 基于漏洞特性和资产重要性进行智能风险评分 修复建议生成: 利用大模型生成定制化的修复方案和优先级建议带来的好处: 更准确的漏洞风险评估,避免资源浪费 生成针对组织特定环境的修复建议,提高修复效率 自动化漏洞分类和优先级排序,减轻安全团队负担相比传统方法的优势: 能够理解复杂的漏洞描述和技术细节,提供更精准的分析 可以考虑组织的具体情况,生成更实用的修复建议 具有强大的推理能力,可以预测潜在的漏洞链和复合攻击场景7. 高级威胁狩猎技术实现路径: 数据整合: 汇总日志、网络流量、终端行为等多维数据 行为建模: 使用大模型理解正常的系统和用户行为模式 异常检测: 识别偏离正常模式的可疑活动 威胁推理: 利用大模型的推理能力,构建可能的攻击场景 证据链生成: 自动收集和关联支持威胁假设的证据带来的好处: 主动发现隐蔽的高级持续性威胁(APT) 减少误报,提高威胁狩猎的效率 为安全分析师提供清晰的调查线索和证据链相比传统方法的优势: 能够理解复杂的攻击技术和战术,发现隐蔽的威胁指标 具有强大的上下文理解能力,可以考虑组织特定的业务逻辑 可以不断学习新的攻击模式,保持威胁检测能力的先进性8. 安全配置管理技术实现路径: 配置扫描: 收集网络设备、服务器、应用等的配置信息 基线比对: 使用大模型分析配置与安全基线的差异 风险评估: 评估配置偏差可能带来的安全风险 优化建议: 生成配置优化建议,包括具体的命令或步骤 变更影响分析: 预测配置变更可能带来的安全影响带来的好处: 持续确保系统配置符合安全最佳实践 减少人为配置错误导致的安全风险 提供可执行的配置优化建议,简化管理过程相比传统方法的优势: 能够理解复杂的配置语法和上下文,提供更精准的分析 可以考虑组织的特定需求,生成定制化的配置建议 具有强大的推理能力,可以预测配置变更的潜在安全影响9. 高级欺诈检测与防护技术实现路径: 多模态数据融合: 整合交易数据、用户行为、设备信息等 上下文理解: 使用大模型分析交易场景和用户意图 模式识别: 检测复杂的欺诈模式和新兴欺诈技术 风险评分: 实时计算交易或行为的欺诈风险分数 说明生成: 为高风险事件生成详细的风险说明和建议带来的好处: 提高欺诈检测的准确性,减少误报和漏报 快速适应新型欺诈手法,提升防护能力 为风控人员提供清晰的风险解释,辅助决策相比传统方法的优势: 能够理解复杂的交易场景和用户行为模式 具有强大的推理能力,可以发现隐蔽的欺诈关联 可以生成人类可理解的风险说明,增强可解释性10. 个性化安全意识培训技术实现路径: 用户画像构建: 基于角色、行为历史等创建员工安全画像 内容生成: 使用大模型生成针对性的培训材料和模拟场景 互动问答: 实现基于大模型的安全问答系统 学习效果评估: 分析员工响应和行为变化,评估培训效果 培训策略优化: 持续调整培训内容和方法以提高效果带来的好处: 提供个性化的安全培训,提高培训效果 通过情景模拟增强员工的实际应对能力 持续评估和改进培训效果,建立积极的安全文化相比传统方法的优势: 能够生成针对不同角色和安全成熟度的定制化培训内容 提供更自然、更互动的学习体验,提高员工参与度 可以快速适应新的安全威胁,更新培训内容网络安全AI说补充:除了上面总结的,咱还知道点作为参考:某厂商在做数据安全的大模型,主要聚焦数据分类分级;某厂商在做零信任的大模型做行为评估分析;某厂商用在代码审计领域;某厂商用做钓鱼邮件检测内容和打开加密附件和扫码邮件中的二维码。
-
31
勒索病毒防护的新思路,勒索防护能力验证
本文部分内容选自公众号:君哥的体历原文链接:https://mp.weixin.qq.com/s/aL5W3HmJM09J0GD3TUYeXA一、老思路是什么勒索病毒防护:依靠防入侵+数据恢复。防入侵,即是利用杀毒软件、EDR终端检测响应、IPS、防病毒等鸡技术设备,在终端侧、网络侧进行检测及防护。数据恢复,即是针对数据进行备份备份,配合数据恢复演练,帮企业的备份系统做一个异常的兜底。这个系统做好之后,还能缓释另外一个风险:删库跑路。关于防入侵和数据恢复是两个大话题,后续有机会再探讨。本文分享一种勒索防护新思路:通过安全验证提升勒索防护能力。二、新思路做勒索防护能力验证,发现安全失效点,进而实现优化安全策略,提升防护能力以银行作为案例,一次典型的勒索攻击,主要分成三个阶段:1、第一阶段是通过三种主要的攻击方式进行感染植入:边界漏洞攻击、邮件攻击、主机和终端恶意软件投递。包括使用404个高危漏洞去感染和植入勒索软件(404个高危漏洞是人民银行下发的勒索软件自查清单里面定义的)2、一旦勒索软件获得了内网的权限,就会转成半人工或纯人工,勒索软件会去进行横向移动和爆破,来获取和感染更多的机器和权限,直到获得最重要的资产和目标数据库的权限。比如他会去横向移动,RDP3389端口的爆破,会去请求勒索组织的域名、下载勒索组织的样本,然后还会建立持久化与C2的通讯。同时他还会去批处理的移除防病毒的软件、关闭备份、拷贝数据等。3、当攻击者移动到最核心目标的数据库和重要资产时,它会开始最终的第三阶段:进行加密和勒索。勒索防护能力验证,是通过模拟勒索软件三个阶段的各种各样的行为,然后去收集防御体系的拦截和告警结果,从而进行自动化比对,看看勒索组织的这些动作和行为,我们能够做到多少有效拦截和告警。从而来评估勒索防护能力的真实情况,以发现我们勒索防护措施的短板和失效点。以反向的方式去验证和评估企业的勒索软件防护能力。三、方案详述1)感染植入阶段验证:模拟勒索软件感染植入的三种方式: 在边界防护层面,使用勒索组织常用的 400 多个高危漏洞,模拟黑客利用这些漏洞对边界拦截防护情况进行验证。 在邮件安全方面,模拟多种形式的勒索病毒邮件攻击,包括模拟各类钓鱼邮件、附带勒索病毒附件或链接等,验证邮件安全网关和邮件安全防护策略的实际效果。 在终端和主机层面,不管是上网下载了勒索病毒,还是 U 盘不小心感染拷贝了勒索病毒,具体都是表现成在主机和终端上,会将勒索病毒落盘。通过模拟70+ 种最活跃的勒索软件家族样本和域名请求,验证终端安全防护和主机安全防护的真实防护能力。2)传播扩散阶段验证:在传播扩散阶段,重点模拟勒索软件在企业内部网络中的横向扩散和蔓延能力。勒索病毒一旦进入到企业内网,会千方百计进行横向移动,感染到核心数据库服务器和核心目标服务器。勒索软件行为包括:各种横向移动、RDP3389 端口爆破、MS17-010 扫描、与 C2 服务器建立持久化通讯,有的还会移除防病毒软件、关闭数据备份服务、拷贝敏感数据等。3)加密勒索阶段验证:在加密勒索阶段,模拟勒索软件的核心破坏行为,以评估防御体系在最后一道防线上的表现。这包括模拟勒索软件对目标文件系统的加密操作、模拟锁定与破坏、模拟数据销毁或篡改,以验证终端/主机的防护能力。四、《网络安全AI说》补充上文说的一种方式很不错,是一个叫知其安的公司出的。本播客在这个基础上,补充另外几种可能用到的技术作为参考:1、勒索软件很可能做了免杀,有的可能用了白利用手段(用好的系统进程干坏的事情),你的杀毒软件是查不出来的,需要用真EDR技术的终端安全软件,对终端上的各种行为做检测(文件、进程、注册表、计划任务、WMI等),从而判断是否可能为勒索。一般奇安信、深信服、亚信等均有(排名不分先后)。2、尝试实用化具备AI泛化检测能力的终端安全软件,即便杀毒软件是从来没出现过的,规则库里面没有,那也有一定的可能靠AI的学习能力检测得出来。3、轻量的备份,如果是PC电脑,可以尝试选有终端备份能力的安全软件。比如安全软件识别了下这个程序,他也不知道这个软件是好还是坏,他就针对你这个软件要对文件做操作时先去备份(一般只能备份几个G),如果3秒之后,发现你这个软件真的在对那些文件做加密,他就阻断你这个软件的进程,并且把他之前备份过的文件回滚。
-
30
告警运营很难,看看他是怎么思考的
选自:公众号A9 Team原文链接:https://mp.weixin.qq.com/s/hKJNonfb3ZJdjtFLasK7JA这篇文章干货贼多,本期仅取用部分,感兴趣的朋友不妨点进上面链接深入瞅瞅围绕着资产、风险、人、工具、流程进行1、知己知彼,才能百战不殆资产:这里的资产指的就是一家公司他所拥有的所有资产,当然我们也没办法去做到非常细因为资源有限,需要利用有限的资源去创造更大的价值,那么我们就需要去关注核心资产、核心业务所关联的"资产",只有明确了我们需要保护的核心业务及资产,才能更好的去把识别其可能面临的风险、挖掘出潜在的风险提前去做好应对,这个叫做"知己";风险: 风险其实就是"知彼",除了对于已知的历史风险漏洞、供应链问题、木马特征等,还是需要持续性的获取到最新的风险,且快速的去匹配公司可能受影响的资产,赶在风险被利用的前面修复它,避免核心资产、业务受到影响,故拥有一支优秀的情报小组也是十分重要的,并且能做到持续学习,持续提升,毕竟每天都在产生大量的漏洞和其他潜在的风险;2、人尽其才,物尽其用对于所有设备,作为告警运营的负责人,对于前面提到的资产和风险,那么这里的物就是需要你去思考,每个设备到底有啥能力,它所覆盖的范围是什么,在哪些场景下你能去充分的使用它。如:有些HIDS产品或者监控agent能去监控系统的补丁,对于熟悉产品能力的人能结合这个去把派发下去的漏洞工单做自动化关联,如果显示补丁打了就自动关单;不熟悉产品能力的人却需要等系统负责人截图证明,那要是系统负责人处理了后忘记提交工单复核,你还需要一个个去问。故对于一个设备,尽管你不需要去深入了解它的检测原理,但是它具备什么能力,它的定位是什么都值得去深思并做好相对应的规划,才能做到物尽其用!除了对于整个小组成员的共同提升(定期分享、组织复盘)以及个别较为自觉的主动提升外;我更喜欢的是去倾听一线的声音,辅助一线分析他们所遇到的问题,并站在更广的视角去给他们寻求资源和解决方案来共同提升整个小组的能效;3、流程高效,持续提升前面大概的介绍了资产、风险、人、物,那么把这些东西串起来并高效运转、持续的提升就是流程或会议了;这里简单分享下我们认为相对有比较多辅助于我们告警小组提升的流程或会议。(1)自动化需求收集会议:定期对现有或者近期新增的安全设备(能力)、告警响应流程等做分析,看看是否可通过自动化来对现有的流程做优化或能力关联运用,做到提质增效;(2)告警分类分级: 对从设备产出的告警,通过告警的攻击来源、受害范围、攻击类型、资产等级几个做对应的权重,在每个设备告警吐出来后通过SOAR去做计算给出对应告警的权重值,越高的值越需要重点去及时响应,避免被其他低中危风险影响到真实存在且严重的风险对业务造成影响,而权重低的可以放后确认,做好抓大放小;(3)白名单(例外)流程: 前面提到告警可能会有大量误报或者已知风险但已经过领导层认可表示风险可接受的告警重复出现、又或者是临时需要使用且能接受风险的中低风险的持续告警,这都会影响整个告警组处置告警的效率,毕竟单单都需要反馈和复核,那么白名单流程就是临时或永久对规则做 白名单(例外),并定期组织复盘对原定的白名单在现在是否仍需执行,是否要对该策略做优化,策略优化是否解决了这块告警噪音,如果是则取消原定的白名单策略,避免相关被误用而导致风险行为未能被监测,持续做好降噪增效;(4)告警复盘: 告警可能可以分为个别告警复盘或者对全局告警回顾,至于这个时间多久一次可能就见仁见智了,而复盘我建议是当天如果出现较为重大的告警响应,应在当天告警处理的差不多的时候,及时把整个小组拉齐做复盘,一方面互相分享排查思路,一方面就是分享下排查过程中流程、相互配合、思路、工具等是否存在问题,是否可以优化提升,同时也能分析出是否有遗漏的风险需要去做进一步确认,注意最好是当天,上午发生的告警,在下午忙的差不多的时候组织大家共同复盘,复盘后大家都认为收获满满同时经验较少的人也能通过此次复盘汲取到经验较为丰富的人的排查思路,做到人的能力共同提升,同时流程、工具也有可能会在这个环节做到持续提升。
-
29
企业的安全组织怎么搭建比较好呢
选自公众号:阿肯的不惑之年原文链接:企业安全组织到底有什么用,应该怎么建?不同阶段、不同规模、不同行业的企业,安全组织形态也不一样,比如:有些企业规模还小,可能一个兼职的安全人员就行,大企业一般会有完整的安全组织,包含虚拟组织和实体组织。1、组织架构和职责比如大型科技企业的经营组织架构一般有三层: 最顶层是经营管理层,一般会有一个实体部门叫总裁办或运营管理办公室,为经营管理层做具体事务的组织协调; 中间层是各BU,分为研发、营销、供应链、法律规划、人力资源等; 最末梢是部门和项目。对比经营组织来看,企业的安全组织也是三层: 最顶层是信息安全管理委员会,主要负责企业信息安全治理工作的决策和议事协调的机构,一般由董事长或者分管信息安全的副总裁担任委员会主任,而央企是发了规定要求党政一把手担任网络安全第一责任人;同时,由于信息安全管理涉及方方面面,所以一定要由各专业领域(职能部门)和主业务流程的中层管理者担任委员,专业领域包括人力资源、信息化建设、物理区域、研发物料管理,主业务流程领域比如研发、生产、营销、供应链。委员会具体负责制定企业信息安全管理的顶层框架、目标和方针原则;审议信息安全规划和重大风险事项;审议重大信息安全策略的制定和修订。信息安全部作为信息安全管理委员会的办公室,主要是搭台唱戏,负责委员会日常运作支持,为各单位信息安全管理工作提供专业的技术和业务指导,提供专业的安全工具和平台。 中间层是各BU信息安全领导小组,是各企业单位信息安全工作的责任机构,应由各BU单位一把手担任组长,指定核心中层管理者担任小组成员,并任命一名综合协调能力强的中层管理者兼任该BU的信息安全总监,按BU规模大小和区域分布任命合适数量的专职信息安全主管。这里有资源的企业可以为安排专职的总监。该小组负责为该BU的信息安全管理工作推动提供所需人、财、物等资源支持;负责将委员会制定的信息安全规划和制度,结合自身业务场景制定相应的规范,并推进落地;负责组织识别该BU的核心资产清单;组织BU层面信息安全管理状况和效果进行检查和管理评审,推动改进;该小组的具体事务由总监、主管来推进,领导小组组织和成员进行评审,决议。 最末梢的执行组织,对应各部门和项目,是信息安全工作的具体执行机构,各部门、项目组的一把手是该单位的第一责任人,按部门人员数量和区域分布指定合适数量的业务员工担任信息安全专员。这里强调下一定要让懂业务的人管安全。部门具体负责按识别该部门核心资产清单,将信息安全管控要求嵌入业务流程和日常管理,实现信息安全与业务同规划、同部署、同落实;组织部门信息安全自检自查自改进。该小组的具体组织事务由信息安全专员(BP)来推进,管理者进行评审,决议,同时,管理者平时在关键业务中强调信息安全要求,就是最好的管理支持。用好这个末梢组织做事就能事半功倍,反之亦然。比如,某公司安全负责人为了快速消除高危风险,一开始采取了简单粗暴的方式,直接跟安委会汇报后下发各分子公司执行,虽然风险快速得到消减,也收获了很多的“投诉、抱怨、谩骂”。经过这次踩坑后,第二次处理类似情况的时候,安全负责人就充分利用了安全专员懂业务、与业务部门接触密切的优点,在执行措施前充分收集并采纳了各分子公司业务部门的建议。年底安全部门满意度调查的结果就非常的好。关于企业安全组织架构,这里强调3点: 要一致:信息安全组织架构设计要与企业的经营架构保持一致,才能将信息安全管理要求在一线落地,发挥出组织作战动员能力。 懂业务:信息安全组织成员,都要懂业务,安全是业务的一个属性,信息安全管理涉及到人、事、物方方面面,不能脱离业务谈安全,所以从人员选择上就要懂专业。同时,从组织职责上,至上而下做分解。 高站位:委员会站位要高,从企业治理架构上,委员会本质是为董事会服务的,董事会是公司的最高领导机构,负责决策公司的战略方向和监督执行层的运营。在董事会下设专业委员会,是为了弥补董事会在决策时候的专业不足问题,目的协助董事会做好专业决策,确保董事会决策的准确性。要充分发挥参谋作用,对公司的重大决策提出审议、评价和咨询意见,为董事会决策提供建议。2、机制和流程很多企业设立了信息安全委员会,但是一年都不开一次会,也没有具体工作,这个组织就变成了一个摆设。而好的机制流程,以及细节的设计,就能够让大家一起共建,成事为乐。比如上面提到大型科技制造企业的委员会,就有会议、评议、通报、检查、表彰等机制流程。 会议,就是定期开会(比如季度、半年、年终),由信息安全部负责人汇报全集团过去一阶段工作总结、下一阶段工作目标和规划,明确需要各单位协同事宜及任务,并邀请公司高管点评工作。这种会议的目的,一方面是邀请高管站台推动工作,另一方面也是将目标达成和工作任务分配不断复盘,跟进和组织驱动的过程。会议中会点评各单位信息安全工作水平,并对这一阶段内做出突出贡献单位表达感谢。也会安排优秀的单位进行分享,表现欠佳的单位上台发言表决心。这里需要注意一点,业务单位的发言材料,集团CSO应该提前评议,保障现场会议效果。对于参会单位/部门是否现场参会不强求,每个企业可根据实际情况选择线上线下方式。因为开会不是目的,会议的议题设计,内容呈现,演讲者要表达的思想和目标才是最关键的,从而才能达成开会想要达成的效果,当然现场开会的效果一定是最好的。 评议,就是通过线下或在线等多种不同方式,选择合适的专项议题让委员参与评审,给出意见和建议。每一次议题的评议,其实是对参与的高管和核心中层管理者进行信息安全宣传教育和达成共识的过程。所以议题的选择,一方面最好和当期重点工作或者企业治理理念保持一致性,另一方面有一定的讨论空间,如果全部一致就调不动大家的参与感和积极性。更为重要的是要在评议前找一些同盟支持自己,保障大方向不会偏离。 检查,就像企业业务风控一样,信息安全部根据评议通过的安全风险检查清单(checklist),每年组织一次集团层面的安全风险检查工作,评估各BU存在的安全风险及合规遵守情况,最终根据检查结果进行综合评分,给各BU颁发金、银、铜牌,不断推动各单位整体安全风险管理能力的提升。为了检查的公平和全面性,安全部可以邀请总部职能部门、各BU的安全BP一起组成检查小组,并就近区域交叉检查。这样也能增加安全体系内具体执行人员的参与感。 通报,就是集团内出现了安全事件,需要在集团内进行延展,并提醒集团内其他企业/单位关注,事件驱动是加强安全管理的重要措施之一。出现攻击违规泄密等需要在集团层面通报的事件,需要按照事件的一二三四等级(处罚包括法律责任/开除/绩效/降职/内部警告等),跟出现事件的业务部门安全负责人和领导达成一致,并经过严格的审批程序方可发布。这样做的目的是在通报发挥警钟长鸣的同时,也不太会影响到安全组织内部的后续合作。 表彰,企业年底会搞些表彰大会,表扬先进的组织和个人,请参会的高管给颁奖合影下,发些奖状、礼品,最好会后还同步发宣传稿,学习人民日报不断表扬群众的好人好事。毕竟大家一年忙到头,对协作的各单位,看见、肯定、表达对他们的付出和成绩至关重要(比如专项工作中做的很好的企业、检查中得到金牌的企业或有大幅提升的企业、全年工作中有创新的部门/个人)。信息安全归根结底还是一个利用技术和管理的综合治理工作,真正的本质是激发他人的善意,让各单位一起守望相助。3、以数据分类分级工作为例,看一个实际的组织流程例基于上面介绍的安全组织架构、机制和流程,这里以数据分类分级工作为例,来看下集团与各个单位之间具体是如何运作的。第一步:收集信息,策划项目信息安全部,作为信息安全管理委员会的办公室,是一个实体团队,有专业人员和能力。可以由这个专业部门研究相关法律法规、安全标准、同行实践,然后会同自己企业自身的商业秘密,制定数据分类分级的分级标准,识别流程和工具规划,以及推动工作的项目策划。第二步:高层共识如果企业安全委员会运作机制比较成熟,可直接通过委员会来做项目推进的评议,言简意赅讲清楚这个工作的背景,目标。数据分类分级是信息安全管理的源头性,至关重要,定的准不准,决定管的对不对。同时,国家也在强调数据分类分级,以及数安法、个保法的立法执法,在这种管理趋势下应进行推进。同时明确做这个工作的职责和时间节点,比如信息安全部门负责数据分级的顶层标准,识别流程和工具;一线业务部门负责基于标准和流程和模板,识别业务数据,并使用工具做好标识;法律合规部门负责对国家法定的重要数据、个人信息定义、解释和指导。各委员一旦表决心,后续推动工作更加顺畅。评议通过后,应进行对评议记录和决议进行发布。如果没有安全委员会,或者还没有常态化运作起来,建议考虑寻找公司自身的运营管理机制去推动工作。比如项目立项,企业要事上报的专项会议等来推动这个工作在较高管理层的一致认知,一旦同意就是获得了管理政策支持。需要注意的是,在上会前一定要和主要单位的中层管理干部提前做好沟通,拉同盟,获得支持和理解,也能提前知道对方的业绩诉求或困难,从而调整好方案。上会的目的是达成共识,获取管理政策支持,资源支持,而不是把矛盾放到会上解决。这里还有一点,平时和关键干系部门多走动,多支持,才能在关键时刻获得支持。比如:某科技企业要立一个项目解决企业存在的高危风险,但涉及金额数千万,需要上升到董事会决策,安全负责人当时通过提前与安全委员会主要成员逐一沟通,并得到支持,再上会汇报。汇报过程中,某研发负责人在会上就从他的角度阐述了项目的必要性,以及他之前所在500强企业也是类似做法,最终项目顺利立项。第三步:向下推动如果评议通过,向下推动时,主要有3个主要举措: 发布通知:通知是一个管理依据,让各单位推动工作有法可依。可以通过委员会邮箱或者企业的OA系统,向各BU信息安全领导小组发布通知,阐明工作目的、意义、各方职责、输出物、里程碑、操作指导,以及答疑的渠道。这个通知事前也应让主要干系人进行会签,让管理层签发。 项目启动会: 良好的开始是成功的一半。建议发布通知后,有必要召开项目启动会,启动会就是在执行层达成共识,同时也是一个动员大会,统一思想,开完会就要撸起袖子把活干。 项目日常管理:会议启动后,不等于工作就会顺其自然的完成,要通过周月报的分解,定期项目例会来推进工作。后续都是项目管理的一些精髓了。同时,专业部门要提供好操作指导和工具。比如数据分类分级,应该提供分级的标准,识别的流程,包括标识的工具。第四步:业绩宣传大家跟着一起折腾这么久,都希望能有业绩。这时候通过宣传渠道,来表扬合作中表现优异的单位,表扬他人就是宣传了项目的业绩。这点至关重要。当然,在项目启动时我们应该想好最终会怎么做宣传来推动工作。比如数据分类分级,可以从业务单位如何认知和参与这个事情,识别的更加精准、聚焦,提供了工具来做自动化识别提效等方面来做立体的宣传。总之,安全负责人如果能推动企业建立安全决策层、管理层和执行层的三层组织,集团的安全舞台就搭建起来了,大家可以一起唱戏。如果能把会议、评议、检查、通报、表彰等机制运作起来,集团上下就能形成共同的安全方向和原则、大家协同共建、安全投入与产出的价值达成一致、业务效率与安全效果达成平衡,安全体系将逐步走向成熟。
-
28
他好厉害,总结了五年安全运营实践心得
选自公众号:A9 Team原文链接:【极思】五年安全运营实践总结与未来思考1、原则进阶。在近5年工作实践中发现安全运营存在几个不可能:同步规划不可能,主要原因是安全是铠甲(属性),只有IT规划完才能基于IT规划做;同步建设不可能,主要原因是安全供应商滞后,根本没有好的方案和设备;同步运营也不可能,主要原因是安全人才滞后。作为理想还行,但不切实际。2、工作进阶,从随机,到全面,到重点。安全运营第一阶段,工作逻辑是来什么就做什么,虽无规划但这种自适应的工作方式效果还是比较好的,至少干的事之中大部分是重点工作。安全运营第二阶段,工作逻辑是全面开攻,这种工作方式的效果是最差的,导致全员疲惫、工作进展慢,且无法保证做的是重点工作。安全运营第三个阶段,工作中只处理重点工作,问题中只处理要命的问题,其它的后面排队,有时间就处理。个人认为安全运营工作中真正重要的事不多,最小的自恰循环,管好入侵响应、漏洞修复、攻防验证即可。有时间有资源再做情报收集、资产管理,其它的再向后排。3、组织进阶,从专业,到成长,到梯队。第一阶段,无团队管理经验,无团队人难招,对于人员的要求是专业即可,成长、表达、沟通、协作等均可让位。第二阶段,有1-2年团队管理经验,团队3-7人规模,对于人员的要求是专业+成长意愿,无成长意愿的人不要招,用起来是非常痛苦的。第三阶段,有3-5年团队管理经验,团队规模7人以上,对于人员的要求是专业+成长+梯队,人员分组形成梯队是第一要务,招一线成长为二三线,尽力不招二三线。4、流程进阶,从无流程、到SOP,到SOAR。第一阶段,无任何安全流程,工作质量依赖人员能力、责任心、抽查,一般情况下做好抽查工作即可。第二阶段,编写标准作业流程(SOP),安全工作由于范围大(事多)且专业(精深),做SOP的难度和工作量都很大,导致收益很低;此外SOP从写到用之间经历转换层过多,且安全人员一般个性很强,看不看、遵从度、理解度、执行度都是大问题;结论是不建议。第三阶段,上安全运营自动化系统(SOAR)之后,安全工作让安全人员直接写成剧本,只要控制好剧本质量,可以规避第二阶段大部分的问题,非常推荐;无法在SOAR上实现的安全流程,建议做到协作流程级别,不要搞操作流程。5、工具进阶,从合规,到专业,到专长。第一阶段,受限于监管要求、公司文化、采购合规、商业环境、领导风格、商务关系等等各种因素影响,最终使用实效最好的工具(安全产品或设备)的概率很低,只能说合规就好。第二阶段,以安全运营目标倒推安全产品的要求,对于防御体系中对抗类的重要系统必须技术主导,否则安全运营工作根本无法保证效果;功能实现类可以其它因素主导。第三阶段,攻防对抗类工具要求进阶,专业的同时还要考察供应商对工具的长久运营能力,工具背后如果没有一个攻防研究+攻防验证+产品研发的组合团队,那这个产品是没有未来的。
-
27
零信任+沙箱的新方案能在哪些场景使用
选自公众号:阿肯的不惑之年原文链接:网络安全下半场,一个安全产品如何从“鸡肋”变成了“鸡腿”《网络安全AI说》补充:在电脑上运行一个“沙箱”,将“沙箱”里面当作工作空间,外面当作个人空间。工作空间做公司的业务访问办公操作,数据落地在这个隔离的沙箱里面,保障数据不外泄。现如今沙箱叠加了零信任的方案在业内的声音越来越多,像数篷、缔盟云、深信服等公司(排名不分先后)均有类似的方案。我们看看这个组合的方案可以用在哪些场景。场景1:政务外网的一机两网办公隔离场景在政务外网的电脑上部署安全沙箱,让政务办公人员在一台电脑上既可以安全上网,又可以访问政务外网的业务系统。即使电脑失陷也不会扩散影响到到政务外网其他终端和业务系统。相较于过去需要给政务人员分配两台电脑,这种一机两网方式,从技术上大幅简化了政务外网电脑合规的成本。比如浙江某市大数据局、西南多个省市大数据局、华中某省信息中心、华北某省大数据局等都是这类应用场景。场景2:公司研发团队办公与上网隔离场景在企业研发人员电脑上启用上网沙箱,让研发人员在安全研发的同时,也可以在沙箱中自由上网,不用担心数据泄密、外部钓鱼和攻击横向问题。相较于过去研发人员的电脑只能用于研发,访问办公应用或者上网查资料就需要去公共电脑,或者另外一台电脑的方式,沙箱让研发人员不用在两个地方或者两台电脑之间反复切换,提高了研发人员办公体验和效率,同时也为企业节省了另外配置一台电脑的费用。比如深圳某大型ICT企业、浙江某大型汽车集团、上海某大型金融支付公司等都是这类应用场景。场景3:科技制造、金融、能源、政务等各行业IT运维防攻击场景在企业IT运维人员或外包运维人员电脑上启用零信任沙箱策略,让运维人员不管是在远程还是职场都可以对IT后台系统进行安全的隔离访问,即使运维电脑失陷,业务系统也不会因此被入侵和数据泄密,特别是实战攻防期间,这也是目前简单有效的防钓鱼攻击技术手段之一。比如某大型集成商、北方某股份制银行、广东某股份制银行等都是这类应用场景。场景4:收敛企业重要应用和数据的暴露面,实现事前防攻击防泄密企业安全人员可以结合应用及数据的重要程度和安全风险,灵活选择员工在访问哪些应用系统的时候需要启用零信任沙箱,比如:财务/资金系统、BI、办公OA系统等,确保业务在被访问过程中数据不泄密、系统不被攻击。通过收敛重要应用和数据的对外暴露面,实现事前的攻击和泄密防护,同时提供进出沙箱的数据操作管控和日志审计。比如:多家股份制银行、云南某城商行、某大型互联网电商都是这类应用场景。场景5:科技制造及金融行业跨网业务安全访问场景对于内网区域隔离执行比较严格的企业,通过零信任沙箱技术,安全人员可以基于业务需要,通过零信任控制台的灵活授权,允许经过申请的业务人员跨网访问业务系统,而员工无需改变原有习惯就可以访问跨区业务。比如办公网的人员申请访问生产网、研发网的人员申请访问办公系统等。相较于过去,企业一般是通过部署两台电脑实现跨网访问,耗人费钱且不安全。零信任沙箱可以基于用户身份灵活授权,开通和关闭权限可以系统闭环,跨区访问业务时,零信任沙箱会自适应启动,是一种很好的技术解决方案。比如:上海某头部车企、多家股份制银行等都是这类应用场景。
-
26
资产管理实践还得看安信证券
选自公众号:安全村SecUN原文链接:全量安全资产管理-进阶实践|大湾区金融安全专刊·安全村PS:全文亮点非常多,本期仅取用部分。建议感兴趣的朋友点击原文链接看下。1、背景每一个做安全资产管理的同学都有一个终极梦想,那就是掌握所有信息资产。为什么要掌握所有的安全资产呢,因为做防守的同学们有一个逻辑,掌握全量资产才有可能掌握资产上的风险和隐患。为什么说是梦想呢?每一代想挑战安全资产管理的人也不少,关于安全资产管理的实践也多如牛毛,但至今未见圈内有最佳实践。接下来我们看看安信证券的实践。2、安信证券资产管理发展之路2017年,从无到有,各团队询问更新,自维护本地表格时代。2018年,表格量大无法维护,升级为简单查询的在线系统。2019年,系统数据源不够,增加自主发现(网络扫描和流量监测)。2021年,大数据平台式解决思路,安全资产管理中心。2022年,安全资产管理关联漏洞、隐患等的攻击面管理。2023年,设备、用户、系统画像+攻击者画像,全景联动分析。3、实践落地第一、安全度量支撑,实现终端和服务器覆盖率每日自动统计。将终端准入、终端防病毒、终端DLP、网络扫描器等数据合并去重作为分母,各系统自身数据作为分子,自动化计算安全系统的覆盖率。将HIDS、服务器防病毒、网络扫描器、CMDB、运维自动化、运维监控、系统平台等数据合并去重作为分母,各系统自身数据作为分子,自动化计算覆盖率。第二、情报响应支撑,一键查询漏洞情报的影响范围。通过一条查询语句,实现是否开放公网、操作系统版本、软件版本、关联软件版本、启动用户等多条件查询,直接定位实际受影响的资产。并且用SOAR(自动化编排响应)创建工单,开启后面的流程。第三、告警处置支撑。通过SOAR联动查询安全资产管理系统,自动补充系统负责人、联系方式信息,并自动创建告警工单,将判断告警真伪需要的信息富化到工单中。自动化将样本上传至沙箱,获取沙箱检测报告到工单中。第四、事件响应支撑,一屏查看资产和漏洞详细信息。通过资产管理系统,一站式查询问题资产的聚合信息,快速定位入侵点。同时可一站式查询周边设备漏洞情况、防护情况,为下一步工作做好准备。第五、自动化运营支撑。安全资产管理系统提供全量API接口,配合SOAR,实现告警处置、安全巡检的全流程自动化,解决流程因资产问题无法自动化的问题。
-
25
你们会考虑自研SOC吗?平安银行自研了
选自公众号:安全村SecUN原文链接:“自力”+“借力”:自研SOC实践|大湾区金融安全专刊·安全村1、是否自研的决策考量平安银行认为:外购系统和自研系统有各自摊低成本的逻辑。面对过于专精或非常成熟的系统时选外购,面对难度不大或准备长期走此道路时选自研。2、最小化开发:降低自研成本首选是寻找成熟的开源解决方案,在此基础上进行二次开发可以极大地降低工作量。如果没有,则需将需求、功能拆分后,调研每一个子模块有没有开源解决方案。如果有开源解决方案但不能完全满足需求,则可以顺藤摸瓜,研究其所依赖的开源组件是否能为我所用。要坚信,太阳底下没有新鲜事,我们所面临的技术问题还远未到挑战科技前沿的地步。在找零件上即使花费数周时间,最后也会物超所值。3、自研安全运营中心历程1.0版本:简陋的事件管理平台平安银行的安全运营中心(SOC),就是在时间紧急的情况下,由一位工程师花一晚上的时间从自研的漏洞管理系统改写而来,然后就此迭代沿用至今。1.0版本的SOC是一个事件管理平台,实现了事件的上报、通知、跟踪等功能,一键处置手段只有封IP,以及必要的仪表盘、报表。这一时期分析研判还是在各安全设备上进行,SOC则满足了日常运营流程的基本需求。2.0版本:海量告警接入分析与优化这一时期SOC平台功能大大完善。架构方面,以服务于全团队的安全大数据平台作为基底。平台负责全量告警、日志、资产、情报等**各类数据的接入分析,做告警的研判和事件的处置。这一时期我们树立了“全量告警应查尽查、攻击事件应报尽报”的目标。每日回顾时,不允许存在无下文的“野”告警。我行通过安全大数据平台的规则已实现了99%左右的告警过滤,但剩余告警仍有万级。这时,为确保真正高危的告警得到及时研判,就要对告警进行分类分级。分类,指将告警分成自动策略处置、人工研判、待观察、忽略等类别,直接进入不同的后续流程。分级,指将需要人工研判的告警进行细粒度的级别,并按照优先级进行展示,确保真正高危的告警被置顶。所有告警字段都可以用于分类分级,除常见的告警类型、威胁名称、危险等级、攻击结果等,还可使用前期富化的字段。包括:①网络流向:DMZ、应用、数据库、外联、管理,从哪个域到哪个域?互联网、生产/测试网、办公网,从哪个区到哪个区?②情报:来源、置信度、重点关注标签。③资产:漏洞信息、重点关注标签。2.5版本:处置能力增强并解决误操作这一时期的SOC重点加强了一键处置的能力,可对多类型目标、多环境进行一键处置。近一年平安银行封禁外网IP已达万级,即使只有0.1%的误封,也意味着平均每个月就会误封一次,这会给正常办公带来影响,平安银行这样解决:①白名单保护。白名单在系统中录入和生效,如果对名单中的对象发起处置会被系统拒绝。②是将处置信息进行公示,让人自助查询IP等是否已被封禁。③按需将封禁操作知会到本人、上级、业务负责人,使用IM、邮件、短信等各种方式。4、展望SOC平台目前运转良好,经受住了历次HW行动的大考。但随着事件处置的场景越来越多、步骤越来越复杂,如何确保快速、准确地执行成为难题。例如勒索病毒场景,甚至需要大量数据库、云平台管理员协同。显然,SOAR(自动化编排响应技术)是一种解决思路,这将成为平安银行下一阶段的重点。
-
24
民生证券零信任建设实践
选自公众号:民生证券数字科技原文链接:成果分享 | 民生证券零信任建设实践一、方案流程1、在PC上,我们的客户端以ALL in One的架构集成了杀毒、安全检查、设备登记、资产梳理等功能模块。当员工通过PC进行办公时,会完成身份认证、设备健康状况检查,并通过隐身网关的敲门认证。2、在办公访问的过程中,零信任控制中心会根据用户的身份、设备的等级进行访问的赋权,对新电脑或者临时办公电脑,只能访问部分非敏感应用,同时会受到更频繁的验证;办公设备可以访问用户身份下的所有应用,并根据办公场景适配相应的策略池进行风险持续验证,办公设备还会有更多的管控措施,以确保满足安全合规的需求。3、移动端不设单独客户端,而是通过SDK嵌入到已有的移动办公APP中,实现一个APP完成即时沟通、移动审批、内网访问等多种功能,提升办公效率。4、所有的数据汇入分析中心进行分析和计算,并对风险行为验证。二、运营实践1、员工在准备办公的时候,终端会首先对设备与环境进行检查,之后会进行认证和权限确认和分配。在办公过程中,零信任会对行为和操作进行持续验证,重点检测可疑行为和高危进程。同时,我们的风险策略不是一刀切的管控,而会根据安全制度的要求、业务部门的需求、历史运营的总结优化,以及一些办公场景数据的聚类分析,形成不同的策略,适配到不同的场景。在持续验证的过程中,会根据运营的结果,包括漏报和误报,对整个链路进行持续的优化。2、证券从业人员是禁止交易的,通过对员工MAC地址进行交易匹配是日常监测的手段。传统的方式在通知、填报、匹配环节上有很多人工操作,效率较低。通过零信任系统,设备经过登记认证为办公设备之后,会对MAC地址进行自动化常态化提取,并会根据识别算法、联合零信任隐身VPN的启用信息,对有效MAC地址进行过滤识别,并通过API形式与交易软件的进行匹配,极大的提高了管理效率。3、证券作为强监管行业,对软件的使用要求较高。我们通过零信任来进行软件管理,设备同样经过登记和认证之后,首先会检测是否有违规和必装软件、并通过操作系统的一些识别号来进行操作系统正版化的判断。对于员工的软件安装情况,本方案通过软件仓库,结合使用人范围和总体授权数量的管控来进行许可证管理。以上管理我们会通过报表大盘进行监控展示,当出现违规行为,或者软件使用数量超过授权告警阈值时,会触发告警和超额提醒。经确认后会触发相应的处置动作,并需要完成整改。三、最终效果数据关键数据1:上线20天内极速覆盖80%员工,并逐步完成设备等级、安全检查、防病毒、DLP等模块的全量推广,保障了灵活安全的办公接入。关键数据2:收缩公网资产暴露60+个,大大减少外部风险暴露,保障办公安全和稳定性。关键数据3:通过零信任建立全域统一的资产视图和全面的数据看板,为从业人员设备合规管理提供便利,提升工作效率80%+。关键数据4:通过场景化办公策略,深度服务并满足业务部门安全办公需求,当前已完成10+场景化策略的配置,如为某业务部门定制数据保护策略,保障算法安全;为某财务系统配置特定设备+角色+环境的访问限制;为某分支机构定制软件管理策略等。
-
23
你的汽车会被黑客入侵吗?新能源车龙头塞力斯的网络安全建设
选自公众号:谈思汽车原文链接:赛力斯“网络安全之路”经验分享1、塞力斯集团总结对于车企面临的主要信息安全问题(1)智能化网联化带来的网络安全技术与合规风险车辆互联使得车辆能够实现与外部通信,比如远程诊断和升级功能使得车辆生产商可以在线更新软件和固件,但这也会让黑客入侵系统和破坏车辆变得更为容易。同时,监管机构持续制定政策法规以确保车辆安全和隐私的全生命周期的保护,这会对企业造成合规压力。(2)供应链网络安全合规风险汽车的研发和生产制造过程涉及大量的供应商提供的产品,而这些供应商提供的产品有可能存在网络安全漏洞,这将会成为汽车供应链安全攻击的潜在入口。(3)车企出海面临的合规风险汽车企业出海之前,需要注意网络安全及数据安全合规风险,不同国家和地区会有不同的市场监管法规和标准,需要了解并遵守当地法规和标准,尤其是进入国外成熟市场将面临非常严苛的合规监管挑战,例如欧盟的车辆产品网络安全合规准入认证等。2、塞力斯集团实践**(1)在汽车网络入侵检测方面,**重点工作包括检测整个车载网络的负载率和信息熵,定义安全阈值,防止如泛洪攻击、重放攻击等异常行为发生;根据DBC文件(车内数据通信定义文件),检测单帧报文是否符合DBC定义;定义报文序列管理、信号关系等正常场景和一些探测等攻击场景。**(2)在主机入侵检测方面,**包括检测应用操作行为、文件行为、进程行为、系统API调用、系统root行为、系统资源占用等,可对非法网络连接、提权攻击、敏感信息窃取等攻击行为进行告警;可对车机系统、应用、进程、文件等10类100多种日志数据进行采集上报、威胁分析和溯源。**(3)在以太网入侵检测方面,**工作包括实时监控统计车端应用流量,发现异常流量消耗行为,基于IP五元组、APP、URL进行访问控制,可识别HTTP、DNS等协议内容,可检测文件传输、空车指令、隐私数据泄露等应用层攻击行为。**(4)建设安全运营平台,**融合车端、产线端等探针数据,对汽车网络安全事件、漏洞等进行关联分析、风险识别、威胁预警、风险评估以及应急响应处置,包含了系统管理、资产管理、风险管理、应急响应、态势感知、规则运营等功能模块。3、价值实现(1)符合了欧盟地区R155的法规要求,让汽车出海有了“准入证”。(2)能够做到监控、分析及应对汽车网络安全风险。(3)具备了直观的安全运营工具,显著提升效率。
We're indexing this podcast's transcripts for the first time — this can take a minute or two. We'll show results as soon as they're ready.
No matches for "" in this podcast's transcripts.
No topics indexed yet for this podcast.
Loading reviews...
Loading similar podcasts...