大模型应用来啦，企业如何防护风险

一、从输入输出角度看，大模型应用的风险1、输入风险：1️⃣提示注入攻击：不仅针对文本形式注入，也要关注通过多轮文本交互、文档、图片、代码等复杂形式进行的注入攻击。这种注入攻击通常会让模型绕过安全控制，生成一些不好的内容，或者生成一些非当前用户权限范围内能查看的数据。2️⃣敏感或重要信息泄露：用户输入时可能存在企业数据泄漏。2、输出风险：1️⃣生成有害信息：如涉政、涉恐、涉暴、涉黄、违反伦理道德，尤其对公众提供服务时。2️⃣敏感或重要信息泄露：模型输出核心代码、设计原理、经营数据、个人隐私等导致数据泄露3️⃣输出影响范围扩大：生成错误的执行路径或重大策略建议，向下游设备或者工具下发异常指令。二、防护类型分类1、对于企业内部员工，访问企业内部自建大模型：1️⃣防止输入风险：提示注入防护2️⃣防止输出风险：信息泄漏防护、生成有害信息防护2、对于企业内部员工，访问互联网大模型1️⃣仅防止输入风险：信息泄...去小宇宙查看完整单集简介前往小宇宙评论区与主播互动