Skip to content

Protecting models, data, AI applications and agents: risks, safeguards and governance.

TodayOct 17Sat1 items
  1. Microsoft Security Blog35

    微软与英伟达发布企业开源权重模型风险管理白皮书

    微软与英伟达联合发布《企业开源权重模型风险管理》白皮书,为计划中系列资源的第一份,提出共享风险分类法,并借鉴ISO标准与NIST AI风险管理框架给出管理方法。厂商核心主张是:权重是否开放本身不决定AI系统风险,风险取决于模型、用例、部署方式与防护措施。该文属厂商发布的指南性材料,此次仅见公开介绍,未提供实测数据、已证实事件或控制措施验证结果。对安全从业者而言,它可作为企业引入开源权重模型时划定评估范围、明确安全责任归属的讨论起点,但具体建议仍需结合自身场景核实。

    Selection note: 企业AI落地常纠结开放权重与闭源谁更安全,该文把讨论拉回用例、部署与防护,并提出可对齐ISO/NIST的责任划分思路,适合作为内部评估基线;但属厂商立场文件,需独立验证。