2026年启动的组织人工智能透明性、信任性和安全性将看到AI系统Gartner公司表示,模型在接受率、业务目标和用户接受度方面提高50%

讲义Gartner安全风险管理峰会伦敦今日MarkHorvathVP分析师Gartner表示CISOs不能让AI控制组织AI需要新式信任、风险安全管理 传统控件不提供首席信息安全官需要冠军AITRISM提升AI模型生成速度, 改善治理或理顺AI模型组合,

AI不仅带来相当大的数据风险,因为敏感数据集常用于培训AI模型,而且模型输出的精度和数据集质量可能随时间而变化,这可能造成不良后果。

AITRISM实施使组织理解他们的AI模型正在做什么,它们与原用意相匹配的程度,以及从性能和商业价值方面可以期望什么

AITRISM团队运动

AITRISM不能由一个企业单元领导需要教育跨队协作Jeremy D'Hoinne高特纳VP分析师CISOs必须清楚理解AI团队内的责任,这些团队可包括法律团队、守法团队、IT团队和数据解析团队的工作人员。

缺少强健AITRISM程序,AI模型可消除企业引入意外风险,这引起不良模型结果、隐私侵犯、重大名声损害和其他不良后果

AI风险管理优先级

AI可被视为任何其他应用,CISO可能需要调整团队内外期望值期望确定后,CISO及其团队需要采取以下五大AI风险管理行动:

1. 通过编目AI组织使用并确保正确解释性
2. 驱动员工全组织认识,牵头正式AI风险教育运动
3. 支持模型可靠性、可信赖性和安全性,将风险管理纳入模型操作
4. 通过数据保护和隐私程序消除内部共享AI数据
5. 采取专门的AI安全措施对抗性攻击,以确保抗争和应变能力

学习管理人类风险 建立安全意识组织4方法实现安全雇员行为.

Gartner安全风险管理峰会

Gartner分析家正在9月26日至28日举行的Gartner安全风险管理峰会上向安全风险管理主管介绍最新研究和咨询伦敦.跟踪X会议新闻更新#GartnerSEC.

关于Gartner网络安全领导人
Gartner网络安全领导人向安全领导人提供工具帮助重构角色,使安全策略与业务目标相协调并构建程序平衡保护与组织需求附加信息可用//www.kmllpx.com/en/cybersecurity.

Gartner网络安全领导人后续新闻更新X级并LinkedIn使用#GartnerSEC访问亚博国际官网登录Gartner新闻室获取更多信息和深入了解