新的CISA指南：保护关键基础设施免受AI威胁
关键要点
CISA发布新指南，旨在保护关键基础设施系统，以应对人工智能带来的威胁。指南涵盖三方面的安全考虑：防御AI工具攻击者、保护AI系统不受攻击、开发安全的AI系统。建议建立AI风险管理文化，评估和跟踪AI风险，优先处理安全问题。美国网络安全与基础设施安全局CISA发布了新指南，旨在保护关键基础设施系统，面对日益受到人工智能影响的威胁环境。
水母加速器这份28页的文件PDF从三个不同的视角讨论了关键基础设施的风险与安全问题：防御使用AI工具的攻击者、保护AI驱动的系统以及开发安全和可靠的AI系统。
这些指导方针是CISA的母组织国土安全部(DHS)响应去年10月总统乔拜登发布的广泛关于AI的行政命令而推出的一系列倡议中的最新举措。
DHS在4月29日的声明中表示：“这些资源是该部门更广泛努力的一部分，旨在保护国家的关键基础设施，并帮助利益相关者利用AI。”
CISA局长詹伊斯特利Jen Easterly在声明中指出：“基于CISA作为国家关键基础设施安全与韧性协调者的专业知识，这些指南是首个针对关键基础设施部门AI特定风险的跨行业分析，旨在帮助业主和运营商减轻AI风险。”
基于NIST的AI框架提供指导
这些指南概述了一种“治理、映射、测量、管理”的减轻策略，并基于国家标准与技术研究所(NIST)发布的AI风险管理框架。
简而言之，关键基础设施的业主和用户被鼓励建立AI风险管理的组织文化，了解他们特定的AI使用背景和风险概况，开发评估、分析和跟踪AI风险的系统，并优先处理与安全相关的AI风险。
国土安全部部长亚历杭德罗马约卡斯Alejandro Mayorkas表示：“AI可以为美国的关键基础设施带来变革性的解决方案，但它也带来了让这些系统以新方式面临关键故障、物理攻击和网络攻击的风险。”
在自行政命令签署后的六个月里，采取的其他措施中，DHS上周透露成立了新的AI安全与安全委员会，成员包括科技行业首席执行官如Alphabet的桑达尔皮查伊Sundar Pichai、OpenAI的山姆奥特曼Sam Altman和超微半导体的苏姿丰Lisa Su。
NCC集团的董事与高级顾问蒂姆罗林斯Tim Rawlins表示，尽管组织需要利用AI所能提供的巨大效率优势，但同时也必须意识到新技术为其运营带来的脆弱性。
“这些新指南的发布，是向希望充分利用AI能力的敏感系统提供建议的重要一步，”他说。
AppOmni的首席AI工程师约瑟夫萨克Joseph Thacker表示，尽管这些指南是一项重要且积极的发展，但在风险管理和促进创新之间需要找到平衡。
“我认为委员会应优先发布更具体、可操作的实施建议，以补充这些高层次的指导方针，”他说。
“我并不是说战略建议没有用，但考虑到AI快速发展的情况，关键基础设施运营商需要切实可行的技术指导，以落实到实践中。委员会和组织应该提供实用工具，如参考架构、配置清单和代码示例，将这些
