尽管推出AI安全举措,微软股价仍下滑
微软(MSFT)股价下跌2.37%,报收于505.71美元。尽管公司宣布了一项重大的AI安全计划,但股价仍未能幸免。微软携手40多家合作伙伴,共同制定AI透明度开放标准。新的AI框架旨在加强对企业自主AI代理的监管。微软计划将AI安全控制措施整合至Copilot和Foundry工具中。随着微软 outlining 新的AI保障措施,其股价从515美元的高点回落。
微软公司(MSFT)股价下跌2.37%,至505.71美元,跌幅为12.28美元,尽管公司宣布了主要的AI安全倡议。周二交易时段,卖压主导市场,导致股价从盘中接近515美元的高点回落。与此同时,微软推出了新措施,旨在加强企业系统中的AI透明度、安全监督和企业问责制。
微软与40多家组织合作制定AI标准
微软在周二交易时段表现疲软,尽管在下午交易中出现了 modest 的反弹。此次下跌正值微软在其Ignite大会上发布“AI透明度倡议”之际。首席执行官萨提亚·纳德拉将该倡议作为微软对构建更安全的AI系统承诺的一部分进行介绍。
该倡议旨在解决企业在运营中部署自主AI代理时面临的安全挑战日益严峻的问题。这些代理越来越多地访问敏感信息、企业工具、凭证和基础设施,而无需对每项操作都进行审批。当跟踪决策并在其AI系统中验证活动时,组织面临着额外的挑战。
微软旨在建立通用的安全标准,帮助企业跨不同平台审查AI行为。该公司还希望组织能够在自主系统执行重大行动之前识别风险。此外,随着AI采用的扩大,该框架寻求加强审计程序并维持问责制。
微软目标:加强对自主AI代理的控制
微软宣布与超过40家组织合作,共同开发AI透明度的通用标准。合作伙伴包括埃森哲(Accenture)、Adobe、毕马威(KPMG)、万事达卡(Mastercard)和沃尔沃汽车(Volvo Cars),以及其他支持该倡议的公司。这些组织将共同专注于更强的验证方法、安全控制和治理实践。
微软还将扩大其在国家标准与技术研究院(NIST)SI Agent标准倡议中的参与程度。这一参与将支持研究可在不同AI模型中应用的开放标准。此外,微软计划将由此产生的框架整合到Microsoft AI、Microsoft Foundry和Microsoft Copilot中。
这种整合将帮助客户将AI活动记录与其现有的安全和合规系统连接起来。企业还将获得评估访问权限、委托权力和运营风险的工具。然而,微软尚未提供每项计划能力的具体实施时间表。
强化对自主AI活动的可见性、验证与控制
微软的安全框架侧重于三个功能:对AI活动的可见性、独立验证以及对AI活动的控制。组织将跟踪代理身份、授权任务、访问的信息以及工作流中的操作。此外,独立的记录将有助于安全团队验证系统行为,而不必完全依赖模型生成的报告。
控制措施将帮助公司在AI代理执行敏感操作之前执行内部政策。安全团队还可以在调查、恢复程序和监管审计中使用活动记录。这种方法确保由部署AI系统的组织承担相应的责任。
微软设计该倡议以支持来自不同提供商的封闭式和开源权重模型。因此,公司可以在保持一致监督和访问控制的同时更换AI提供商。此次公告扩大了微软的企业安全战略,尽管其短期股价表现依然低迷。