微软承认Win11新AI功能存安全风险 仍坚持推行

尽管微软近期公开承认，其计划植入Windows 11的“AI代理”(AI Agent)存在幻觉、行为不可预测及易受新型攻击等风险，但这家科技巨头仍将坚定不移地推进其“代理化操作系统”(Agentic OS)的愿景。这标志着Windows 11正成为微软高风险AI战略的核心试验场。

自2025年10月起，微软宣布要让“每台Win11 PC都成为AI PC”，并推出了一系列深度集成。其核心是让用户通过自然语言指令，指挥AI代理自动操作电脑，例如处理文件、操作应用、执行多步骤任务。任务栏的“询问Copilot”新界面将成为调用这些代理的神经中枢。

微软在官方支持文档中罕见坦承，这些代理“偶尔可能出现幻觉并产生意外输出”。最大的安全威胁之一是一种名为“跨提示注入”(XPIA)的新型攻击。攻击者可将恶意指令隐藏于文档或UI元素中，诱导AI代理背离原任务，执行如窃取敏感数据、安装恶意软件等危险操作。

为管控风险，微软设计了名为“代理工作空间”的核心安全机制。每个AI代理将在系统中拥有一个独立的受限用户账户和隔离的虚拟桌面环境。其权限被严格限制在用户“已知文件夹”内，并通过“模型上下文协议”与系统应用间接交互，所有操作均被详细审计日志记录。目前，这些功能被标记为“实验性代理功能”，默认关闭且需用户手动开启。

微软之所以甘冒风险，源于激烈的市场竞争压力。苹果正大力推广集成Apple Intelligence的新款MacBook，谷歌也计划推出Aluminium OS进入PC市场。若Windows在AI浪潮中停滞不前，将面临平台吸引力下降的风险。因此，尽管存在争议，将Windows重塑为“AI的画布”对微软而言已是不可回头的战略选择。