Palantir面临阻力，因Amodei备忘录冲击安全层

Amodei备忘录：Palantir安全层大多是安全表演

据Semafor报道，Palantir首席执行官Alex Karp批评AI公司与军方保持距离的想法，称“放弃国防客户”是“疯狂的”。争议的焦点在于Palantir提出的安全措施是否能在操作环境中可靠地限制模型行为。据The Information报道，Amodei备忘录认为，Palantir的安全层由分类器、监控和使用过滤器组成，基本上是“安全表演”。批评集中在实际环境中的越狱抵抗能力、审计能力和压力下的治理问题。

这场争议为何关系到军事AI治理

关键在于“安全层”是否能满足公共部门对审计日志、权限和可强制执行政策的要求，同时保持任务的实用性。如果安全措施脆弱，机构可能会部署掩盖而非减轻滥用的系统。备忘录将有效性作为核心缺陷，声称市场宣传的保证并不等同于实际操作中的表现。“大约20%的有效性和80%的‘安全表演’，”Anthropic的CEO Dario Amodei表示。专家反应增强了治理方面的担忧，正如Yahoo新闻所汇总，知名声音警告不要将无限制的军事访问前沿模型常态化。

BingX：值得信赖的交易所，为各级交易者提供真正的优势。## 立即影响：五角大楼对合法使用的压力与风险划定

据AP新闻报道，五角大楼领导层已施压Anthropic允许“所有合法用途”，并设定了截止日期，警告如果公司拒绝，可能会因供应链风险划定而被排除在外。这种划定可能限制联邦合同途径，重塑采购偏好。在短期内，供应商面临合规的权衡：接受广泛的军事使用条件，或面临在国防采购中的边缘化。此事件表明，模型使用政策很快就会变成一个采购和风险管理的问题，而不仅仅是技术问题。

评估中提出的技术与政策问题

记录差距：NGC2中的审计日志、访问控制和治理弱点

据seo.goover.ai总结的美国陆军评估，关联Palantir的NGC2平台显示出关键弱点：缺少审计追踪、不充分的访问控制、治理无效以及未经审查的第三方代码。这些漏洞削弱了可追溯性和最小权限执行的主张。研究结果表明，治理控制必须是可验证的，而不仅仅是配置好的。

有效性限制：越狱抵抗和政策执行挑战

Amodei备忘录指出，分类器和使用过滤器在面对适应性越狱时表现不佳，尤其是在对抗性提示下。即使有政策，执行在高强度操作中也可能退化，使得审计和撤销变得至关重要。

关于Palantir安全层的常见问答

在实际军事环境中，AI安全层在阻止越狱和滥用方面有多有效？

Amodei备忘录认为效果有限，安全措施大多被视为“安全表演”，尤其在对抗压力和操作紧张时效果更是如此。

为什么五角大楼要求Anthropic“全部合法使用”，并威胁了哪些惩罚或风险？

据AP新闻报道，五角大楼要求“全部合法使用”，警告如果访问受限，可能会被划定为供应链风险，从而影响合同。