Anthropic向METR开放员工级访问:前沿AI安全评估迈入深度嵌入时代

导读部分 返回列表

我们来梳理一下近期AI安全圈里一件值得注意的事。Anthropic宣布,向独立评估机构METR开放六名成员的“类员工级”访问权限。这不是一次普通的合作公告,而是把外部评估者真正请进了自家模型的研发与风...

正文内容

我们来梳理一下近期AI安全圈里一件值得注意的事。Anthropic宣布,向独立评估机构METR开放六名成员的“类员工级”访问权限。这不是一次普通的合作公告,而是把外部评估者真正请进了自家模型的研发与风控体系内部。换句话说,评估者不再只是隔着一层接口做测试,而是以接近内部人员的身份深度参与其中。📝

具体来看,这六名METR成员获得的权限相当硬核:公司配发的硬件设备、实际的办公空间,以及和Anthropic内部风险评估团队大致相当的内部系统访问权。这一点值得注意,过去外部评估常常受制于信息孤岛,研究者只能看到模型“愿意展示”的一面;而当评估者能接触到训练流程、内部工具与真实使用场景时,评估的深度和真实性会发生质的变化。

更关键的是发布权的安排。METR将独立对外发布对Anthropic模型风险、安全事件以及安全实践的分析报告,而Anthropic并无否决权。当然,这并非毫无边界:对于客户数据等特定类别的敏感信息,公司仍可要求做脱敏处理。这种“独立但有限保密”的设计,本质上是在透明度与商业机密之间寻找一个平衡点。💡

把这套机制放进更大的背景来看,会发现Anthropic正在搭建一个三级评估者访问体系。第一级,评估者需要经过审批才能发布结论;第二级,评估者可以自行发布;第三级,也就是METR当前所处的模式——深度嵌入公司内部。据披露,SecureBio、埃森哲等机构也在评估合作之列。🎯

Anthropic向METR开放员工级访问,前沿AI安全评估走向深度嵌入

图为Anthropic与METR合作所代表的前沿AI安全评估新范式

从本地化视角看,这套“嵌入式评估”思路对国内的AI安全治理其实颇有参考价值。目前国内不少大模型团队的外测仍以红队演练和第三方基准测试为主,评估方与被评估方之间天然存在信任与信息壁垒。Anthropic的做法提示我们:真正有效的前沿安全评估,或许不是“你测我答”的回合制博弈,而是让独立的第三方在可核验的边界内,持续地看到真实的风险信号。这既需要企业有足够开放的姿态,也需要评估机构具备相匹配的专业能力与公信力。

当然也要保持冷静。嵌入式访问在提高评估质量的同时,也带来了新的治理难题:如何防止评估者被“同化”?当评估者长期在公司内部工作,独立性会不会被潜移默化地削弱?发布权的独立写在协议里容易,落到每一次具体事件的处理上却需要长期的制度约束。因此,透明度不能只靠善意,还需要可审计的流程和真正的外部监督。

总结一下就是:Anthropic向METR开放员工级访问,标志着前沿AI安全评估正从“外部旁观”走向“深度嵌入”。这是一次有勇气的制度实验,也是对全行业的一次发问——当模型能力越来越强,我们是否愿意用更开放、更可信的方式去评估它?这个答案,或许会在很大程度上决定未来几年AI安全治理的走向。⭐

如果你对这条线索感兴趣,不妨结合站内两篇旧文一起读:Anthropic公开模型越狱事件复盘:三层防线重建AI安全边界,以及联合国AI专家组喊话:别再等了,AI安全护栏现在就得搭建,把评估、事件与治理三条线索串起来,脉络会更清晰。

本文出自 AI一族,原文链接:https://www.aiyizu.cn/?p=5427

转发请注明出处,禁止未经允许用于任何商业用途。

文章评分

这篇文章对您有帮助吗?

🤖 随时召唤ZUZU陪你一起探索AI世界
ZUZU 伴学
登录享无限次提问 · 答案仅供参考
ZUZU答:
亲爱的小伙伴您好,我是ZUZU,有什么可以帮您的?😃

分享到

微信
朋友圈
QQ
QQ空间
微博
抖音
小红书
复制
二维码

实用功能

夜间模式
小字
大字
收藏
目录
笔记
朗读
相关
搜索
我的笔记
文章内搜索
相关文章推荐
正在加载相关文章...

反馈建议

您需要登录后才能填写意见反馈信息

分享二维码

使用手机扫描二维码

操作成功