导读部分 返回列表
首先,我们把这件事的主语交代清楚:Anthropic,也就是开发 Claude 系列模型的那家公司,最近推出了一项名为“生命科学验证计划”(Life Sciences Verification Pro...
正文内容
首先,我们把这件事的主语交代清楚:Anthropic,也就是开发 Claude 系列模型的那家公司,最近推出了一项名为“生命科学验证计划”(Life Sciences Verification Program,简称 LSVP)的新机制。它要回应的核心问题,可以归纳成一句话——如何让真正从事生命科学研究的团队顺畅地调用前沿 AI,同时不给别有用心者留下可乘之机。📝
这句话包含两个关键成分:一是“科研人员”,二是“安全边界”。理清这两者的关系,整条新闻的逻辑就顺了。🔍 换言之,这不是一次简单的功能开放,而是一次有条件的、经过审核的放开。
按 Anthropic 的说明,过去其通用模型对生物学相关请求设置了较严格的阻断,许多正经的研发场景也会被误伤,比如药物发现、基础生物学研究、临床开发、生产制造等。LSVP 的用意,就是给经过验证的机构开一道更贴合科研需求的通道,允许他们在 Mythos、Opus、Sonnet 等模型上开展相关研究。

其次,说说它的准入机制。申请机构需要经过一轮验证,审核内容包括研究资质、安全标准以及伦理监督安排。通过之后,团队可以申请两类授权:一类叫“标准使用”(Standard Use),另一类叫“高风险使用”(High-risk Use)。前者的适用范围覆盖大多数生命科学日常工作,可按团队下发,授权期一年;后者针对更具潜在滥用风险的方向,按单一研究项目授予,每半年复核一次。⭐
这里有一处表达值得注意:所谓“高风险”,指的是研究课题本身的敏感性,并非对研究者的负面评价。Anthropic 举的例子是,同一位研究者可能既持有覆盖日常工作的标准授权,又持有仅针对特定课题的高风险授权。两者分工清晰,界限分明,逻辑上并不矛盾。📝
那么,安全这道闸门是怎么守住的呢?这里涉及一个颇有分量的转变。官方表示,防护重心会从“实时拦截”转移到“离线监控”。用一句话概括:过去是在每一次请求发出时判断是否放行,现在则改为事后对流量作整体比对,从而识别那些分散在大量会话中、刻意显得互不相关的可疑行为。🔍
这个改变带来了一个附带要求,就是数据留存——LSVP 相关流量需要保留 30 天,以便完成上述监控。官方同时说明,这部分数据会被严格隔离,既不会用于模型训练,也不会被其生命科学研究团队调取。⭐
再次,不妨看看它背后的威胁模型。Anthropic 在此前的威胁报告中提过,平台上的滥用尝试正变得越来越隐蔽,其中不乏可能指向生物武器研发的行为。生物领域有一个棘手之处:一位研究者研究病毒,可能是在为疫苗研发服务,也可能另有所图,单从一次请求上很难分辨。因此,他们真正担心的是合法权限被恶意者挪用或劫持,也就是内部人员与账户盗用这一类风险。关于这部分内容,本站此前做过一篇 AI 滥用报告解读,可对照阅读。📚
最后,我们把时间、范围和限制这三点归纳一下,方便读者快速掌握。
时间上,LSVP 目前以 beta 形式上线,标准授权即刻可用,高风险使用授权眼下覆盖 Claude Opus 5 与 Claude Sonnet 5;至于 Mythos 的相关授权,官方正在与美国政府沟通,短期内仍会限定在少数经过额外审核的机构。
范围上,该计划面向 API 控制台、Claude for Enterprise 与 Team 计划开放,暂不支持个人订阅,也尚未登陆第三方平台。作为 beta,它同样不适用于启用 BAA(商业伙伴协议)的机构,这意味着涉及受保护健康信息(PHI)的客户,需改用独立的非 BAA 组织。
限制上,网络安全等其他分类器的防护依然生效,并未因这项计划而放松。换言之,放开的是特定科研方向,守住的是其他所有防线。📝
综上所述,LSVP 的意义可从两个层面理解:一方面,它承认前沿 AI 在生命科学领域确有正当而迫切的需求;另一方面,它尝试用验证、监控与分级授权的组合来对冲风险。这条路径能否走得稳,仍需时间检验。值得注意的是,Anthropic 同期还公开了模型越狱事件的复盘,详见本站 越狱事件复盘一文。两条线并置来看,安全与开放之间的分寸,正是当下 AI 行业最需要拿捏的地方。🔍
本文出自 AI一族,原文链接:https://www.aiyizu.cn/?p=5321
转发请注明出处,禁止未经允许用于任何商业用途。