AI安全进入实时博弈时代:Google Cloud坦言”我们也在学习中”

导读部分 返回列表

📌 核心观点:在AI时代,安全已经不是"要不要做"的问题,而是"能不能快过攻击者"的问题。连云服务巨头Google自己,也还在应对这个转型。 当AI以指数级速度渗透到企业核心业务,一个被反复追问却始终...

正文内容

📌 核心观点:在AI时代,安全已经不是”要不要做”的问题,而是”能不能快过攻击者”的问题。连云服务巨头Google自己,也还在应对这个转型。

AI安全实时博弈时代 Google Cloud AI安全防护

当AI以指数级速度渗透到企业核心业务,一个被反复追问却始终没有标准答案的问题浮出水面——企业的AI安全到底该怎么做?

最近,Google Cloud COO Brad de Souza在一次公开对话中给出了一个坦诚的回答:没有人完全搞清楚,包括Google自己。

这句话听起来有点令人不安,但仔细想想,反而是目前最诚实的态度。

安全不能再当”事后诸葛亮”

De Souza传递的核心信息,其实是安全领域专业人士多年来一直试图让管理层理解的观点,只是现在AI把它推到了不得不解决的层面:安全不能成为事后才想起来的环节。

“当企业踏上数字化转型之旅时,安全问题必须从一开始就嵌入到系统和流程中。”De Souza强调。

他特别警告了”影子AI”(Shadow AI)的风险——员工在组织缺乏监管的情况下,私自使用消费级AI工具。这种现象在ChatGPT等工具普及后变得尤为普遍,员工用个人账户处理工作数据,企业浑然不知。

💡 划重点:企业需要从工具层面要求安全性、可治理性和可审计性,而不是指望员工自觉遵守规则。

威胁速度已从8小时压缩到22秒

De Souza还指出,威胁格局已经发生了根本性变化,传统的防御模型太慢了。

一组触目惊心的数据:从初始入侵到攻击下一阶段的平均时间,已经从8小时缩短到了22秒。

AI安全威胁速度从8小时缩短到22秒 机器速度对抗

与此同时,攻击面已经远远超出了传统IT边界——API接口、AI模型、第三方插件、员工终端……每个入口都可能是突破口。

他特别提到一个容易被忽视的威胁:AI Agent在穿越企业内部系统时,可能会发现多年无人问津的”僵尸数据仓库”。这些被遗忘的数据资产,一旦被恶意Agent发现,可能造成比预想严重得多的后果。

以机器速度对抗机器速度

面对如此严峻的形势,De Souza给出的解决方案是:以机器速度应对机器速度。

“我们现在正在见证AI原生、全自主防御体系的出现。组织可以部署AI Agent来驱动防御系统。”他说。

换句话说,当攻击者在利用AI加速攻击时,防御方也必须用AI来加速防御,这是一场双方都在加速的军备竞赛。

平台本身也在经历阵痛

不过,故事的另一面同样值得关注:就在Google Cloud高管谈论企业安全的同时,Google Cloud自身也正面临安全质疑。

据The Register报道,近期有多位Google Cloud开发者遭遇了API密钥泄露导致的巨额账单事件。有的开发者在30分钟内被扣费超过1万美元,而更让人担忧的是,Google的自动系统根据账户历史记录升级了他们的账单层级,使其有效额度上限高达10万美元——整个过程完全没有经过用户明确同意。

值得注意的是,Google自己的新一代凭证格式(如服务账户API凭证)能在约5秒内完成撤销,Gemini的AQ前缀密钥格式也没有同样的问题。这说明技术上是有解决方案的,问题在于全面推广和应用需要时间。

总结一下

其实AI安全的困境很形象:我们都在边飞边造飞机。

对于企业来说,以下几点值得现在就开始行动:

  1. 排查影子AI:了解员工正在使用哪些AI工具,制定明确的使用政策
  2. API密钥管理:建立完善的密钥轮换和监控机制,设置合理的预算告警
  3. Agent安全管理:随着AI Agent在企业内部的应用增多,需要对Agent的行为进行监控和权限控制
  4. 安全前置设计:在新系统或新功能上线时,安全必须是一开始就考虑的问题,而不是后补的补丁

总的来说,AI安全不是某个供应商能单独解决的问题,而是整个行业需要共同面对的挑战。 Google作为平台提供商的坦诚——承认自己也在学习——也许恰恰是这个行业最需要的态度。

本文出自 AI一族,原文链接:https://www.aiyizu.cn/?p=2863

转发请注明出处,禁止未经允许用于任何商业用途。

文章评分

这篇文章对您有帮助吗?

🤖 随时召唤ZUZU陪你一起探索AI世界
ZUZU 伴学
登录享无限次提问 · 答案仅供参考
ZUZU答:
亲爱的小伙伴您好,我是ZUZU,有什么可以帮您的?😃

分享到

微信
朋友圈
QQ
QQ空间
微博
抖音
小红书
复制
二维码

实用功能

夜间模式
小字
大字
收藏
目录
笔记
朗读
相关
搜索
我的笔记
文章内搜索
相关文章推荐
正在加载相关文章...

反馈建议

您需要登录后才能填写意见反馈信息

分享二维码

使用手机扫描二维码

操作成功