虎嗅

新加坡专家:人工智能时代,警惕“坏土壤”种出“毒果实”

核心内容总结

这篇文章围绕AI全球化带来的风险与治理展开,核心观点是:AI产业链已跨越国界,单一国家无法单独管控;数据不是“石油”而是“土壤”,其质量和动态流动直接影响AI安全;生成式AI可能用劣质数据产出看似可信的内容,导致错误信息代代传播;治理重点需从静态数据集转向动态数据流;国际社会应建立最低治理共识,而非统一规则,以保障AI安全可信发展。

一、AI全球化:跨境风险让单一国家“管不住”

AI竞赛已经变成了一场“全球接力赛”:一个AI可能在美国研发,用欧洲的服务器运行,调用印度的数据,最后影响中国用户。这种“研发在A国、硬件在B国、数据在C国、影响在全球”的模式,让任何国家都没法单独管住整个产业链。比如,假设某AI在日本训练时用了有偏见的数据,然后在澳大利亚上线服务,导致当地用户被误导——日本管不了澳大利亚的使用,澳大利亚也管不了日本的训练数据,这时候就必须各国坐下来协调。但协调的前提是先搞清楚“管什么”:是管AI研发者,还是管数据提供者,或是管使用AI的企业?不明确对象,协调就是空谈。

二、数据不是石油,是AI的“土壤”

我们常说“数据是石油”,但这个比喻其实不对:石油用一点少一点,还得花钱挖;数据却能无限复制,很多时候是我们无意中免费给出去的(比如刷手机时留下的浏览记录)。更准确的比喻是“土壤”——AI就像作物,没有土壤长不出来,土壤的质量(数据好坏)、来源(数据哪里来)直接决定作物的健康。如果土壤被污染(比如数据有错误、偏见),不仅这棵作物长不好,污染还会蔓延:错误数据可能被其他AI当作“肥料”,导致更多问题。所以,要让AI健康发展,就得像呵护土壤一样持续维护数据环境。

三、生成式AI的“伪装术”:错误信息会代代传

以前计算机界有句话叫“垃圾进,垃圾出”——输入烂数据,输出肯定烂。但生成式AI(比如ChatGPT)打破了这个规律:用劣质数据训练的AI,能生成听起来头头是道、甚至像专家写的内容,但内容其实是错的。比如,AI用错误的历史资料生成一篇“权威”文章,用户信了转发,甚至被其他AI当作正确数据来训练,错误就像种子一样,在新的“土壤”里生根发芽,代代相传。这种“看似可信的错误”比明显的错误更危险,因为人们容易被迷惑。

四、治理重点变了:从“检查数据集”到“管动态数据流”

早期AI治理只关注训练数据:有没有偏见?是不是合法获取?质量够不够?但现在的AI不一样了——它能实时联网查信息、记住你的对话、甚至帮你改文档、买东西。比如,你用AI聊天机器人时,它会根据你之前说的话调整回答,还能调用外部数据库更新信息。这时候,静态的“一次性数据集检查”没用了,得管“动态的数据流”:AI能访问哪些信息?能推断出你什么隐私(比如你的情绪、弱点)?能把信息传给谁?能做哪些行动(比如修改你的银行记录)?用户得心里有数,甚至需要和AI签“数字婚前协议”——提前说好关系结束时,AI要删除哪些你的数据。

五、国际治理:不搞“统一规则”,但要“最低共识”

各国法律、价值观不一样,想搞一个全球统一的AI监管机构或规则几乎不可能。但可以达成“最低共识”:比如数据来源要合法、AI要经过安全测试、出了问题要能追溯责任、开发者和使用者要明确分工。就像航空业,每个国家有自己的监管,但都遵守国际安全标准,这样飞机才能跨境飞行。AI也一样,如果各国规则不兼容,企业要应付不同国家的合规要求,用户可能因为“管辖权缝隙”(比如AI在A国违法,但A国管不了B国的企业)而权益受损。所以,国际协调的关键是“互操作性”——规则能互相配合,让AI在全球安全运行。

最后,文章用了一个形象的比喻:治理不是“停车标”(阻止创新),而是“安全带”(让创新更安全)。AI要发展,不能完全消除风险,但可以通过管数据、明责任、建共识,让它在安全的轨道上跑起来。毕竟,健康的AI土壤,才能长出真正有用的“作物”。