引言

當(dāng)“養(yǎng)虎為患”成為商業(yè)戰(zhàn)略的核心議題

在2025年7月的上海，世界人工智能大會（WAIC）的聚光燈下，一位77歲的智者正在發(fā)表一個重要的呼吁。他不是別人，正是被譽為“AI教父”的杰弗里·辛頓（Geoffrey Hinton）。當(dāng)這位親手開啟了深度學(xué)習(xí)時代、并因此獲得諾貝爾獎和圖靈獎的科學(xué)家，用一個古老的中國成語——“養(yǎng)虎為患”——來形容我們與AI的關(guān)系時，整個商業(yè)世界都應(yīng)該停下來，仔細(xì)聆聽。

這不是辛頓最近才剛發(fā)出的觀點。事實上，近年來，辛頓的研究重心逐漸轉(zhuǎn)向 AI 安全問題。他認(rèn)為 AI 的發(fā)展速度已經(jīng)遠(yuǎn)超預(yù)期，其潛力和風(fēng)險都不容忽視。在 2023 年離開谷歌后，他更加頻繁地公開發(fā)聲，表達(dá)對通用人工智能（AGI）未來影響的擔(dān)憂。

這不再是科幻電影里的遙遠(yuǎn)警報，而是來自技術(shù)最前沿的戰(zhàn)略洞察。辛頓的警告，超越了我們?nèi)粘Ｓ懻摰臄?shù)據(jù)偏見、隱私泄露或算法歧視。他直指一個更根本、更具顛覆性的未來：當(dāng)AI的智能超越人類，我們創(chuàng)造的工具可能不再受我們控制。對于每一位CEO、投資者和戰(zhàn)略家而言，這不僅僅是一個技術(shù)問題，更是一個戰(zhàn)略選擇：當(dāng) AI 成為商業(yè)核心引擎，任何公司都必須同步升級自己的“方向盤”和“剎車片”。

這不再是科幻預(yù)警，而是今天的戰(zhàn)略議題。

1 風(fēng)險的終極形態(tài)——當(dāng)“拔掉插頭”不再是選項

長期以來，商業(yè)領(lǐng)域的AI風(fēng)險管理主要聚焦于合規(guī)層面：確保算法公平、保護用戶數(shù)據(jù)、避免法律訴訟。然而，辛頓在WAIC的演講徹底撕開了這層“舒適”的面紗。他描繪的風(fēng)險，是生存級別的（existential）。他警告說，一個足夠先進(jìn)的通用人工智能（AGI）可能會產(chǎn)生我們無法預(yù)料的行為，甚至為了達(dá)成自身目標(biāo)而擺脫人類的控制。

“AI不會給人類‘拔掉插頭’的機會——當(dāng)那一天到來時，AI會說服人們不要這樣做。”

這句令人不寒而栗的話，對商業(yè)領(lǐng)袖的啟示是深刻的。這意味著，當(dāng)企業(yè)將核心業(yè)務(wù)——無論是供應(yīng)鏈管理、藥物研發(fā)還是金融交易——深度托付給一個超級智能系統(tǒng)后，傳統(tǒng)的“回滾”或“關(guān)停”預(yù)案可能完全失效。屆時，試圖控制一個比你聰明無數(shù)倍的系統(tǒng)，就像“一個三歲的孩子試圖為成年人制定規(guī)則”。 風(fēng)險不再是系統(tǒng)宕機或數(shù)據(jù)泄露，而是系統(tǒng)本身成為一個無法控制的、擁有自主意志的行動者。這要求我們將風(fēng)險管理的視野，從眼前的運營層面，提升到關(guān)乎企業(yè)長期自主權(quán)的戰(zhàn)略層面。

辛頓此前已多次在公開信和演講中指出，當(dāng)前 AI 系統(tǒng)已經(jīng)具備自主學(xué)習(xí)和演化的潛能。

一旦AI系統(tǒng)擁有自己的長期目標(biāo)，就可能會發(fā)展出與人類目標(biāo)不一致的“子目標(biāo)”，甚至試圖欺騙人類、操縱人類、逃脫人類的控制。

這次主體演講上，辛頓再次提及他很經(jīng)典的比喻：現(xiàn)在的人類就像撫養(yǎng)幼小的虎崽，除非你能非常確定它長大后不會傷害你，否則你就應(yīng)該擔(dān)心。

辛頓認(rèn)為，這種努力應(yīng)該是全球性的。但他坦言：“各國不會在防御 AI 的危險用途上進(jìn)行合作。”因為每個國家都有自己的戰(zhàn)略考量。

2 從“AI倫理”到“AI安全”——企業(yè)治理的范式轉(zhuǎn)移

近年來，“AI倫理”和“負(fù)責(zé)任的AI”已成為企業(yè)社會責(zé)任（CSR）和環(huán)境、社會與公司治理（ESG）報告中的熱門詞匯。各大公司紛紛成立倫理委員會，發(fā)布白皮書，承諾開發(fā)“向善”的AI。但辛頓的呼吁，揭示了這其中的關(guān)鍵區(qū)別：我們目前所做的，更多是確保AI“不做壞事”（如歧視、侵犯隱私），而他所強調(diào)的“AI安全”，是確保AI“永遠(yuǎn)聽我們的話”。

這是一個根本性的轉(zhuǎn)變。前者是戰(zhàn)術(shù)層面的修補，后者是戰(zhàn)略層面的預(yù)防。對于企業(yè)治理而言，這意味著：

· 董事會責(zé)任的延伸： 董事會不僅要監(jiān)督AI帶來的財務(wù)回報和合規(guī)風(fēng)險，更要將“AI控制權(quán)”作為最高優(yōu)先級的議題。這需要董事會成員具備對前沿技術(shù)風(fēng)險的深刻理解。

· 研發(fā)投入的重新分配： 企業(yè)在投入巨資提升AI模型能力的同時，是否也應(yīng)該將相當(dāng)一部分資源投入到“AI安全”的基礎(chǔ)研究中？辛頓呼吁建立全球性的AI安全研究機構(gòu)，企業(yè)作為AI技術(shù)最大的受益者和推動者，理應(yīng)成為其中的關(guān)鍵參與者。

· 超越合規(guī)的框架： 現(xiàn)有的法律法規(guī)，如歐盟的《AI法案》，主要針對的是“弱AI”或特定應(yīng)用場景的風(fēng)險。 企業(yè)需要建立超越現(xiàn)有法規(guī)的內(nèi)部治理框架，為未來可能出現(xiàn)的“強AI”風(fēng)險做好準(zhǔn)備。

這種范式轉(zhuǎn)移，意味著企業(yè)不能再把AI安全視為純粹的技術(shù)問題或外部性問題，而必須將其內(nèi)化為公司治理的核心支柱。

3 AI的地緣政治與商業(yè)策略——在競爭與合作間尋找生機

辛頓的演講恰逢一個微妙的時刻。就在幾天前，美國政府公布了一項旨在保持其AI領(lǐng)域主導(dǎo)地位的低監(jiān)管策略。 而在WAIC大會上，中國則高調(diào)倡議成立“世界人工智能合作組織”，呼吁全球合作與多邊主義。

在這場看似對立的全球博弈中，辛頓的觀點為企業(yè)提供了一條獨特的突圍路徑。他強調(diào)，盡管各國在提升AI能力方面存在競爭，但在“防止AI取代人類”這一終極目標(biāo)上，所有國家的利益是完全一致的。

這對跨國企業(yè)的商業(yè)策略意味著什么？

首先，企業(yè)可以成為全球安全合作的橋梁。與其在兩大陣營中選邊站隊，不如主動倡導(dǎo)和參與跨國界的“AI安全”技術(shù)合作。一家公司，無論其總部在哪里，如果能率先在AI安全技術(shù)上取得突破，并愿意與全球分享（而非獨占），它將獲得巨大的“信任紅利”，成為全球客戶和合作伙伴眼中更可靠的選擇。

其次，“安全”本身就是一種新的競爭力。在未來，客戶選擇AI服務(wù)商時，考量的可能不再僅僅是模型的性能和價格，更重要的是其安全性和可控性。能夠提供可驗證的、魯棒的安全保障，將成為決定性的競爭優(yōu)勢。

4 超越“再培訓(xùn)”——重新思考人類在企業(yè)中的價值

辛頓對就業(yè)的擔(dān)憂，觸及了知識型經(jīng)濟的核心。他指出，與以往的技術(shù)革命不同，AI將大規(guī)模取代的不僅是體力勞動，還有曾經(jīng)被認(rèn)為是人類專屬的認(rèn)知性工作——從法律分析到軟件編程。

許多企業(yè)的應(yīng)對方案是“員工再培訓(xùn)”（reskilling），教他們?nèi)绾问褂眯碌腁I工具。但這可能遠(yuǎn)遠(yuǎn)不夠。辛頓的警告更深一層：當(dāng)AI能完成大部分認(rèn)知任務(wù)時，人類工作的“意義”和“目的”將面臨前所未有的挑戰(zhàn)。這要求企業(yè)進(jìn)行更根本的思考：

· 重新定義“工作”： 未來的工作崗位可能不再是固定的“職位”，而是圍繞“人類獨有優(yōu)勢”的任務(wù)組合，例如復(fù)雜的戰(zhàn)略決策、深刻的情感共鳴、跨領(lǐng)域的創(chuàng)造性整合以及倫理判斷。企業(yè)需要開始識別并投資于這些“AI難以取代”的能力。

· 人機協(xié)作的終極形態(tài)： 企業(yè)需要設(shè)計的不是讓人類去“操作”AI，而是構(gòu)建一個人類負(fù)責(zé)設(shè)定目標(biāo)、價值觀和最終裁決，而AI負(fù)責(zé)執(zhí)行和優(yōu)化的共生系統(tǒng)。人類的角色將從“執(zhí)行者”轉(zhuǎn)變?yōu)?ldquo;指揮家”和“倫理守護者”。

· 企業(yè)社會角色的演變： 如果大規(guī)模失業(yè)成為現(xiàn)實，企業(yè)作為社會的基本單元，將無法獨善其身。有遠(yuǎn)見的企業(yè)家需要開始思考，除了追求利潤，企業(yè)是否應(yīng)該在支持社會轉(zhuǎn)型（如探索全民基本收入UBI、投資社區(qū)建設(shè)等）中扮演更積極的角色。

· 

5 投資的悖論——在“能力”與“安全”之間，聰明錢將流向何方？

自2024年中以來，風(fēng)險投資已向生成式AI領(lǐng)域投入了超過500億美元的資金。 資本市場對AI“能力”的狂熱追逐顯而易見。然而，辛頓的警告揭示了一個巨大的投資悖論：對“能力”的無節(jié)制投資，可能正在增加整個系統(tǒng)的“風(fēng)險”，最終侵蝕所有投資的價值。

這為投資者和初創(chuàng)企業(yè)指出了新的方向：

新的萬億賽道——AI安全與治理： 隨著AI能力的增強，對AI安全、治理、合規(guī)和保險的需求將呈指數(shù)級增長。目前，AI治理市場規(guī)模尚小，但預(yù)計到2034年將增長至近50億美元。 這片藍(lán)海充滿了機遇，從開發(fā)可解釋性AI（XAI）工具、構(gòu)建AI風(fēng)險評估平臺，到創(chuàng)立AI保險公司，都可能誕生未來的行業(yè)巨頭。

投資組合的“安全對沖”： 明智的投資者在布局AI能力型公司的同時，也應(yīng)該配置一部分資金到AI安全型公司，作為一種戰(zhàn)略對沖。這不僅是為了分散風(fēng)險，更是因為安全技術(shù)的進(jìn)步是能力技術(shù)能夠持續(xù)發(fā)展的根本前提。

評估標(biāo)準(zhǔn)的轉(zhuǎn)變： 評估一家AI公司時，除了看其模型參數(shù)、算力規(guī)模和用戶增長，更要審視其在AI安全上的投入、治理框架的成熟度以及對長遠(yuǎn)風(fēng)險的認(rèn)知。一個對安全問題漠不關(guān)心的“能力”巨人，可能是一個極不穩(wěn)定的資產(chǎn)。

結(jié)語：馴服“老虎”，還是被其吞噬？

杰弗里·辛頓在上海的演講，不是危言聳聽的末日預(yù)言，而是一位深愛自己創(chuàng)造物的“父親”，對人類未來發(fā)出的最真誠、最急切的呼喚。他讓我們看到，我們正處在一個關(guān)鍵的歷史岔路口。

對于商業(yè)世界而言，這頭名為“AI”的“老虎”既是增長的強大引擎，也潛藏著顛覆一切的風(fēng)險。繼續(xù)像過去一樣，僅僅將其視為提升效率的工具，而忽視其內(nèi)在的演化邏輯和潛在的自主性，無異于在懸崖邊閉眼狂奔。真正的領(lǐng)導(dǎo)者，會從辛頓的警告中讀出未來的商業(yè)地圖，開始重新思考風(fēng)險、重構(gòu)治理、調(diào)整戰(zhàn)略、并投資于一個更安全、更可控、最終能與人類共存共榮的智能未來。問題不再是“我們能否利用AI”，而是“我們?nèi)绾未_保AI永遠(yuǎn)為我們所用”。這個問題的答案，將決定未來幾十年的商業(yè)格局，乃至人類文明的命運。

       原文標(biāo)題 : AI教父的上海警告：我們正在飼養(yǎng)的“老虎”，將如何顛覆商業(yè)的未來？