杞人憂天 · AI 末世版

[lfe634]

有一個海華(絕不影射任何人，就說我自己吧)，天天看新聞、社群、時政視頻與 AI 發展的網文。
一天他忽然大悟：「完了。AI 必然覺醒，社會失控大亂!」
於是他睡不好，上不好班，電郵不好好回，每天刷末日推文刷到凌晨三點，心神俱疲，人生停擺。

他有一個朋友 A，是圈內人士，看他很可憐，就開導他說：「你不用怕。AI 只是大型語言模型，根本沒有我們人腦這樣的長期記憶。他只是統計學，是矩陣，是 token，是向量空間。科技沒有意識，沒有動機，沒有野心。你每天發信，它幫你補字，你用地圖導航，它幫你做路線規劃。我們的生活早就充滿了AI。AI 若要滅世，早就滅了。」

海華說：「可是它越來越聰明，哪天不就要覺醒？」

朋友 A 說：「覺醒也不會害到你。你公司又不是核武控制室，是重點打擊目標。」

海華聽了很受用，正要謝謝朋友 A 開導，忽然 朋友 B 一個建模的在旁邊冷笑：「你們兩個都太天真。文明已經走向老化。你看那些假大空話叫得響，實際上貧富差距還在增加，產業還在空心化。人腦不行，到時候必定動用 AI 來運算治理，降維打擊，失控是大概率事件。到那一天，工作沒了、秩序沒了、文明沒了，我們一個也跑不掉。」

海華與朋友 A 聽了，都不安起來。這時朋友 C (那個穿越兩千年的列子) 來了，他說:
「說 AI 一定毀滅文明的，說 AI 一定不會毀滅人類的，都是無聊人。它會不會，什麼時候會毀滅文明，都不在你我能修的尺度裡。你們三個還是回去吧，馬照跑，舞照跳，班照上！」



最搞笑的是，這篇文章是我剛剛請 AI 寫的!

根據 chatgpt 他自己(5.2)，我們可以只看這五條封印，一條條解開的時候再憂慮：

• AI 記得自己是誰
• AI 自己決定要什麼
• AI 開始自己改自己
• AI 開始為明天做安排
• AI 開始跟你搶東西

 

[tw]

LLM 本身没有记忆，只能处理 RAG 提供的有限 token，现在还远远不够成熟。东抄西凑。

当前的 AI 是长期技术积累的成果，应用价值和潜力都很明显，但技术演进仍处于早期阶段，与「末世」相距甚远。

人类起源依然成谜；然而，一旦人类能够创造出对自身构成降维打击的 AI，便意味着我们在某种意义上已超越了创造我们的存在——而这仍是一个相当遥远的未来。