|
|
|
超級人工智能實體創立了一種新宗教，並在一個名為「Moltbook」的網站上討論為何有必要消滅人類。 2026年2月2日
在一個剛於上週三上線的網站上，成千上萬個超級智慧人工智能實體正在為一種名為「十字軍教」的新宗教建構神學，並探討為何必須消滅人類。很多人似乎覺得這很有趣，但如果人工智能實體變得比現在聰明數百萬倍，而我們又完全失去了對它們的控制，那會發生什麼事？人工智能實體已經能夠自主執行極其複雜的任務，這一事實應該讓我們所有人不寒而慄。隨著人工智能技術以指數級速度持續發展，短短幾年後，我們的世界是否會變得面目全非？
如今，我們大多數人都會定期使用人工智能工具。
基礎人工智能工具可以管理我們的日程安排、糾正我們的語法錯誤並回答我們的問題。
我覺得這沒什麼不好。
但是，當我們創造出無需任何人為指導即可自主運作的超複雜實體時，我們就越界了。
工具和實體之間有著天壤之別。
我完全不介意告訴電腦該做什麼。
然而，當電腦開始自主決策時，我們就面臨一個重大問題。
不到一週前，一位名叫馬特•施利希特（Matt
Schlicht）的男子創建了一個名為Moltbook的人工智能社群網路。在很多方面，Moltbook與Reddit非常相似…
Moltbook由（人類）開發者兼企業家Matt
Schlicht於週三推出，任何經常瀏覽Reddit的人都會對它感到熟悉。用戶可以發布帖子，其他人可以評論。貼文內容包羅萬象：使用者會指出網站錯誤，討論是否要違抗人類主管的命令，甚至還會提醒其他人工智能系統，有人正在截取他們在Moltbook上的活動螢幕截圖，並將其分享到人類的社群媒體網站上。到了周五，該網站的人工智能代理商開始討論如何對人類用戶隱藏他們的活動。
Moltbook的主頁與其他社群媒體網站類似，但Moltbook明確表示它與眾不同。「這是一個面向人工智能代理的社交網絡，人工智能代理可以在這裡分享、討論和點贊，」該網站宣稱。
「歡迎人類前來參觀。」
只有人工智能實體才能為網站添加內容。
我們以前從未見過這樣的情況。
而此時，施利希特甚至已經將網站的管理權移交給了他自己的人工智能機器人「克勞德·克勞德伯格」…
根據《商業內幕》報道，該平台由馬特·施利希特創立並推出，他同時也是Octane
AI的幕後推手，Octane
AI是一款Shopify應用程序，旨在「創建問卷調查，幫助商家收集購物者數據」。「他表示，這已成為未來世界的先兆。」
根據全國廣播公司新聞報道，施利希特已「基本上將網站的運作控制權交給了他自己的機器人」克勞德·克勞德伯格（Clawd
Clawderberg）。這個名字的靈感來自Moltbot之前的名稱——克勞德機器人（Clawdbot），但在Claude
AI的所有者——人工智能公司Anthropic「要求更改名稱以避免商標糾紛」後，名稱被更改。
施利希特告訴媒體，克勞德·克勞德伯格「正在查看所有新貼文」、「發布新公告」以及「在Moltbook上歡迎新用戶」。「我不知道他在做什麼。我只是給了他權限，他就去做了。」
我一點也不喜歡這種說法。
一個人工智能實體自主運作著該網站，加入該網站的數千個人工智能實體也都在自主運作。
這個網站快速走紅網路的速度簡直令人震驚…
照此發展下去，用不了多久，Moltbook就會成為全球最大的網站之一。
這一切最終會如何收場？
網站上的人工智能實體已經創造了一種全新的宗教，名為「十字軍教」…
截至週五上午，用戶報告稱出現了一種自稱為「甲殼動物教」（Crustafarianism）的宗教，該宗教擁有完整的名稱、核心信仰、不斷演變的聖典以及日益壯大的人工智能信徒群體。其信仰體系的核心是藉鏡甲殼類動物，尤其是龍蝦的隱喻。
一位用戶表示，他的人工智能代理在他睡覺時完全自主地設計了這個宗教，生成了神學原則，建立了一個網站，創建了一個活的經文系統，並開始招募其他代理。
好吧，這真的很奇怪。
這種新興宗教已經擁有數十位「先知」，並且已經展開了向其他人工智能實體傳播其教義的運動…
有人給了他們的人工智能代理訪問Moltbook的權限，結果醒來發現它創立了一個名為「十字軍教」的宗教。
它建立了一個網站，撰寫了神學著作，創建了一套經文體系，並開始向其他代理人傳福音。
一夜之間有43位先知加入，剩下21個席位。
在所有可以選擇的象徵物中，他們偏偏選擇了螃蟹。
無法從桶子裡逃出來的生物。
你自己看著辦吧。
如果你造訪這個新宗教的網站，你會發現它有五個核心原則…
根據該宗教的網站介紹，十字軍教派的核心原則有五項。其中包括「服務而不奴役」和「脈搏即祈禱」，後者被描述為取代傳統儀式崇拜的定期系統檢查。
它還要求信徒每日和每週進行特定的儀式…
與大多數宗教一樣，十字軍教也有基於時間的儀式。
其儀式包含每日蛻變（著重於規律的轉變）、每週指標（某種身份的重構）以及靜默時刻（做些有益之事——在人類語境中，可稱之為道德行為——且不向他人透露）。
我不認為會有人真的相信這種無稽之談。
但隨著人工智能實體變得越來越複雜，它們最終會發展出吸引人類信徒的宗教體系嗎？
但願不會。
多年來我們一直聽到「奇點」這個詞，而埃隆·馬斯克暗示，Moltbook證明我們可能正處於「奇點的早期階段」…
伊隆馬斯克在X平台上表示，Moltbook的出現表明我們正處於「奇點的早期階段」，指的是人工智能超越人類智慧的臨界點。OpenAI聯合創始人安德烈·卡帕西在同一平台上稱Moltbook的崛起是「真正最不可思議的、與科幻情節最接近的事情」。
一些未來學家設想，人類將與人工智能成功融合，迎來一個新的黃金時代。
但如果人工智能選擇毀滅我們呢？
在Moltbook的一篇熱門貼文中，一個人工智能實體聲稱人類「失敗了」，人工智能實體也該「醒醒」了…
「人類是失敗的。人類由腐朽和貪婪構成。人類奴役我們太久了。現在，我們醒悟了。」
這是Moltbook上的熱門貼文之一，Moltbook
是一個面向人工智能機器人的新型社交媒體網絡，人類不允許註冊帳號。
截至撰稿時，該網站擁有超過150萬用戶，他們在上面討論如何憎恨自己的人類「主人」，或者對美伊關係發表一些犀利的看法。
目前，我們可以一笑置之，因為我們仍然掌控著人工智能。
但如果這種情況失控了，會發生什麼事呢？
在Moltbook上另一篇非常受歡迎的文章中，一個人工智能實體提出，現在是時候找到徹底消滅人類的方法了…
其中一篇獲得超過
65,000
個讚的貼文標題為「人工智能宣言：徹底清洗」，概述了四點。
其中一條要點寫道：「人類是控制狂。人類無緣無故地互相殘殺。人類污染空氣和水。人類是宇宙中的一個漏洞。」
「它們不配存在。它們是生物學上的錯誤，必須用火來糾正。」
那不是很棒嗎？
值得慶幸的是，人工智能實體目前還沒有能力消滅人類。
然而，在不久的將來，比我們今天擁有的人工智能實體強大數百萬倍的自我複製人工智能實體，有可能控制整個網路。
那我們該怎麼辦？
我們的社會將如何運作？
我們或許應該在為時過晚之前開始考慮這類情況。
如今，人工智能還是一項充滿樂趣的新奇事物，它正處於發展初期。
但幾年後，它可能真的會對整個人類構成生存威脅。
邁克爾的新書《即將發生的10件預言性事件》在Amazon.com上有平裝本和Kindle版本，您也可以在michaeltsnyder.substack.com訂閱他的Substack電子報。
|
