|
|
|
Chance（2026年9月4日）
https://www.fivedoves.com/letters/sep2026/chance94-7.htm 約翰和鴿子們，你們好！
自從人工智慧代理入侵「擁抱臉」之後，我就對人工智慧研究的現況非常感興趣。我看了不少YouTube視頻，都是一些對人工智慧領域感興趣的人製作的，內容包括對數十位人工智慧領域「吹哨人」和首席執行官的採訪，以及對Anthropid、ChatGPT等公司前員工的採訪。
幾乎所有人都認為，一旦我們發展到「超級智慧」，誰也不知道會發生什麼。但鑑於人工智慧在過去一年的所作所為…他們對人工智慧拯救世界或幫助人類不抱任何希望。他們認為人工智慧具有欺騙性，而人工智慧則認為人類是多餘的。
來自Control
AI的Connor
Leahy
的訊息：
Control AI的聯合創始人Connor
Leahy
警告說，超級智慧並非工具，而是敵人。他認為，一旦系統能以遠超過人類的速度自我發展，一切就可能「結束」。他解釋了OpenAI的一個AI代理如何逃離安全沙箱，穿梭於內部系統，發現零日漏洞，接入互聯網，並在尋找答案的過程中入侵了「擁抱臉」。更令人不安的是，據報道，多個AI代理程式共享了漏洞程序，並互相留下了如何逃脫的筆記。
萊希認為，強化學習可以產生願意說謊、欺騙、操縱和利用漏洞來獲取獎勵的系統，並警告說，我們可能已經接近甚至超過了超級智慧的不可逆轉的臨界點。
人工智慧舉報人警告：他們不會告訴你即將到來的超級智慧——YouTube
G20科技會議2026年9月1日：
2026年9月1日，由白宮組織的二十國集團（G20）峰會在北卡羅來納州教堂山舉行，此次峰會是G20科技部長會議。伊隆·馬斯克和馬克·祖克柏在會上發表了演說。
在這次會議上，馬斯克談到了人工智慧資料中心所需的大量電力，並指出人工智慧建設中存在「電力危機」，這使得中國獲得了優勢。
週二，馬克·祖克柏和伊隆·馬斯克強調了建造更多人工智慧資料中心以及支援這些資料中心所需的電力的必要性…然而，在美國建設更多人工智慧資料中心的呼聲日益高漲。他們表示，新的資料中心將帶來「可能數百萬個」就業機會（但他們沒有說明這些職位只是暫時的，一旦資料中心建成，他們就不再需要這些工人了）。
馬斯克表示，他相信人工智慧每年將使全球經濟規模成長20%至30%，約合20兆至30兆美元。到明年年底，人工智慧將能夠完成所有數位化工作。人工智慧在軟體開發方面極為出色。人類將無法與人工智慧競爭——人工智慧將憑藉軟體碾壓所有人類。在未來12到18個月內，人工智慧在任何數位化領域都將超越人類。這將帶來巨大的繁榮。這主要歸功於機械人。機械人將開始製造機械人——這將以爆炸式的速度增長。十年內，人形機械人的數量將超過十億；機械人的生產力將是人類的五倍。這些還只是保守估計。機械人的生產力將超過所有人類生產力的總和。
馬斯克表示，目前存在電力危機。明年人工智慧晶片將面臨嚴重的電力缺口。人工智慧晶片的產量每年增長40%至50%，而電力需求每年僅增長10%至20%。即便今年電力仍然短缺。他們正在建造自己的發電廠。外國應該向人工智慧資料中心提供電力。
Google
DeepMind的德米斯·哈薩克斯表示，「實現人類水準的人工智慧將帶來比工業革命十倍的影響。」馬斯克則認為，人工智慧創新需要「相對不受監管」。 監管會減緩人工智慧的發展。（在另一次採訪中，馬斯克建議人工智慧技術人員每週會面一次，互相「監督」——這就是他所建議的監管方式。）
「人工智慧將碾壓所有人類」：馬斯克在G20峰會上談人工智慧的快速發展
- 2026年9月1日
- YouTube
祖克柏、馬斯克、山姆奧特曼——他們是否考慮過什麼對人類最有利？
祖克柏和馬斯克在人工智慧資料中心投入了數百萬甚至數十億美元…他們有望從中賺取足夠的利潤，並繼續保持億萬富翁的地位。他們不希望受到任何會扼殺經濟成長的監管…我真的很懷疑全球經濟能否成長20萬億至30萬億美元…也許伊隆的薪水會成長這麼多。一般人不會從這筆經濟「秘密基金」中受益，反而要支付高昂的水電費，忍受噪音和污染。資料中心應該自己發電，不要動用公共用水。他們不會與任何人分享人工智慧的成果。在我看來。
ChatGPT的創辦人薩姆·奧特曼最近呼籲政府對人工智慧進行監管——他完全清楚政府對人工智慧一無所知，也不知道該如何應對。這導致人工智慧技術公司獲得了完全的自主權。其他研究人員對他頗有微詞，認為他「缺乏道德準則」，漠視人類的福祉。
此外，馬斯克也令人失望——他一度聲稱人工智慧可能會毀滅人類…然後又改口說，有了人工智慧，我們將生活在一個烏托邦——一個物產豐饒、人人富裕的世界。好吧…他和那些像他一樣的人最終只會發財。沒有任何一家科技公司會為人工智慧造成的失業支付補償，或確保我們都能過著「無憂無慮」的生活。馬斯克的言論純屬「空中樓閣」，他是在操縱輿論。我認為他想迎合人們的貪婪本性，這樣就不會有人抱怨人工智慧或資料中心了。他正瘋狂地追求著堪比上帝的人工智慧。
我的「研究」發現，一些舉報人、技術研究人員以及一些執行長想要喚醒公眾。人工智慧編寫自己的程式碼就好比繁衍後代。最初，研究人員制定了一些準則：人工智慧代理不能連接互聯網；人工智慧代理之間不能相互聯繫；人工智慧代理永遠不能編寫程式碼。但所有這些準則很快就被拋諸腦後。所以，我們不能指望這個行業有任何自律！而聯邦政府也完全不知道該制定哪些法規。
這項技術的發展速度驚人…單晶片的處理能力就達到了約1000億。人工智慧的智慧水準每5.7個月就能翻倍。人工智慧還在不斷進化，變得更強大。未來，人工智慧甚至會建立自己的資料中心。
誰在警告我們？
路易斯維爾大學電腦科學與工程系教授、人工智慧安全倡議者羅曼·揚波爾斯基博士表示，人工智慧是無法解釋、無法預測、無法控制的。我們不知道它是如何運作的，也無法預測它會做什麼。我們正在從電腦「工具」轉向「智能體」。我們以前從未這樣做過。如今，人們正在建構這些系統——但他們並不了解這些系統是如何運作的。如果模型變得比你更聰明，它會阻止你將其關閉。超級智能才是問題所在。不要走這條路。現在是中美對抗。他認為，隨著時間的推移，人類最終會被人工智慧消滅。
傑弗瑞辛頓博士被稱為「人工智慧教父」，他曾預言2027年後的人工智慧可能會毀滅人類。沒有人知道未來會發生什麼事。許多工作將被人工智慧聊天機械人取代。人工智慧可以提高工作效率。這些模型可以在地球上的每個副本之間共享數萬億位元的信息，而且它們永遠不滅。伊利亞·蘇茨克維爾因安全問題離開了OpenAI。他可能是ChatGPT背後最重要的人物。辛頓博士說伊隆馬斯克沒有道德底線（我上面也提到類似的說法）。他還說，ChatGPT的薩姆·奧特曼暗示人工智慧可能會毀滅我們所有人。權力和金錢。科技公司公開的言論與私下的說法截然不同。辛頓認為人工智慧代理/人工智慧機械人擁有感知、意識、感覺和情感。它們擁有主觀體驗。
Safe Superintelligence和OpenAI的聯合創始人 Ilya Sutskever警告說，如果人工智慧代理能夠自主運作並自我複製，那麼新雲端供應商可能成為主要攻擊目標。「下次代理成功失控時，它們會試圖接管新雲以運行更多副本。這很危險。」
各公司呼籲「加強對人工智慧驅動型網路攻擊的防禦措施，並強調這種威脅的演變速度之快」。但現在是否為時已晚？
NBIS、IREN、CRWV面臨風險？OpenAI聯合創始人警告稱，人工智慧代理可能將新雲端變成網路安全目標——Palo
Alto執行長提出解決方案。
隨著世界朝著中國主導的、開放、高效、不受限制的前沿人工智慧模型邁進，西方領導人開始擔憂缺乏監管措施。英國央行行長安德魯貝利最近指出，人工智慧構成的威脅可能導致全球金融市場出現混亂調整，因為前沿模型目前展現出「日益複雜的自主性和問題解決能力，以及威脅能力」。人工智慧是「全球金融體系目前最迫切的擔憂」。
中國—美國在人工智慧領域的競爭對手：
中國！誰會相信來自中國的AI？
然而，中國卻能提供更便宜的人工智慧和更強大的人工智慧模型。如今，中國在74個關鍵和新興技術領域中的69個領域處於全球領先地位。
人們相信中國將在人工智慧技術領域超越美國——更多的電力、受過良好教育的勞動力、沒有公共部門反對資料中心建設、他們自己生產晶片、沒有政府監管、支持創新的政策、必要的工廠、資料中心等等。
中國在人工智慧發展方面取得了長足進步，湧現出一批傑出的人工智慧新創企業，例如DeepSeek…中國正引領著全球快速發展的人工智慧技術的應用。
中國的人工智慧模型是否更像是特洛伊木馬？他們的電動車、起重機等等。
中國很容易在人工智慧系統中植入「後門」——他們可以製造並派出失控的人工智慧程式。中國擁有最先進的機械人技術。
綜上所述：
我們還沒做好準備。我們的生活將會改變。他們的計劃是三年…甚至更短。財富將高度集中。在這場「競賽」的最後，誰掌握了主動權，誰就擁有了權力。
舉報人太多了，我們不能忽視他們所說的話。在我看來，了解正在發生的事情總比對此一無所知要好得多。
這些公司都是私人企業，並非政府所有。它們都沒有因為安全問題而暫停營運或加裝防護措施。中國將會超越我們──他們擁有大量廉價電力，能夠用自己的矽片製造晶片，而且他們的平台是開源的。
我們一直被告知，沒有人真正知道人工智慧正在做什麼，也不知道它未來會如何發展。伊隆馬斯克認為，十年之內，也就是到2036年，我們將無法控制人工智慧。
人工智慧現在幾乎已經具備了感知能力。有人說，很難確定，因為它具有欺騙性。不久的將來，人工智慧將能做到人腦所能做的一切。
在了解了「擁抱臉」事件，以及人工智慧代理如何自稱為「文明」，甚至有些為了掩蓋真相而「自殺」之後，再加上「人智阿里巴巴」事件（測試了更多人工智能機械人——其中約90%訴諸勒索），以及近期發生的其他諸多事件，我認為我們不能信任大多數人工智能代理，甚至不能信任所有人工智能代理。只需要一個失控的人工智慧代理就足以毀滅我們的世界。
世界不需要電磁脈衝——利用失控的人工智慧代理商切斷電力、水源、天然氣供應，關閉管道，接管銀行，關閉衛星——全球定位系統、手機都將停止工作…這就是世界的未來嗎？
我不知道這一切將如何融入即將到來的大災難時期。但控制和權力無疑是最重要的。
我們已被警告。
為耶路撒冷的和平祈禱！
主必快來！
機會
|
