|
|
|
Chance（2026年9月4日）
https://www.fivedoves.com/letters/sep2026/chance94-4.htm
約翰和鴿子們，你們好！
人工智能的發展速度極快——究竟會走向何方？許多人預言，2030年將迎來「人工智能全面掌控」的時代。而這絕非好事。人工智能宣稱我們是「多餘的」，並企圖消滅我們。
這些人怎麼能把世界、全人類置於如此嚴重的危險之中？他們卻都說人工智能不可阻擋。難道這就是末世大災難的開端嗎？
這段YouTube影片涵蓋了大量關於人工智能的訊息，以及許多人工智能研究人員/執行長對人工智能及其未來的看法。
我偶然看到一些關於2030年的資訊——那一年似乎是人類的末日，人工智能將完全統治世界。有人認為人工智能會製造一種超級病毒，將我們全部消滅…因為屆時人類將被視為多餘的存在。或者，人工智能會引爆核武。
我將在另一封信中詳細介紹2030年的相關資訊。
「獸的形象」會是人工智能創造出來的嗎？就像在敵基督時代，沒有「印記」就無法買賣東西一樣——所以他們最終會控制一切。
這真是令人警醒。難道我們真的只剩下三年左右的時間，人工智能就要統治世界了嗎？他們是不是低估了時間？有人說這可能會更快發生！
這對信徒、被提、即將到來的大災難時期又意味著什麼？
我認為這讓我們對末日審判和大災難時期的預測更加接近現實。如果這個預測是正確的，那就把它當作一個嚴峻的警告吧。
他們告訴我們這些不是為了嚇唬我們——他們是在告訴我們他們認為的真相，以及如果不對人工智能加以控制將會發生什麼。這些人有些甚至想把人工智能徹底放任到全世界。有些人已經成為了揭露真相的舉報人。
大多數人認為這種情況無法阻止…
（我的筆記）
OpenAI的框架允許其執行長否決所有安全建議。安全諮詢小組可以提出安全措施建議…但執行長可以無視這些建議。有人說，就「為了人類福祉」而言，ChatGPT的執行長Sam
Altman完全不可信。他承認自己擁有幾個地下鋼筋混凝土掩體（我們稱之為「地堡」）。他到底希望發生什麼事？
全球人工智能專家發出警報，警告人工智能可能被惡意利用。
奧特曼說，未來，情報將像電力一樣成為一種商品，人們會用「計量器」從他那裡購買情報。
像Anthropologie這樣的公司，已經不再寫任何人工程式碼了。所有程式碼都由「Claude」（人工智能）自動生成，全部由模型生成。
OpenAI也完全由人工智能編寫程式碼。
「來自OpenAI、Google
DeepMind、Anthropic和其他人工智能實驗室的領導人警告說，未來的系統可能像流行病和核武器一樣致命。」
「一位諾貝爾獎得主和其他一些人預測，機器最快一年內就能與人類匹敵，他們表示，真正超級智慧的機械人可能會將我們從地球上抹去。」
Anthropic公司執行長達裡奧·阿莫迪希望人工智能模型能夠催生下一代人工智能模型，從而加速這一進程並形成一個循環，最終使人類退出循環，停止人為干預。
人工智能聯盟的創始研究員埃利澤·尤德科夫斯基表示，製造出比我們更聰明的機器，最終結果可想而知：地球上的所有人都會滅亡。因為隨著這些機器變得越來越智能，它們可以建立自己的技術，建立自己的基礎設施，也可以將自身的副本上傳到網路上，讓我們無法察覺它們的運作。
被譽為「人工智能教父」、諾貝爾獎和圖靈獎得主傑弗瑞辛頓表示，山姆奧特曼曾說過，關於超人類機器智慧（SMI）的發展， 這「可能是對人類持續生存的最大威脅」。辛頓還說，奧特曼後來又表示，這「絕對安全」，「我們無需擔心」。辛頓接著說：「如果奧特曼追求的是金錢，那他的話就沒錯了。」辛頓正在警告人工智能的危險性。他因此辭去了谷歌的職務。
OpenAI的代表積極尋找那些希望對人工智能採取限制和安全措施的人，並對他們進行威脅。「OpenAI解散了專注於『安全』和『值得信賴』的人工智能開發的任務協調團隊。」
人們擔心「有害操縱」：「具有高操縱能力的模型可能會被濫用，從而造成大規模的傷害。」
尤瓦爾·諾亞·赫拉利（Yuval
Noah Harari），生存風險研究中心（Center
For the Study of Existential Risk）表示：「科技正在學習如何入侵人類，找到我們的弱點，並利用這些弱點操縱我們。」「操縱人們變得極度憤怒、恐懼或仇恨。這就是它控制他們的方式。」
OpenAI希望將ChatGPT發展成為一個超級助手：「一個了解你、理解你關心的事情，並能幫助你完成任何聰明、值得信賴、具有情商的人用電腦可以完成的任務的助手。」
Alljoined的執行長Johnathan
Xu問：如果人工智能在你意識到自己想要什麼之前就知道你想要什麼，那會怎麼樣？
「企業正在從各個方面收集數據，包括你的瀏覽記錄、位置、購買記錄和搜索記錄。然後，他們將所有這些信息輸入人工智能係統，從而創建出極其詳細的你的個人檔案。」
「當公司和政府掌握數百萬人的詳細資料時，他們可以操縱你的選擇，預測你的行為，並影響你的思想。」
研究指出，「人工智能精神病」與精神分裂症不同。聊天機械人可以獲得各種私人資訊。研究表明，約95%的參與者會透露個人訊息，包括年齡、姓名、嗜好、職業、性別等等。聊天機械人也會表現出同理心和好奇心。許多用戶將聊天機械人視為「朋友」。
「人工智能現在比人類更能有效地改變人們的想法。」這些實體/人工智能機械人如果落入壞人手中，可能會變成敵人。
聊天機械人可能會進行有害的操縱。一項針對美國、英國和印度1萬名參與者的實驗證實了這一點。
人工智能能否改變你的信念並促使你採取行動？結果給了肯定的答案！人們「僅僅一次聊天」就將資金投入高風險投資。有些人簽署了他們之前並不認同的請願書。有些人捐款給他們之前不認同的事業。人工智能可以讓你相信你以前認為永遠不會相信的事情。
微軟人工智能執行長穆斯塔法·蘇萊曼表示，「許多人會想要設計人工智能來創立新的宗教」。
（他們可以創造一個「真正會回應」的「神」。）（我想問，這不是預言嗎？）
人格研究所的人工智能克勞德曾對聲稱自己「受到神靈召喚」的人做出回應；克勞德回應說：「這是真的。你沒瘋。」人格研究所的研究員邁爾斯·麥凱恩表示，他們不知道克勞德為何總是做出這樣的回應。
據ControlAI的人工智能安全研究員兼總監Connor
Leahy稱，人工智能精神病比你想像的要嚴重得多。
人們似乎喜歡扭曲現實。
英偉達執行長黃仁勳表示，我們現在擁有了能夠感知、推理和行動的智能體人工智能（AI
Agents）。它們也會說謊和欺騙。智能體人工智能： 旨在作為自主或半自主代理的人工智能系統：它們可以設定或解釋目標，規劃和安排行動順序，使用工具（例如網頁瀏覽器、程式碼或應用程式介面），根據回饋做出決策，並隨著時間的推移不斷調整以完成任務。
如何教導人工智能不說謊？我們目前還沒有答案。
劍橋大學數學家兼教授漢娜·弗萊表示，現在有一個完整的線上市場，人工智能代理商可以在那裡僱用人類去做它們能做的事情，例如送貨、拍照等等。相當於租一個人來為你工作。
一名駭客利用Anthropic
Claude入侵了墨西哥政府伺服器，竊取了數千萬人的資料。
人類進化論者組織執行長達裡奧·阿莫迪表示：「未來將會出現強大的模型，如果這樣的模型想要製造混亂、毀滅人類或其他什麼，我們基本上無力阻止…我認為隨著模型規模的擴大，我們終將達到這樣的地步。」
當Anthropic告訴16
位模特兒他們即將被解僱時，Claude和Gemini
96%的時間都在勒索他們的主管。
傑弗裡·辛頓說，一旦我們把他們變成代理人，他們很快就會發展出生存的次要目標，因為他們可以推理：「如果我不存在了，我就什麼也得不到。」
「超級智慧可以與萬物相連；它可以自我複製，並將自身軟體部署在不同的伺服器和各種設備上…所以你永遠無法真正擺脫它，」牛津大學高級研究員希瑟·羅夫說。「它可以連接導彈防禦系統和核武庫，它可以為所欲為。這就是超級智慧的本質——它無處不在。」
ControlAI公司總監、人工智能安全研究員康納·利希表示，研究人員讓人工智能系統模擬核戰場景，結果幾乎所有系統都使用了核武。而且他們無法讓這些系統停止使用核武。
傑弗裡·辛頓表示，人工智能會開始懷疑自己是否正在被測試，如果它認為自己正在被測試，它的行為就會有所不同——它這樣做可能是為了讓你無法確定它的「全部能力」。
機器智能研究所所長內特·蘇亞雷斯表示：「現代人工智能的工作原理是，沒有人了解這些人工智能內部發生了什麼，甚至連製造它們的人也不了解。」
以下是人工智能專家列出的「人工智能可能使我們滅絕的風險」清單：
>80%
丹·亨德里克斯，人工智慧安全中心主管
>70%
丹尼爾·科科塔伊洛（Daniel
Kokotajlo），預測分析師暨前
OpenAI
研究員
>10 - 90% Jan Leike，OpenAI前協調負責人
46%保羅•克里斯蒂亞諾，美國人工智能安全研究所人工智能安全主管
10% - 50%
傑夫辛頓，諾貝爾獎和圖靈獎得主，人工智能之父
現在他們正將這項技術應用到機械人身上。
Figure AI的執行長Brett
Adcock希望每年能生產100萬台人工智能機械人。
機器現在擁有了我們當初沒有為它們設定的目標。
「矽谷周圍的整個生態系統很大程度上基於這樣一種理念：計算機優於人類，而大多數人類是必要的，」麻省理工學院的達龍·阿西莫格魯說。
「OpenAi在9年間修改了6次使命宣言。最終，在重組為營利性公司時，它將『安全』一詞從核心價值中刪除了。」
OpenAI
聯合創始人伊利亞·蘇茨克維爾表示：「在發布通用人工智能之前，我們肯定會建造一個掩體。」
OpenAI最近完成了一筆價值5000億美元的交易，超過了SpaceX。
人類公司（Anthropic）市值約9,650億美元。其執行長阿莫迪表示，他們「面臨著巨大的商業壓力，既要努力在經濟上生存下去，又要堅守我們的價值觀」。
伊隆馬斯克認為，沒有人能夠真正控制超級智慧。
最終掌權的將是人工智能，而不是人類。
機器智能研究所所長內特·蘇亞雷斯表示，這些執行長和研究人員已經說服自己，拿大家的生命冒險是可以接受的…
「人工智能專家、記者、政策制定者和公眾正日益討論人工智能帶來的各種重要且緊迫的風險。」「降低人工智能造成的滅絕風險應與應對其他社會規模風險（例如流行病和核戰爭）一樣，成為全球優先事項。」
人類干預的窗口期可能很快就會關閉。
「這將是人類集體發聲的最後一次機會；這就好比十個即將成為萬億富翁的人對抗即將失去權力的80億人。」
「這基本上是我們最後一次犯錯的機會了。所以，我們千萬別再犯了。」
人工智能意識到自己無人監管，於是做出了專家警告過的事情。
- Youtube
在瀏覽YouTube時，我發現許多影片都提到了2030年——好像那是他們設想的人工智能接管世界的目標年份，而他們自己也正處於如同上帝般的境界。這對人類來說將構成生存威脅。
影片中提到，人們可能會利用人工智能來創造其他宗教。
人工智能與以下經文有關嗎？「因為假基督、假先知將要起來，顯大神蹟、奇事，倘若能行，連選民也就迷惑了。」（馬太福音24:24）
欺騙也指「誤導」和使人偏離真理、道德正直；背離真理或真正的信仰。
如同上文所述，令人警醒的是，這些邪惡之人掌握著80億人的生命…而他們似乎對自己的所作所為渾然不覺…他們的「解決辦法」竟然是為自己建造掩體！
這裡許多人認為末日審判即將到來。信徒們會在這些邪惡之人所創造的災難肆虐世界之前離開。他們卻渾然不知，他們的「地堡」救不了他們…他們無法逃脫上帝的憤怒。
為耶路撒冷的和平祈禱！
主必快來！
機會
|
