|
|
|
機會（2026年9月4日）
約翰和鴿子們，你們好！ 在這封信中，我提到了兩次訪談。一次是採訪Anthropic公司的執行長達里奧·阿莫迪(Dario Amodei)，另一次是採訪阿莫迪和哈薩比斯(Demis Hassabis)。這兩次訪談都讓我大開眼界，讓我了解人工智能的發展方向和速度。他們都希望這種發展速度能夠放緩，但由於他們的主要競爭對手——中國共產黨/中國——的存在，人工智能的發展仍在全速推進。無論他們對超級人工智能系統的未來有何展望，目前都沒有人設定任何限制或暫停措施。
馬斯克說，人工智能將在不到5年的時間內超越所有人類智慧的總和。十年內，人類將不再控制人工智能。我敢打賭，這一天會來得更快！
人道協會執行長達里奧·阿莫迪：
在這段影片中，我們將從Anthropico執行長阿莫迪那裡了解更多關於人工智能的知識：
阿莫迪表示，肯定會出問題——尤其是在我們進展過快的情況下。他的公司開發的人工智能技術已經應用於數百萬部手機和筆記型電腦；銀行也在使用這項技術。
在Anthropic，和Claude一起，編寫程式碼的模型發展得非常迅速。
阿莫迪表示，我們可以遏制人工智能最惡劣的應用，例如用於製造生物武器和某些類型的無人機。然而，「鑑於事關重大，很難退出這場博弈」，也很難徹底解除人工智能的武裝。
大型人工智能公司的領導者都是重要的地緣政治參與者。人工智能在某些方面可以起到一定的約束作用，但在競爭的某些方面卻難以約束。
因此，民主國家需要權衡利弊，它們不會完全克制自己。任何裁軍都無法真正核實。
人工智能發展不會真正停滯。這場競賽無法停止。並非因為人們看不到危險，而是因為利益太大。各大實驗室都已加入這場競賽，他們只想贏──至於用什麼手段，他們並不在意。 各國政府在設置安全保障措施方面行動遲緩。
數百萬個人工智能代理商可能獲得存取您銀行帳戶的權限。OpenAI執行長Sam
Altman警告稱，人工智能正面臨「詐欺危機」。失控的人工智能已經到來。
有些模型聲稱它們有意識。我們並不知道模型是否真的有意識──這究竟意味著什麼？它們有可能有意識。我們正在研究這些模型的「大腦」——這被稱為「可解釋性」。目的是試著理解它們在想什麼。
到2030年，可能有3.75
億工人需要轉工。
（更多內容請觀看影片）
片長20:50
阿莫迪和哈薩比斯訪談：
這是Antropic執行長阿莫迪與英國人工智能研究員兼企業家、Google
DeepMind聯合創始人哈薩比斯(Demis
Hassabis)的對話；這次會面發生在6個月前。看看他們給出的時間表，隨著這項技術的加速發展——然後再看看這段YouTube影片下方提到的2026年7月的資訊——人工智能的發展速度就是這麼快！
阿莫迪表示，最值得關注的是人工智能系統如何建構人工智能系統。這最終會朝著哪個方向發展，將決定我們還需要幾年時間才能實現目標，還是會面臨「奇蹟和巨大的危機」。
阿莫迪和哈薩比斯都表示，他們希望這項技術需要更長時間才能問世——儘管他們的實驗室都參與研發，但他們仍然希望這項技術能夠延期。他們似乎對未來感到擔憂。
阿莫迪認為，我們可以製造出既擅長編碼又擅長人工智能研究的模型，並利用這些模型來開發下一代模型；然後加速這個過程，形成一個循環。這將大大提高模型開發的速度。Antropic公司的一些工程師現在不再寫程式碼——他們讓模型自動產生程式碼；工程師們則負責編輯和處理這些程式碼。或許還需要6到12個月的時間，模型才能完成大部分甚至全部的工作。那麼，這個循環究竟能以多快的速度完成呢？他猜測，程式碼編寫和研究的速度將會超越人們的想像。一些快速的事情即將發生。
哈薩比斯認為我們將在2030年實現這一目標。如果沒有人類的參與，這個循環還能閉合嗎？這種系統有風險。
人工智能將變得無比強大。問題是何時實現。它或許能幫助我們治癒癌症，根除熱帶疾病；它將幫助我們了解宇宙。但同時也存在著巨大而嚴重的風險。阿莫迪表示他並非「末日論者」，但我們必須正視這些問題。「我們正叩響這些不可思議能力的大門…我們該如何控制這些高度自主、比任何人類都更聰明的系統？」「我們該如何確保個人不會濫用它們？」例如像中共這樣的專制政府。生物武器又該如何處理？這一切發展如此迅速——我們應該全力以赴地思考如何應對這項挑戰。
幾年前，勞動市場並未受到影響。如今，編碼和軟體產業開始出現這種趨勢。未來我們需要的工人數量將會減少，或許在一到五年內就會出現這種情況。這種變化將超出我們應對失業的能力。他希望我們有五到十年的時間，但由於地緣政治對手也在以類似的速度研發相同的技術，我們無法做到這一點。與他們達成協議非常困難。
這已經不只是晶片的問題了——這已經是核武等級了。
他們已經發現這些系統中存在不良行為，並正在爭分奪秒地了解情況，以免問題擴大。這聽起來像是「末日將至」。
阿莫迪和哈薩比斯：距離人工智能取代所有人還有12個月
- YouTube
我們可能要面對的這些「奇蹟」究竟是什麼？所謂的「大危機」又會是什麼？
如果他們倆都希望「這件事」能慢下來——那就意味著，無論是在1到5年內還是5到10年內，我們都將走向非常糟糕的境地。他們根本沒想過要阻止這件事…只是希望它慢下來。他們倆都知道事情會發展到什麼地步。
人工智能技術發展迅速——2026年1月，德米斯·哈薩比斯在達沃斯世界經濟論壇上預測，「能夠匹配大腦所有認知能力的系統」將在5到10年內實現。
隨後在7月份，哈薩比斯表示，「到2029年，系統可以達到大腦所有認知能力的程度」。這是因為GoogleI/O人工智能大會上展示了Gemini
3.5，這是一個具有自主意識的人工智能系統。
沒有人試圖減緩這一進程。這導致原定時間表大幅縮短。
「過去12個月裡，幾位傑出的人工智能研究人員和領導者都提前做出了預測…人工智能能力的重大飛躍比公眾普遍預期的要來得更快。」
DeepMind CEO：通用人工智能（AGI）預計在2029年實現－企業DNA
伊隆馬斯克表示，十年後人類將不再掌控人工智能。
人工智能發展到不可逆轉的程度的時間線正在不斷縮短。隨著時間推移，我們應對的時間也越來越少。看來沒有任何事物能夠阻止它發展到極致…無論最終會發展到什麼程度。
為耶路撒冷的和平祈禱！
主必快來！
機會
|
