突然間，AGI（通用人工智慧）已經成為了一個新的「5 年內實現」的未來技術。從 Altman 到黃仁勳，都在不同場合表示，達到人類智慧水準的 AI 將很快到來。而技術路徑和未來可能出現的能源短缺，可能是達到 AGI 過程中的最大變數。
Claude 3、Sora、Gemini 1.5 Pro 的紛紛出現，以及或許今年內就會被放出的 GPT-5，讓所有人都不約而同地隱隱感覺：我們似乎離 AGI 似乎越來越近了。
OpenAI CEO Sam Altman 堅定地認為，AGI 將在 5 年內實現。不過，還需要我們耐心地等待。
NVIDIA CEO 黃仁勳的觀點與 Altman 不謀而合：如果我們對「像人類一樣思考的電腦」的定義是通過人體測試能力，那麼 AGI 在五年內就會到來。
Google機器人工程師 Alex Irpan，在 LLM 出現後，修正了自己原先對 AGI 出現時間的預測：4 年前，他認為 AGI 在 2035 年出現的機率是 10%；現在，AGI 在 2025 年，就有 10% 的機率出現。
更驚人的是，預測大神 Jimmy Apples 曾在去年爆料：AGI 其實已經在內部實現了。
初創公司 Runway CEO 兼 AI 投資人 Siqi Chen 也曾在去年表示，GPT-5 預計在 2023 年底完成訓練，OpenAI 期待它達到 AGI 水平。
如此說來，馬克斯的橫插一腳，讓 AGI 處理程序的加快損失重大……
離職的前 OpenAI 員工 Logan.GPT 表示，接下來的十年，將是人類歷史上最重要的十年。
在這十年內，我們必定會擁有超人 AI！
不過細思恐極的一個問題是，AI 實在是太耗能耗電了！
最近，ChatGPT 耗電量驚人的話題，就上了微博熱搜。
前幾天流傳的 PDF 曝出，OpenAI 新模型 Q * 的參數很可能達到了 125兆。讓我們算一算，如果 AGI 真的出現，一天要耗費多少電能？
此外，馬斯克在最近一個公開採訪中表示，晶片短缺緩解，限制 AI 發展的將是電力和降壓變壓器的短缺。
而獲取高效清潔能源的方法，會直接影響 AGI 的到來。
Altman：AGI 五年內實現
Sam Altman 在一本討論 AI 未來發展方向的書「Our AI Journey」中說到，AI 將能完成 「行銷人員、策略規劃人員和創意專業人員 95% 的工作」。
（這本書採用訂閱模式。新章節完成後就會發佈）
他還說，AGI 將在 「5 年內成為現實」。
這本書收錄了兩位商業創新者 Adam Brotman 和 Andy Sack 對包括 Altman 在內的頂級人工智慧領導者的深度訪談。
Brotman 是 Forum3 的聯合創始人和聯合首席執行官，此前曾擔任星巴克首任首席數位官。Sack 也是 Forum3 的聯合創始人和聯合首席執行官，曾任微軟首席執行官 Satya Nadella 的顧問。
他們之前的背景表明他們不是那種只會說空話的人。
Altman 講述的內容總是能更新讀者認識的上限。
Altman 認為，「當 AI 能夠獨立完成創新的科學突破時，它就能被稱為 AGI 了」。
兩位作者想知道 AGI 將如何影響他們的工作：市場行銷。
於是他們問 Altman，AGI 對那些想要通過創作廣告活動來建立消費品牌的市場行銷人員意味著什麼？
這時，Altman 拋出了他的第一個知識炸彈：
意味著行銷人員今天使用公關公司、策略規劃師和創意專業人員所做的 95% 的工作都將由人工智慧輕鬆、近乎即時、幾乎無成本地處理。
這一切內容都能做到免費、即時完成和近幾乎完美可用。圖片、視訊、活動創意方案都沒有問題。
而且 AI 很可能能夠根據真實或合成的目標客戶來測試創意，以預測結果並進行最佳化。
Altman 稱 AGI 即將到來
兩位作者再繼續追問 Altman，你認為 AGI 將在何時成為現實？
Altman 回答到：
5 年左右，也許會稍長一些——沒有人能說出一個確切的時間，也沒有人知道它對社會的影響到底是什麼。
這本書的作者 Roetzer 說，就算現在 AGI 還沒有出現，人類就已經能看到經濟、勞動力、教育和社會的大規模變革正在產生了。
就前不久，大型支付公司 Klarna 剛剛透露，它的 AI 助理現在已經能勝任 700 名員工的工作。
這個 AI 客服由 OpenAI 提供支援，處理客戶的各種諮詢，支援多語言，能夠直接處理退款和退貨的請求。
Klarna 表示，在短短一個月內，AI 助手就完成了 700 名全職客服的工作。
到目前為止，它已經進行了 230 萬次對話，佔公司所有客戶服務對話的三分之二。
它的客戶滿意度得分與人工客服「不相上下」。
而且，它在解決客戶請求方面更準確、更快速。解決請求的平均時間從 11 分鐘降至 2 分鐘。
Klarna 的 CEO 暗示社會需要為先進的人工智慧做好準備：
這凸顯了人工智慧將對社會產生的深遠影響。
我們希望社會和政界人士對 AI 帶來的影響有慎重考慮，並相信全面、透明的管理對於我們社會應對這場變革至關重要。
黃仁勳：AI 會在五年內通過人類測試，未來 10 年算力將再提高 100 萬倍
黃仁勳也同意這個觀點，認為 AGI 將很快到來。
最近，NVIDIA CEO 黃仁勳表示：AI 會在五年內通過人類測試，AGI 將很快到來！
在史丹佛大學舉行的一個經濟論壇上，黃仁勳回答了這個問題：人類何時能創造像人類一樣思考的電腦？這也是矽谷的長期目標之一。
黃仁勳是這樣回答的：答案很大程度上取決於我們如何定義這個目標。
如果我們對「像人類一樣思考的電腦」的定義，是通過人體測試能力，那麼 AGI 很快就會到來。
五年後，AI 將通過人類測試
黃仁勳認為，如果我們把能想像到的每一個測試都列出一個清單，把它放在電腦科學行業面前，讓 AI 去完成，那麼不出五年，AI 會把每個測試都做得很好。
截至目前，AI 可以通過律師考試等測試，但是在胃腸病學等專業醫療測試中，它依然舉步維艱。
但在黃仁勳看來，五年後，它應該能通過這些測試中的任何一個。
不過他也承認，如果根據其他定義，AGI 可能還很遙遠，因為目前專家們對於描述人類思維如何運作方面，仍然存在分歧。
因此，如果從工程師的角度，實現 AGI 是比較難的，因為工程師需要明確的目標。
另外，黃仁勳還回答了另外一個重要問題——我們還需要多少晶圓廠，來支援 AI 產業的擴張。
最近，OpenAI CEO Sam Altman 的七萬億計畫震驚了全世界，他認為，我們還需要更多的晶圓廠。
而在黃仁勳看來，我們的確需要更多晶片，但隨著時間推移，每塊晶片的性能就會變得更強，這也就限制了我們所需晶片的數量。
他表示：「我們將需要更多的晶圓廠。但是，請記住，隨著時間的推移，我們也在極大地改進 AI 的演算法和處理。」
計算效率的提高，需求並不會像今天這麼大。
「我會在 10 年內，將計算能力提高了一百萬倍。」
馬庫斯潑冷水：GPT-5 在 2024 年不會出現
一直唱反調的馬庫斯（Gary Marcus）也做出了截止 2024 年底全新的預測——
我們可能會見證：
- 大約 7 到 10 款與 GPT-4 相當的模型問世
- 在技術上不會有革命性的突破（沒有推出 GPT-5，或者 GPT-5 並未達到預期）
- 市場上將出現激烈的價格競爭
- 幾乎沒有公司能夠形成明顯的護城河
- 尚無有效的方法來解決 AI 產生的幻覺
- 企業對這些技術的採納將保持在一個適度的水平
- 利潤相對適中，將在這 7 到 10 家公司之間分配
網友表示，還有 11 個月就能見證這個結果了。
為了證明自己的預測絕對影響力，馬庫斯還拋出了自己曾在 2001 年預測的模型幻覺問題。
以及兩年前，2022 年 3 月 10 日，曾發表了一篇「深度學習正在碰壁」的觀點文章。
文章發表一個月後 DALL・E 問世，Sam Altman 發文嘲諷，「請給我一個平庸的深度學習懷疑論者般的自信……」
而在 11 日，馬庫斯再次表示「即便過了 2 年，深度學習依舊面臨同樣的根本性挑戰」！
也就是說，人類靠深度學習到達 AGI，遙不可及。
文中他列舉了多個例證，來說明這些觀點至今依舊成立：
- 深度學習從根本上說是一種識別模式的技術，當我們需要的只是粗略的結果時，深度學習就能發揮出最大的作用。
- 目前的深度學習系統經常會出現愚蠢的錯誤。
- 擴大參數規模的爭論——那些已經擴大參數規模的研究，並沒真正改進 LLM 迫切需要的東西——「理解力」。Kaplan 等 OpenAI 團隊所提出的衡量標準——關於預測下一個單詞，並不同於 AI 就實現深度理解。
- 「scaling laws」僅是觀察到的現象，就像摩爾定律一樣，可能不會永遠有效。
論文地址：https://arxiv.org/pdf/2001.08361.pdf
當然，馬庫斯最後表示，AGI 並非不可以實現，而是人類需要一次典範轉移。越來越多的結果說明，LLM 本身不是通向 AGI 的終點答案。
與此同時，圖靈巨頭 LeCun 在最近的部落格採訪中，也談到 ——AGI 離我們還很遠。
在這個訪談中，LeCun 還提到了，「嬰兒只有在已經瞭解了物質世界如何運作的基礎知識之後，才能習得語言。很多物理知識都是內化的，無法用語言來描述，因此 LLM 也無法理解」。
吳恩達也參與了 AGI 的討論，並表示 AGI 只會慢慢到來，而非一夜之間。
史丹佛團隊憑藉「大模型湧現能力是海市蜃樓」獲得 NeurIPS 傑出論文獎，論文中提到大模型湧現能力的出現是因為研究人員度量選擇，而不是因為模型行為，隨著參數規模變化而發現根本變化。
當許多人突然意識到一項技術（也許是發展已久的技術）時，公眾的感知就會出現斷崖式的變化，從而會紛紛感到驚訝。
但人工智慧能力的增長，比人們想像的要持續得多。這就是為什麼我預計通往 AGI 的道路將包括許多前進的步驟，進而讓系統的智慧化程度逐步提高。
ChatGPT 耗電量驚人，人類撐得住 AGI 嗎？
雖然 AI 模型已經在飛速發展，但最近的一個大問題已經讓人擔心：它們實在太耗電了！
人工智慧是能源的無底洞，AI 未來將會被能源卡脖子。
包括 Sam Altman 在內的越來越多的 AI 行業大佬表示，AI 的第一性原理，最重要的部分就是能源和智慧的轉化率的問題。
因為 Transformer 本質上不是一個能效很高演算法，所以在未來，能源將會是困擾 AI 發展的一個大問題。
馬斯克最近在一個公開採訪中表示：
AI 是有史以來最大的技術革命，我從未見過任何技術進步比現在的 AI 更快。
晶片短缺的情況可能已經過去，但人工智慧和電動汽車正在以如此迅猛的速度擴張，以至於明年世界將面臨電力和變壓器的供應緊縮。
現在 AI 對算力的需求差不多每半年就會增加 10 倍。顯然，這種情況不可能永遠以如此高的速度持續下去，否則會超過宇宙的品質。
AI 計算的瓶頸是可以預見的……一年前，短缺的是晶片。
然後下一個短缺將是電力。當晶片短缺緩解之後，明年可能就會出現電力將不不足以運轉這些晶片。
然後，很容易預測下一個短缺將是降壓變壓器。
如果電網輸出 100-300 千伏的電壓，然後必須一路降壓至 6 伏，那麼降壓幅度就很大。
這有一個不是那麼好笑的笑話，未來運行 Transformer 的變壓器（Transformer）將出現短缺。
Hinton：有 1/10 機率，AI 會殺死人類
AGI 真正實現那天，終結者中那一幕也在迫近。
「數位智慧會取代生物智慧嗎」？
「幾乎可以肯定，會的」！
「我們人類應該盡最大努力存活下來」。
AI 教父 Hinton 近日在牛津大學發表了最新演講，給出了驚人言論——在 5-20 年內，每個人都有 1/10 的機率被 AI 被殺死。
圖靈獎得主 Bengio 也持有同樣的觀點，即有 1/5 的可能性，我們會被殺死。
Hinton 意識到，日益強大的 AI 模型可以像「蜂巢思維」一樣，相互分享所學知識，從而相對於人類更具優勢。它們可能是一種更好的智慧形式。
就比如，GPT-4 可以學習語言，會推理、諷刺，還會展現出極高的同理心。
他在演講中說，「我要做出一個非常有力的聲明，這些模型確實能理解」。
這些模型也可能以危險的方式「進化」，形成一種控制的意向性。如果我為政府提供建議，我會說這些 AI 有 10% 的可能性會在未來 20 年內消滅人類。我認為這將是一個合理的數字。
不僅如此，AI 界大佬在「關於人工智慧殺死所有人的可能性有多大」的問題時，認為有 25-49% 機率的人最多。
不同的人 / 組織對 AI 滅世的機率預測。
AI 真的會殺死人類嗎，你怎麼看？
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！