趨勢丨設計的代價：深度學習已經接近計算極限
深度學習時代AI模型需規(guī)�；瘮U展
現代AI模型需要消耗大量電力，而且對電力的需求正以驚人的速度增長。在深度學習時代，構建一流AI模型所需要的計算資源平均每3．4個月翻一番。
在當今以深度學習為中心的研究范式當中，AI的主要進步主要依賴于模型的規(guī)�；瘮U展：數據集更大、模型更大、計算資源更大。
在訓練過程中，神經網絡需要為每一條數據執(zhí)行一整套冗長的數學運算（正向傳播與反向傳播），并以復雜的方式更新模型參數。
在現實環(huán)境中部署并運行AI模型，所帶來的能源消耗量甚至高于訓練過程。實際上，神經網絡全部算力成本中的80％到90％來自推理階段，而非訓練階段。
因此，數據集規(guī)模越大，與之對應的算力與能源需求也在飛速增長。模型中包含的參數量越大，推理階段所帶來的電力需求就越夸張。
雖然深度網絡會是解決方案的一部分，但還需要涉及組合原則和因果模型的互補方法，以捕捉數據的基本結構。此外，面對組合性爆炸，需要要再次思考如何訓練和評估視覺算法。
每一次人工智能低谷來臨之前，都會有科學家夸大和炒作他們創(chuàng)造的潛力，僅僅說他們的算法就能夠很好地完成某項任務是不夠的。
對大多數問題來說，深度學習并不是正確的解決方法，不要試圖為所有的問題尋找通用人工智能解決方案，因為它根本就不存在。
結尾：
深度學習的發(fā)展可能已達極限，但其影響還將持續(xù)深遠。為了避免在“人工智能冬天”中被淘汰的命運，能做的最好的事情就是明確你要解決的問題，并理解其本質；然后，尋找為特定問題提供解決方案的直觀路徑的方法。
分享
請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
- 1 GPT-6要來了，但AI行業(yè)早不跟 OpenAI玩了
- 2 騰訊「龍蝦」QClaw體驗：AI能連微信干活了，但整體還很粗糙
- 3 龍蝦的鰲收緊了
- 4 產業(yè)丨算電協同+Token出海，中國電力與算力全球化雙引擎
- 5 火爆的“Token經濟學”，關乎你的錢包、職場和未來消費 | 人人能懂的產業(yè)報告
- 6 漲價！漲價！漲價！一場由AI引發(fā)的全球算力與存儲“地震”
- 7 資本巨頭紛紛抽身，為何中小投資者仍為AI狂熱加碼？
- 8 大廠財報中的AI圖鑒：營收單列、玩杠桿、商業(yè)畫餅
- 9 從百度到Meta，科技巨頭的 AI 組織戰(zhàn)，開打了
- 10 華勤財報發(fā)布：收入規(guī)模破1700億，利潤增長近40%
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)（光器件） 北京市/海淀區(qū)
- 激光器高級銷售經理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結構工程師 廣東省/深圳市
