AI與區塊鏈技術的融合:從基礎設施到應用

人工智能(AI)行業近年來快速發展,被視爲新一輪工業革命的關鍵驅動力。大語言模型的出現顯著提升了各行各業的工作效率,波士頓諮詢估計GPT爲美國整體工作效率帶來了約20%的提升。同時,大模型的泛化能力被認爲是新的軟件設計範式,相比傳統的精確代碼,現在的軟件設計更多地採用泛化的大模型框架,以支持更廣泛的模態輸入與輸出。深度學習技術爲AI行業帶來了新一輪繁榮,這股浪潮也延伸到了加密貨幣行業。

本文將詳細探討AI行業的發展歷程、技術分類,以及深度學習對行業的影響。我們將深入分析深度學習產業鏈的上下遊,包括GPU、雲計算、數據源、邊緣設備等,梳理其發展現狀與趨勢。隨後,我們將從本質上探討加密貨幣與AI行業的關係,並對加密貨幣相關的AI產業鏈格局進行梳理。

AI行業的發展歷程

AI行業起步於20世紀50年代。爲實現人工智能的願景,學術界和工業界在不同時代背景下發展出了多種流派。現代人工智能技術主要採用"機器學習"方法,其核心理念是讓機器通過數據驅動,在任務中不斷迭代以改善系統性能。主要步驟包括將數據輸入算法、訓練模型、測試部署,最終實現自動化預測。

目前機器學習主要有三大流派:聯結主義、符號主義和行爲主義,分別模仿人類的神經系統、思維和行爲。其中以神經網路爲代表的聯結主義佔據主導地位,也被稱爲深度學習。神經網路架構包含輸入層、輸出層和多個隱藏層,隨着層數和神經元(參數)數量的增加,可以擬合更復雜的通用任務。通過不斷輸入數據調整參數,最終達到最佳狀態,這也是"深度"的由來。

深度學習技術經歷了多次演進,從最早期的神經網路,到前饋神經網路、RNN、CNN、GAN,最後發展到現代大模型如GPT等使用的Transformer技術。Transformer通過添加轉換器,可以將多模態數據(如音頻、視頻、圖片等)編碼成對應數值表示,從而實現對任何類型數據的擬合。

AI發展經歷了三次技術浪潮:

1. 20世紀60年代:第一次浪潮由符號主義技術引發,解決了通用自然語言處理和人機對話問題。同期,專家系統誕生。

2. 1997年:IBM深藍戰勝國際象棋冠軍,標志AI技術迎來第二次高潮。

3. 2006年至今:深度學習三巨頭提出深度學習概念,算法逐步演進,形成第三次技術浪潮,也是聯結主義的鼎盛時期。

近年來,AI領域湧現了多個標志性事件,包括:

• 2014年:Goodfellow提出GAN(生成對抗網路)
• 2015年:OpenAI成立
• 2016年:AlphaGo戰勝李世石
• 2017年:Google發布Transformer算法論文
• 2018年:OpenAI發布GPT
• 2020年:OpenAI發布GPT-3
• 2023年:基於GPT-4的ChatGPT推出並迅速普及

深度學習產業鏈

當前大語言模型主要採用基於神經網路的深度學習方法。以GPT爲代表的大模型引發了新一輪AI熱潮,市場對數據和算力的需求大幅增長。我們將重點探討深度學習算法的產業鏈構成,以及上下遊的現狀、供需關係和未來發展趨勢。

基於Transformer技術的大語言模型(LLMs)訓練主要分爲三個步驟:

1. 預訓練:輸入大量數據對,尋找神經元的最佳參數。這個階段最耗費算力,需要反復迭代嘗試各種參數。

2. 微調:使用少量但高質量的數據進行訓練,提升模型輸出質量。

3. 強化學習:建立獎勵模型對輸出結果進行排序,用於自動迭代大模型參數。有時也需要人工參與評判。

模型的表現主要由參數數量、數據量與質量、算力三個因素決定。參數越多,模型的泛化能力上限越高。根據經驗法則,預訓練一次大模型大約需要6np Flops的計算量(n爲Token數量,p爲參數數量)。

早期AI訓練主要使用CPU提供算力,後來逐漸轉向GPU,如NVIDIA的A100、H100芯片等。GPU通過Tensor Core模塊進行浮點運算,其FP16/FP32精度下的Flops數據是衡量芯片性能的重要指標。

以GPT-3爲例,其有1750億個參數,1800億個Token的訓練數據。一次預訓練需要約3.15*10^22 Flops,即使使用最先進的GPU芯片也需要數百天時間。隨着模型規模擴大,對算力的需求呈指數級增長。

在模型訓練過程中,數據存儲也面臨挑戰。由於GPU內存有限,需要頻繁在硬盤和內存間傳輸數據,芯片帶寬成爲一個關鍵因素。多GPU並行訓練時,芯片間數據傳輸速率也很重要。因此,芯片的計算能力並非唯一瓶頸,內存帶寬往往更爲關鍵。

深度學習產業鏈主要包括以下幾個環節:

1. 硬件GPU提供商:NVIDIA在高端AI芯片市場處於壟斷地位。Google、Intel等公司也在開發自有AI芯片。

2. 雲服務提供商:主要分爲三類:傳統雲廠商(如AWS、Google Cloud)、垂直AI雲服務商(如CoreWeave)、推理即服務提供商(如Together.ai)。

3. 訓練數據源提供商:爲大模型和垂直領域模型提供海量、優質、特定的數據。

4. 數據庫提供商:主要是矢量數據庫,用於高效存儲和處理非結構化數據。

5. 邊緣設備:包括能源供應和冷卻系統,以支持大規模計算集羣的運行。

6. 應用:基於大模型開發的各類AI應用,如對話系統、創作工具等。

加密貨幣與AI的關係

區塊鏈技術的核心是去中心化和去信任化。比特幣創造了去信任的價值轉移系統,以太坊進一步實現了去中心化、去信任的智能合約平台。本質上,區塊鏈網路是一個價值網路,每筆交易都是基於底層代幣的價值轉換。

傳統互聯網中,企業價值主要通過現金流和市盈率體現。而在區塊鏈生態中,原生代幣(如ETH)承載了網路的多維度價值,不僅可以獲得質押收益,還可作爲價值交換媒介、存儲手段和網路活動的消費品。代幣經濟學定義了生態系統結算物的相對價值,雖然難以對每個維度單獨定價,但代幣價格綜合反映了多維度的價值。

代幣的魅力在於可以爲任何功能或思想賦予價值。代幣經濟學重新定義和發現價值的方式,對包括AI在內的各行業都至關重要。在AI產業中,發行代幣可以重塑產業鏈各環節的價值,激勵更多參與者深耕細分賽道。代幣不僅帶來現金流,還能通過協同效應提升基礎設施價值,形成"胖協議瘦應用"的範式。

區塊鏈技術的不可篡改和無需信任特性也爲AI行業帶來實際意義。它可以實現一些需要信任的應用,如確保模型在使用用戶數據時不泄露隱私。當GPU供應不足時,可通過區塊鏈網路分銷算力;當GPU迭代更新,閒置的舊設備也能繼續貢獻價值。這些都是全球化價值網路獨有的優勢。

加密貨幣行業AI產業鏈項目概覽

1. GPU供給側:

主要項目包括Render、Golem等。Render作爲較成熟的去中心化基礎設施項目,主要面向視頻渲染等非大模型任務。隨着AI需求增長和GPU迭代,共享GPU算力的需求可能會增加,爲閒置GPU提供價值發現機會。

2. 硬件帶寬:

典型項目如Meson Network,旨在建立全球化的帶寬共享網路。然而,共享帶寬可能是一個僞需求,因爲對於高性能計算集羣,本地數據存儲的延遲遠低於分布式存儲。

3. 數據:

EpiK Protocol、Synesis One、Masa等項目提供AI訓練數據服務。其中Masa基於零知識證明技術,支持隱私數據收集。這類項目的優勢在於可以實現廣泛的數據採集,並通過代幣激勵用戶貢獻數據。

4. ZKML(零知識機器學習):

使用零知識證明技術實現隱私計算和訓練。主要項目包括Modulus Labs、Giza等。一些通用型ZK項目如Axiom、Risc Zero也值得關注。

5. AI應用:

主要是將AI能力與傳統區塊鏈應用結合,如AI Agent。Fetch.AI是代表性項目,通過智能代理幫助用戶進行復雜的鏈上決策。

6. AI公鏈:

如Tensor、Allora、Hypertensor等,專門爲AI模型或代理構建的自適應網路。這類項目通常採用類似強化學習的機制,通過鏈上評估者來改善模型參數。

總結

盡管當前AI發展主要聚焦於深度學習技術,但仍有其他潛在的AI技術路徑值得關注。深度學習雖然可能無法實現通用人工智能,但已在推薦系統等領域得到廣泛應用,具有實際價值。

區塊鏈技術和代幣經濟學爲AI行業帶來了新的價值定義和發現機制。它們可以重塑AI產業鏈各環節的價值,激勵更多參與者,並通過全球化的價值網路實現資源的高效配置。

然而,去中心化GPU網路在帶寬和開發者工具方面仍存在劣勢,目前主要適用於不緊急的小型模型訓練。對於大型企業和關鍵任務,傳統雲服務平台仍然更具優勢。

總的來說,AI與區塊鏈的結合具有實際效用和長期潛力。代幣經濟學能夠重塑和發現更廣泛的價值,而去中心化帳本可以解決信任問題,促進全球範圍內的價值流動和剩餘價值發現。隨着技術的發展和生態的完善,AI與區塊鏈的融合有望帶來更多創新和機遇。