一360一 作品

第79章 馬斯克重拳出擊,開源Grok-1大模型

 在Ai領域,開源已成為推動技術進步和創新的重要力量。近日,科技巨頭特斯拉的創始人埃隆·馬斯克再次展現了他在Ai領域的雄心壯志,宣佈開源其旗下Ai創企xAi開發的大語言模型grok-1。這一舉動不僅使得grok-1成為當前參數量最大的開源大語言模型,更在業界引發了廣泛關注。 

 馬斯克一直對openAi的開放性持懷疑態度,此次開源grok-1可謂是對openAi的一次有力回應。在社交平臺上,馬斯克含沙射影地表示:“我們想了解更多openAi的開放部分。”這番言論無疑加劇了業界對於Ai開源與閉源之爭的關注度。 

 grok-1的開源不僅意味著其模型權重和架構將遵循Apache 2.0協議向公眾開放,更重要的是,它允許用戶自由地使用、修改和分發軟件,無論是個人還是商業用途。這種開放性不僅有助於推動Ai技術的普及和應用,更能激發更廣泛的研究和創新活力。 

 值得注意的是,grok-1作為一個擁有3140億參數的混合專家(mixture-of-experts,moe)大模型,其規模之大令人咋舌。相比之下,openAi的gpt-3.5模型僅有1750億參數。如此龐大的參數量使得grok-1在語言理解和生成能力上具備了強大的優勢。這也意味著,要使用和測試grok-1,用戶需要擁有足夠gpu內存的機器。據網友表示,這可能需要一臺擁有628 gB gpu內存的機器,這無疑提高了使用該模型的門檻,但也從側面反映了其技術含量的高度。