免費替代方案!如何存取Llama 2大規模語言模型
目錄
- 介紹
- Llama 2 訓練數據
- 申請 Meta Llama 2 存取權
- 下載 Llama 2 模型
- 使用 Hugging Face 驗證
- 獲取 Hugging Face 存取權杖
- 結語
1. 介紹
在本教程中,我們將介紹 Llama 2,這是一個由 Meta 開發的一組大規模語言模型(LLM)。Llama 2 是一個開源模型,可供研究和商業用途免費使用。如果你正在尋找 OpenAI API 的免費替代方案,Llama 2 是值得一試的選擇。
2. Llama 2 訓練數據
Llama 2 使用了包含約 2 兆個令牌的公共數據作為模型的訓練數據。精調階段則使用了公開可訪問的教學數據集,並添加了一百多萬個新的人工標註示例。關於數據的實時性,預訓練數據截至 2022 年 9 月,而一些微調數據則延伸到 2023 年 7 月。
3. 申請 Meta Llama 2 存取權
請填寫 Meta 官方網站上關於存取模型的申請表,以獲取 Llama 2 模型的存取權。申請後,存取權幾乎立即被授予,你將收到一封類似下面這樣的電子郵件。
4. 下載 Llama 2 模型
獲得 Llama 2 模型的存取權後,你有兩個下載模型的選擇。第一個選項是按照電子郵件中的說明將模型下載到本地磁盤。這需要一台具有大容量硬盤和良好GPU的計算機。第二個選項是通過 Hugging Face 下載模型。你可以在線雲筆記本(如 Google Colab)上使用該模型。在本教程中,我們將專注於第二種方法。
5. 使用 Hugging Face 驗證
登錄到你的 Hugging Face 帳戶,進入「模型」部分,然後搜索名為 llama 的模型。我們可以看到名為 meta-llama/Llama-2–7b-chat-hf
的模型具有最高的下載量。點擊模型名稱,你將看到一個用於在 Hugging Face 上存取 Llama 2 的表單。如果你同意表單中的聲明,請點擊「提交」按鈕。請注意,你的 Hugging Face 帳戶電子郵件必須與步驟1中填寫 Meta 的申請表時使用的電子郵件相匹配。提交 Hugging Face Llama 2 存取表單後,你將收到一封電子郵件,授予你存取 Llama 2 模型的權限。模型 meta-llama/Llama-2–7b-chat-hf
是 meta-llama/Llama-2–7b
模型的精調版本,你將獲得所有這個模型的變體。現在刷新你的 Hugging Face 頁面,選擇該模型,你將看到一條消息說「你已獲得存取此模型的權限」。
6. 獲取 Hugging Face 存取權杖
在下載模型之前,我們需要一個與驗證帳戶關聯的 Hugging Face 存取權杖。要獲取 Hugging Face 存取權杖,請點擊右上角的個人資料圖片,然後點擊「設定」。然後,點擊左側的「存取權杖」。在存取權杖頁面上,點擊「新建權杖」。給新建的權杖命名,選擇角色,然後點擊「生成權杖」按鈕。在成功生成權杖後,你可以將其複製,並準備使用 Llama 2。
7. 結語
如果你已經閱讀到這裡,你可能發現本教程中的信息很有幫助。請點擊「讚好」按鈕,並訂閱頻道,以獲取有關類似內容的最新通知。要了解如何使用大型語言模型構建機器學習模型,請點擊屏幕上的視頻。謝謝觀看,希望在下一個視頻中見到你!
高亮點
- Llama 2 是一個免費的開源大規模語言模型 (LLM)
- Llama 2 使用約 2 兆個令牌的公共數據進行訓練
- 申請 Meta Llama 2 的存取權可以在 Meta 官網上進行
- 下載 Llama 2 模型有兩個選項,包括將模型下載到本地磁盤和使用 Hugging Face 在線平台
- 使用 Hugging Face 驗證 Meta Llama 2 存取權需要填寫相應的表單
- 獲取 Hugging Face 存取權杖需要訪問 Hugging Face 個人設定並生成一個新的存取權杖
常見問題解答
問題:Llama 2 如何進行模型的訓練?
答案:Llama 2 使用約 2 兆個令牌的公共數據進行訓練,並在精調階段添加了一百多萬個新的人工標註示例。
問題:如何申請 Meta Llama 2 的存取權?
答案:在 Meta 官網上填寫存取權申請表即可申請 Meta Llama 2 的存取權。
問題:如何下載 Llama 2 模型?
答案:你可以將模型下載到本地磁盤,也可以使用 Hugging Face 在線平台下載模型。
問題:如何獲取 Hugging Face 存取權杖?
答案:登錄 Hugging Face 帳戶,訪問個人設定,生成一個新的存取權杖即可。