塔克蘭斯的訪客留言

Psy 塔克蘭斯

2023年11月09日 20:54

・公開所有人都可以查看貼文

抱歉打擾。之前在站上有詢問您語言模型的事情，感謝您說明gguf不能訓練。我申請Llama2下載。下載model-00001-of-00002.safetensors跟pytorch_model-00001-of-00002.bin。但是，他們都沒辦法被載入text generation web UI。想請問您是否我哪裡操作有誤? 或是我可以到哪下載可以訓練的模型? 謝謝您

...展開之前的留言 (1)

塔克蘭斯

2023年11月10日 06:36

載入模型的設定應該要像這樣，勾4bits就是四位元量化讀取模型，在這種情況下訓練模型只需要7.5GB的顯存

Psy

2023年11月10日 23:47

我把全部複製下來，可是錯誤碼好像是缺少config.json。可是我有下載。請問您知道可能原因嗎?另外，我下載其他模型都可以直接用

展開 8 則回覆

Psy

2023年11月10日 23:49

可是唯獨Llama 沒辦法直接用這個程式下載，我是到HF頁面一個個檔案下載放到model資料夾中>