前往
大廳
主題

Side Project : 整合 OpenAI GPT 3.5 Model 且具有使用者權限管理與 Token 智慧分配的群組專用 Line Bot

這隻可愛獸太,昂列思 | 2023-04-04 17:34:34 | 巴幣 106 | 人氣 482


看膩了開箱文了嘛
今天來發點不一樣的東西
由於日子過得太悠閒
又想順便練練自己寫 Project 的能力
順便充實自己群組的功能
所以就...
誕生這個計畫
我在此叫用這個名字叫它好了

群組專用肉便器

以下將分成幾個段落來介紹


MAIN FEATURES


使用者機制
建立使用者 Profile 來保存相關數據
如權限、總 Token 消耗等等

此外 Bot 具備使用者管理功能
並能控制特定操作的權限
這確保只有授權的使用者 (Admin) 才能使用 Bot 的特定功能
如指派新的 Admin 或者禁止某位 User 存取服務

------

智慧 Token 分配
根據一般使用者與 AI 互動的行為模式
來分配本輪對話中每一次對話 Token (基於對數曲線的特製公式)
且能回饋當前使用者在這次對話中未使用完的 Token 至下一次對話 (最低減至 0)

確保使用者不減損體驗的前提下來最佳化 Token 使用效益
畢竟 Token 可是要錢的,發展成訂閱計畫會很需要

------

Token 消耗預測
這個 Bot 能夠預測使用者的下一次 Token 使用額度
並在使用者在一輪對話中接近 Model 限制時
提醒使用者剩餘額度將無法提供有效的答案

當發生這種情況時
Bot 會自動開啟新對話並清除當輪對話歷史

當然了
這些資訊只會以提示的方式呈現
不會暴露不必要的細節
避免影響使用者體驗

------

獨立使用者對話歷史
由於是設計給群組專用
所以每個使用者都有各自獨立的對話歷史而不相互干擾
Bot 允許使用者清除對話歷史並隨時開始新對話

------

使用者對話平行處理
每一位使用者的對話都是同時間獨立處理
大大增加每位使用者在取得答案上的體驗

由於開發時是基於能在大型 Server 上部屬的結構做思量
理論上來說越多執行緒的 Server 越能提高使用者回應速度

------

自動對話歷史刪除
如果使用者的對話時間超過特定時間限制時
Bot 會自動清除當前保存的對話歷史
確保使用者得到得答案不會受到先前對話的污染


UI/UX

● Bot Profile (開發者自肥合理吧)


● 純資訊/警告/緊急

● 主要版面配置 (由 使用者名字 / 提示 / Token 使用進度 / AI 回應內容組成)


USAGE (User)

@[*空白][內容]
> 用於詢問AI問題或觸發指令
> @ 針對野肉串寫一個故事

@[*空白]bot[*空白]profile
> 顯示 Profile Card
> @ bot  profile

@[*空白]chat[*空白]reset
> 清空自身對話紀錄 (按下 ”開啟新對話” 即可觸發)
> @  chat reset

[*空白] = 允許1~2個空白


NOTICE

1. 必須先加 Bot 好友才有提供服務

2. 私人/未授權群組對話不提供服務

3. 本輪對話是指該次聊天的前後文紀錄,也就是包含對話歷史

4. 可以隨時透過按下 ”開啟新對話” 來清除當前自身對話紀錄

5. 每輪對話有額度上限 (標示於進度條),當預測系統發現下一次對話可能觸及上限,將會在此次對話提示並且清除此輪對話歷史

6. 若使用者提問時間超過指定時限,將會被強制清空歷史,並開啟新對話

7. 若在 AI 回答問題前再次提問,該提問將會被丟棄 (指令除外)

8. 每位使用者有總額度上限,超過總額度將不再提供服務 (目前暫時無上限)


DEMO

(一般使用)


(點擊開啟新對話按鈕後)

(問問題時先前對話已經逾時)


(連續問答,可以看到有進度條提示使用者的額度使用狀況)


(User 管理)



FUTURE WORKS

1. 整合更多 Bot (Discord/Telegram/...)

2. 整合更多不同類型 AI (DALL-E 2/...)

3. Admin 私聊專用主控台

4. 商用規劃...


FINAL

其實還有好多群組專用肉便器的功能還沒介紹出來
可是我好懶
就先這樣做結束ㄌ

送禮物贊助創作者 !
0
留言

創作回應

你的肚子搖得我真開心
看完之後,只知道肉便器這三個字@A@
2023-04-04 18:26:18
這隻可愛獸太,昂列思
肉便器讚[e5]
2023-04-04 18:38:37
嫩嫩上班族
圖片好色喔[e16]
2023-04-04 20:27:18
這隻可愛獸太,昂列思
笑死 讚讚 [e5]
2023-04-04 20:29:30
E
請問程式碼有開源嗎,想學習
2023-05-10 03:45:38

更多創作