為什麼落格智聊以 token 為單位收費? 落格智聊使用 OpenAI 的 GPT-3.5-turbo (GPT-4o)以及 Anthropic 的 Claude 模型進行處理,他們的 API 就是以 token 為單位進行收費的,所以由於上游的收費機制如此,我們也使用了相同的收費模式。 什麼是 Token? 基本上一個 Token 就是一個字,有一些字可能需要兩個 Token 組合編碼。Token 這個東西你可以理解為一個數位,通過這種方式編碼后的內容 GPT 模型才能理解,而 GPT 模型生成的內容,也需要通過對應的 Token 解碼才能變成人類能懂的文字。 GPT 3.5 和 GPT 4o 有什麼區別? 3.5 和 4o 都是 OpenAI 的大語言模型,截至目前, 4o 是最先進的版本。兩者相比,3.5 在速度和價格上更勝一步,便宜,且快速! 不過在推導能力方面,4o有顯著的進步。另外 4o 支援更長的上下文支援,長達 128000 token,而 3.5 […]