落格智聊 – 常見問題解答FAQ

為什麼落格智聊以 token 為單位收費？

落格智聊使用 OpenAI 的 GPT-3.5-turbo （GPT-4） 模型進行處理，他們的 API 就是以 token 為單位進行收費的，所以由於上游的收費機制如此，我們也使用了相同的收費模式。

什麼是 Token？

基本上一個 Token 就是一個字，有一些字可能需要兩個 Token 組合編碼。Token 這個東西你可以理解為一個數位，通過這種方式編碼后的內容 GPT 模型才能理解，而 GPT 模型生成的內容，也需要通過對應的 Token 解碼才能變成人類能懂的文字。

GPT 3.5 和 GPT 4 有什麼區別？

3.5 和 4 都是 OpenAI 的大語言模型，截至目前， 4 是最先進的版本。兩者相比，3.5 在速度和價格上更勝一步，便宜，且快速！ 不過在推導能力方面，4有顯著的進步。不過總的來說，大多數用戶反饋就日常使用，並沒有明顯感覺到 3.5 和 4 的區別。另外 4 支援更長的上下文支援，長達 8000 token，而 3.5 則只能支援 4000 多。

另外由於 GPT 4 模型體積更大，運算時需要的資源也更多，所以目前 4 回答的速度很慢，且整體容量差，最多只能支援每分鐘 200 次提問，相比而言，3.5 則支援每分鐘 3500 次提問。（注意，這裏的提問次數，是全域次數，而不是每個用戶的次數。）

落格智聊都能做什麼？ 純聊天嗎？

大概...... 是。不過，它和傳統的聊天機器人不同。因為它的背後是 GPT-3.5 大型語言模型，所以它可以“理解”並對文字內容進行處理，除了對話，講故事，生成文字內容（寫作文、寫信、寫詩寫歌）外，還能翻譯、修飾潤色分析總結等等等等......

當然，還有一些有意思的操作比如假裝是一個終端模擬器，假裝是輸入法，把你的邏輯直接生成代碼，給你一個關於xx項目的創意點子等等。

總之，你把它想像成一個真實的網友，能通過文字聊天交代的文字處理任務，這個“網友”基本都能完成。

⚠️ 注意，由於 GPT-3.5-turbo （GPT-4）是一個離線模型，所以最新的新聞資料等是沒有的，你問了它就會編造。所以，對於一些嚴肅的事實，請不要輕易相信它的一面之詞，要做好事實驗證。

用中文和英文提問有區別嗎？

有。

GPT 是一個大型語言模型，它是由網路公開文本內容訓練而來的。網上沒有的資訊，它就不知道。網上少的資訊，它給出的答案就不准。比起英語，中文的互聯網內容相對較少，所以當使用中文提問時，GPT 給出答案的準確度、速度、完善程度都會相對降低。所以如果可能，請盡量使用英文提問從而獲得更高品質，更準確的結果。就算你英語不好，它也足夠聰明從而理解你的意思，包括語法錯誤，拼寫錯誤等等。（當然你也可以先讓落格智聊幫你把你的中文問題翻譯成英文，然後再在新的會話中用英文提問...... ）

落格智聊宣傳的聯網功能是怎麼實現的？

GPT 是一個離線語言模型，它本身是不能主動去聯網的（不然天網時代就來臨了）。每當你開啟一個新的工作階段（對於行動端和 Tg Bot 來說，就是清空會話歷史后的第一個提問），落格智聊都會做一個額外的檢查，即這個問題是否涉及到事實資訊，比如xxx的定義這類，如果是，那麼模型就會生成相關的搜索詞去谷歌搜索一下，我們會把谷歌搜索的前三條結果的標題和簡介加入到歷史記錄當中，這樣當 GPT 進行回復時，就有了參考，通常來說，大部分問題就都不會進行編造了。由於這個操作要給聊天歷史注入搜尋結果，如果每一條消息都這麼去處理就很浪費點數，當然意義也不是特別大。所以我們只有在每個會話的第一個問題時才這麼做，搜索的結果會一直保存給 GPT 使用，這樣一來即使後續你進行了更深入的提問，它也有一定概率正確作答。

⚠️ 注意，儘管我們盡可能地讓 GPT 模型回答的更準確，但這並不能掩蓋它其實是基於語義生成內容的事實，所以必要的話，還請自定驗證，不可單獨依賴 AI 給出的任何答案。

為什麼有的問題短但消耗點數更多？

消耗的點數並不取決模型單次回答的長度，而是本次會話中，你發送的以及模型回答的消息總數。落格智聊是支援上下文的，而每一次發送消息，本次工作階段中的所有歷史記錄都會一併輸入，以便模型回憶起之前的內容。

怎麼才能節省點數？

每一次發消息，落格智聊都會將本次會話中所有的歷史記錄作為輸入傳給模型。這就導致上下文越多，每一次回答的成本就越高。模型處理最大可達 4096 （GPT-4 是 8000 ） 個 token，粗略計算的話，就是 0.08 點數了。所以盡量每一個會話保持同一個話題，不同的話題沒有必要保持上下文。實際上，絕大多數時候，單次詢問就足以得到正確答案了。

單個會話的歷史長度有限制嗎？

有，上文提到模型單次處理的文本最大長度是 4096（GPT-4 是 8000 ） 個 Token，事實上換算成文字可能不足 4000 字，所以整個會話的所有文字加起來最多差不多 4000 字就是一個會話所能支援的最大長度了。當然，這並不是說這個會話就不能再繼續了，如果達到了這個限制，落格智聊會自動拋棄最早的歷史數據以使請求符合模型限制。

我的聊天記錄存在哪裡？

目前落格智聊有兩個用戶端，它們分別是網頁端以及 Telegram Bot 端。

• 網頁端：你的聊天記錄存儲在你當前瀏覽器的本地儲存裡。同時還有你登錄的 Token 等等，如果你清除瀏覽器存儲，那這些數據就會被一併清除。當然，當你向落格智聊提問時，你當前會話的所有歷史記錄包括新的提問都會發給落格工作室的伺服器，但這些數據並不會存儲在工作室的伺服器中，它們會被立即轉發到 OpenAI 的 GPT 模型 API， 當得到模型的回復后，這些數據也會立即返回給用戶端。落格工作室的伺服器僅做轉發和記錄 Token 數量進行計費。
• Telegram Bot 端：你的聊天記錄會被【明文】存儲在落格工作室帳號下的亞馬遜雲 DynamoDB 資料庫中，最多會保留 30 條（目前的設定，將來可能動態增多或者減少）消息記錄，包括你發送的以及模型回復的消息，以便於你在發送消息後作為歷史消息傳遞給模型。我們強烈建議你在提問結束后使用 /clear 命令來清空後台歷史記錄，即保護隱私，也能節省點數消耗，還能方便下次提問。

我的帳號資訊安全嗎？

安全。請放心我們並沒有明文存儲你的密碼 ：）

實際上，你的帳號資訊根本就不在落格工作室的資料庫中。它們存儲於美國區亞馬遜雲 Cognito 服務中，當你通過這個服務認證並登錄后，會獲得一個 JWT token，每當請求落格工作室的伺服器時，落格工作室的伺服器也會去 Cognito 服務進行校驗，這就完美地保護了你的賬號隱私。

你的網站和後台都是用什麼實現的？ 安全嗎？

• 網站：使用 React 開發，部署在亞馬遜雲的物件存儲容器中，使用亞馬遜雲的 CloudFront 服務進行分發。
• 伺服器：後台則是 Flask，使用 Gunicorn 運行，並使用 Caddy 進行反代，運行在亞馬遜雲的 Lightsail VPS 上。數據則存儲在亞馬遜雲的 DynamoDB 服務中，整個後台伺服器是無狀態的。
• Telegram Bot：伺服器同時也在運行Telegram Bot，使用的是 web hook 回調。
• 桌面用戶端：使用 Electron 技術封裝 React App 實現。
• 移動用戶端：使用 Ionic Capacitor 技術封裝 React App 實現。

為什麼有時候落格智聊說一半就停了？

OpenAI 的 API 有時候就會這樣，這種情況更容易出現在網路品質差的時候，技術細節是 「ChunkEncodingError」 目前上游框架還在積極討論解決方案。所以在有上游解決方案之前，落格智聊會提前結束避免報錯，當你遇到這種突兀的結束時，只需要發個“繼續”，“continue”，模型就會根據歷史數據繼續生成未完成的結果了。

落格智聊有移動端 app 嗎？

這個可以有 ：） 落格智聊支援 macOS iOS ChromeOS Windows Linux Android 用戶端，請移步 HTTPs://im.logcg.com/chat-ai 下載。

當然，你也可以用手機瀏覽器打開落格智聊 https://chat-ai.logcg.com，iOS 使用Safari，打開後點分享，點添加到 Home 介面。這樣當你從 Home 介面打開落格智聊時，它就是App了。這個技術叫做 PWA，可以讓支援的 Web App 像本地 App 一樣地運行。

Android 使用 Chrome based 任何瀏覽器，打開後點功能表，應該會有一個安裝 App 的選項，點擊后就可以正常安裝了。同樣是 PWA 技術，不佔空間，綠色環保。

⚠️ 注意，移動端和 Tg Bot 端一樣，不支援多個會話切換。

Telegram Bot 都支援哪些功能？

相比網頁版，Telegram Bot 有一個獨佔的功能，就是編輯歷史消息中的某一條（前提是你沒有清空當前會話），從而讓模型重新生成答案。

1. 網頁版和客戶端支援代碼高亮，Bot 不支援。
2. 網頁版和客戶端支援多個會話切換，Bot 不支援。
3. 網頁版和客戶端本地存儲消息記錄，Bot 消息記錄會同步存儲在後台伺服器。
4. 網頁版和客戶端不支援編輯歷史消息，Bot 可以編輯歷史消息重新生成答案（清除了後台記錄就不行了）。

落格智聊可以提供 API 接入嗎？

落格智聊是支援 API 接入的，不過當你使用 API 接入時，落格智聊的高級功能，比如聯網搜索機制和內置的 prompt 都不會生效，一切以客戶端發來的配置為準。這麼做是為了提升和各種用戶端的相容性。

落格智聊的 API 都支援哪些用戶端？

理論上任何第三方 GPT 用戶端，只要支援自定義功能變數名稱，就可以接入。目前已知支援的用戶端有（以確認支持時間排序，包括但不限於）：

• OpenCat
• Bob 第三方 GPT 翻譯外掛程式
• AMA
• BlenderGPT
• 更好的聊天
• Bob 官方 GPT 翻譯外掛程式

有什麼使用例子嗎？

1. xxx用英語怎麼說？
2. （簡單的數學計算）
3. 12美元是多少人民幣？
4. 咖啡渣可以當肥料嗎？
5. 用 Python 寫一個 helloworld 例子
6. 我想要一個 Rust 程式，這個程式讀取一個csv檔並在「value」一欄加20然後輸出。
7. 我的代碼調用的 xxx 框架，但調用 xxx() 的時候報錯 error:xxx。，可能是什麼原因造成的？– 有解決辦法嗎？– 能詳細說說例子中代碼的意思嗎？
8. 我女兒要過7歲生日了，有什麼慶祝的點子嗎？
9. 用兔子、烏龜、和鳥寫一個笑話
10. 我有一個xxx產品，幫我寫一個推廣文案。 — 改成用小紅書的風格，用 emoji 表情
11. 由於xxx原因，我們的物流要延遲了，請用英文寫一封郵件給客戶，語氣委婉一些。
12. 幫我寫一封信......
13. 這是我寫的申請信，你幫我潤色一下，內容是：......
14. 我現在很難過，你能和我聊聊嗎？
15. 這篇文章的大意是什麼？
16. ......