AI「諗嘢時間」大革新：人機協作，效率更高？

AI思考時間及提示的管理方式

在今篇文章中，我將探討當前生成式AI及大型語言模型（LLMs）中所謂的「思考時間」的三個時代，並討論即將出現的提示變化。

AI思考時間成為熱議話題

當你使用現代的生成式AI時，最新版本通常具備鏈式思考（CoT）能力。這種方法的本質在於，AI在處理用戶輸入的提示時，會推導出一系列步驟。這可以在廣義上與人類的決策和問題解決進行類比，但切勿將AI擬人化，因為AI的思考方式並不等同於人類。

在AI社群，這種延長的處理時間被賦予各種華麗的名稱，如額外的測試計算或所謂的思考、推理或推斷時間。我不喜歡使用「思考/推理/推斷時間」這個詞，因為這些詞語帶有人的思考色彩。我更願意用比較樸實的說法，簡單地稱之為AI的處理時間。

想像一下這樣的情景。

你正在使用一個下棋的AI應用。如果你將應用的處理時間限制在一瞬間，AI可能無法檢視大量的可能棋步。相反，如果你告訴AI可以用五分鐘來下棋，這將給予AI更多的處理時間，以探索各種棋步並可能得出更好的選擇。

時間估算與消耗

目前AI社群似乎喜歡「思考時間」這個聽起來很高大上的術語，因此在這篇文章中我將使用這個詞，儘管我是不情願的。你可以將思考時間理解為處理時間。

我認為生成式AI的思考時間可以劃分為三個時代：

(1) 第一時代：AI廠商選擇。AI製造商決定思考時間的長短。
(2) 第二時代：用戶選擇。用戶決定思考時間的長短。
(3) 第三時代：人機選擇。人類與AI共同決定思考時間。

目前我們主要處於第一時代。

當你向生成式AI提問時，AI會運行一定的思考時間來找出答案，而這段時間是由AI製造商決定的。在某種程度上，你可以支付費用來獲得延長的思考時間，否則時間是由AI製造商設定的。

這引導我們進入第二時代。

AI製造商開始意識到用戶可能希望自行設定思考時間，因此他們開始實施用戶選擇思考時間的選項。例如，你可以選擇低、中或高，這是ChatGPT目前的做法。此外，Anthropic則朝著滑動比例的方向發展。

然而，這種選擇的能力並不如想像中那麼完美，請耐心等待。

我預測我們將迅速進入第三時代。

在第三時代中，思考時間的長度將在人類和AI之間進行合作決定。簡而言之，生成式AI將與用戶討論思考時間的相關問題，最終由用戶決定使用的思考時間。

低、中、高選擇的例子

第一時代是你在使用大多數傳統生成式AI時所經歷的，無需過多闡述。現在讓我們直接進入逐漸出現的第二時代，看看一些例子。

選擇低、中或高的能力是簡單明了的，為第二時代的做法提供了有用的例證。AI可能會詢問你對每個提示的偏好。

例如，生成式AI可能會這樣問：
「請指明思考時間：低、中或高？」
我的輸入提示是：「這個問題的思考時間設為低。巴黎的首都是哪裡？」

在這個例子中，我告訴生成式AI我希望使用低的思考時間，因為這個問題相對簡單。

然而，某些生成式AI應用可能會完全依照你的要求行事，如果你選擇高，AI可能會進行過度的計算，這樣的結果可能會讓你支付不必要的額外處理費用，這似乎不太公平。

AI製造商的辯解是，若用戶要求高的思考時間，那麼這是用戶自己的責任。用戶必須明白他們在做什麼。

滑動比例的例子

雖然滑動比例的使用比低、中、高更引人注目，但核心問題仍然是相同的。

想像一下這樣的例子：
「請在1到10的滑動比例上指明思考時間（1為低，10為高）。」
我的輸入提示是：「思考時間設為7。告訴我根據我接下來將給你的棋盤位置，最佳的棋步是什麼。」

雖然能夠使用滑動比例聽起來很炫，但實際上，選擇思考時間的責任仍然在用戶身上。

迅速接近的第三時代

接著，我們進入即將來臨的第三時代。

假設AI使用7作為思考時間，但答案不如如果我給予更高的數字那麼好。在第一和第二時代中，你不會被告知你的時間選擇稍顯不足。這對你來說是個不幸的消息。

在第三時代中，可能會發生這樣的情況：
「你告訴我使用7的思考時間。我這樣做了。根據這個思考時間，最佳的棋步如下。我建議你考慮以更高的思考時間重新運行，以獲得更深入的答案。」

這展示了第三時代是人類與AI共同合作來確定思考時間，而不是由AI或用戶單方面決定。

中途調整的可能性

你可能對AI在事後告訴我7的選擇過低感到不滿。雖然我以9重新運行，但我已經承擔了使用7所產生的成本和延遲。這似乎有些不公平。

第三時代將引入中途調整思考時間的能力。

例如，在我最初的提示設為7的情況下，AI可能會這樣說：
「你告訴我使用7的思考時間。我現在認為，如果你願意提高到9，答案將會顯著改善。這樣可以嗎，還是我應該停在7？」

這樣的設計可以避免用戶重新運行的成本，AI能夠在處理過程中主動詢問用戶是否願意提高思考時間。

更強大的合作

在第三時代中，AI將不再僅僅依賴用戶的隨意選擇，而是根據用戶的需求提供建議。

例如，生成式AI可能會這樣說：
「我會定期分析你用來回答問題的思考時間。我注意到你經常選擇中，然而大多數問題都在低範圍內解決。你可能希望考慮使用低，除非你的問題變得更複雜。」

用戶可以選擇將思考時間的默認設置為低，AI會根據用戶的需求進行調整。

思考思考時間

如果你還沒開始考慮生成式AI的思考時間，現在你已經了解未來的變化。我預期我們將迅速進入第三時代。沒有必要讓用戶困惑於第一或第二時代，現在是時候向前邁進。

最後，我想引用亨利·福特的一句話：「團結是開始，保持團結是進步，協同工作是成功。」

這同樣適用於與生成式AI的合作。人類與AI的合作是通往成功的最佳途徑。人類將會感到滿意，而AI則會「快樂」，儘管我們不應該賦予非感知AI這種情感。我們必須保持清醒，清楚當代AI的能力與限制。這是思考我們的思考時間的良好用途。

以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。