創造性AI的未來：Writer的Palmyra Creative模型
隨著大型語言模型的訓練數據相似，如何使這些模型更具創造性和差異化變得愈加重要。這使得客戶開始尋求能讓AI更具創造性的方式，無論是在思考還是生成更具創意的內容或想法上。
為了應對這一需求，AI初創公司Writer上個月推出了一個名為Palmyra Creative的新型大型語言模型，旨在幫助企業更好地發揮生成AI的創造潛力。其目標不僅是提供更具創意的輸出，還希望企業能在思考和構思新想法時，使用AI的方式變得更具創意。
目前，AI在創造性思維方面已取得了長足的進步。例如，一些研究發現，在發散性思維等領域，大型語言模型的創造力甚至超過了人類（去年發表的一些論文探討了AI模型生成多個創意想法、尋找多種問題解決方案及探索各種角度的能力）。然而，當前的模型仍然主要依賴其訓練數據的知識，而無法像人類一樣利用生活經驗或學習的教訓。
Writer的首席技術官Waseem Al Shikh表示，這一過程涉及創建自我適應或自我演化的AI模型。他指出，公司專注於開發一個基於三個獨立領域的框架的模型：模型知識、模型推理和模型行為，而不僅僅是關注模型的大小。
他告訴Digiday：「擁有一個創造性的模型是不夠的。這就像人類一樣，如果你們擁有相同的圖書館和大量的書籍，每個人都會有自己的想法，但有趣的是，我們並不只是生成一個明確主題的所有想法。因此，未來的計劃是讓我們的所有模型具備自我演化的選項，而創造性將是首要任務。」
這一過程還得益於Writer與Nvidia的合作，通過使用NIM（Nvidia推理微服務），簡化並加速AI模型在各種企業特定用途上的部署和擴展。NIM在某種程度上充當了飛行控制器，幫助決定何時使用哪個AI模型，根據公司的知識和所需任務進行調整。
解鎖新的創造性思維方式，可能為市場營銷人員及其他人提供新的途徑，幫助他們發現新想法，突破AI的回音室，擺脫困擾許多AI輸出的單一模式。
Palmyra Creative模型的獨特之處
Al Shikh指出，Writer的較大模型（例如金融或醫療模型）更專注於所謂的知識。我們希望它們對每一個公式和每一種藥物都能準確無誤。對於金融模型來說，則重點在於核心推理和數學方程式。行為也會隨之改變。一般模型則試圖在這三者之間取得平衡。
新模型及其開發方式的不同之處在於，所有模型都有相似的架構和訓練數據，這使得找到相似的權重變得至關重要。我們決定採用現有的訓練數據，但在創意權重方面更具創造性。我們訓練了三個獨立的模型，然後開始在各層之間合併這些模型並進行重組。這樣一來，就產生了一種在其他模型中不存在的獨特關係。我們還發現該模型具有有趣的行為——它能夠反駁並不遵循其他模型的傳統路徑，因為其權重對模型來說是獨一無二的。我們稱之為層之間的動態合併。
合併模型並不新鮮，但技術本身及其運用方式是新的。我們在這裡所做的，是在模型之間切割，並確保它們之間的關係不會破裂，這樣就不會產生無意義的輸出或奇怪的幻覺。這之間的界限非常微妙，幻覺與創造性之間的區別也很難把握。
控制創造性與一致性的平衡
我們自去年夏季開始就一直在努力探討，如果這些模型能更像人類思考，會是怎樣的情況？這些模型是否能反思、回顧和記住？基本上，能否讓它們在實時中超越訓練集的限制？目前的所有模型仍然被困在訓練數據中，沒有這些數據，它們幾乎無法做任何事情。我們稱這為自我演化。自我演化的模型意味著你不需要教它們，模型會即時更新其權重。模型能夠反思，並確保信息的準確性。
舉個不好的例子：如果我說我的名字是Waseem，而我是美國總統，模型會足夠聰明地知道，「也許你的名字是Waseem，但你不是美國總統。」這些至關重要的細節意味著，隨著使用的增加，模型會獲得更多控制權和知識。這是一個高層次的概念，解釋起來也需要時間，但這是標準的變壓器設計，並新增了一個名為記憶的特徵。每一層神經網絡旁邊都有記憶層。這樣一來，你就可以與模型對話，觀察其變化。
因為模型基本上不會重複犯同樣的錯誤，因為我們知道哪些答案是錯誤的。它會記住錯誤的答案，並在下次思考問題時嘗試不同的方式。我喜歡告訴我的團隊，大多數人類——並非所有人——都會從錯誤中學習，而不會重複同樣的錯誤。
評論與思考
Writer的Palmyra Creative模型展示了生成AI在創造性思維方面的潛力。它不僅僅是技術上的創新，更是對AI在企業應用中如何提升創造力的深刻理解。隨著市場對創造性解決方案的需求不斷增長，這樣的模型無疑為企業提供了新的機會。然而，這也引發了一些值得注意的問題，例如如何在保持創造性的同時，控制模型的準確性和可靠性。
在未來，企業在使用這些AI工具時，必須更加謹慎，確保這些模型不僅能生成新穎的想法，還能在道德和事實的基礎上運行。如何在創造性和準確性之間找到平衡，將成為AI技術發展中至關重要的一環。
以上文章由特價GPT API KEY所翻譯及撰寫。而圖片則由FLUX根據內容自動生成。
