分類: AI 人工智能

[大衛選讀] 當機器預測 (prediction) 變成幾乎免費，人類判斷力 (judgment) 的價值才正要彰顯。

隨著人工智慧技術的日益成熟，機器預測的成本正在快速下降，甚至有望在不久的將來變得幾乎免費。

這一趨勢將對商業決策和人才需求產生深遠影響，正如Ajay Agrawal, Joshua Gans 和 Avi Goldfarb 在他們的著作《AI 經濟的策略思維, Prediction Machines》中所預言的那樣。當預測變得唾手可得時，它將徹底改變企業運作的模式，並且重新定義工作的價值。

在傳統的商業決策中，預測和判斷往往交織在一起，難以區分。然而，人工智慧的崛起正在改變這一狀況。機器學習演算法藉著能處理海量數據的能力，可以生成高度精準的預測結果，而這一任務恰好是人類所不擅長的。

(本文為心得摘要，完整原文內容：https://hbr.org/2017/07/how-ai-will-change-the-way-we-make-decisions)

▎當預測成本趨近為零 (as the cost of machine prediction falls to almost zero)

當預測成本趨近為零時，企業將更多地依賴機器來完成這一流程，從而將人力資源釋放出來，專注於往上一層的判斷和決策。

然而，預測只是決策的一個環節，判斷力才是其中的關鍵。判斷力是一種根據特定情境，權衡行動利弊後，做出最佳決策的能力 (Judgment is the process of determining what the reward to a particular action is in a particular environment).

雖然人工智慧可以提供精準的預測，但它並不能自主地確定什麼樣的結果對組織最有利。這就需要人類運用判斷力，根據組織的目標和價值觀來設計適當的獎勵函數，指導人工智慧系統的運作方向。

[大衛選讀] 去年底的 AI 熱潮開始後，我就一直在找關於人工智能發展的基礎原則。若能看懂大的原則跟方向，後面要做自我技能的發展，或是特定的投資決策，都會比較容易些。

On some first principles of intelligence 這篇文章，試著寫出了智能的幾個第一性原則，並且用此對比人工智慧的發展。

文中提到了如何建立資訊反饋機制 (feedback mechanism)、善用電腦在儲存與計算上的巨大優勢、以及怎樣發展泛化能力 (generalization capability) 等概念，非常具啟發性。

原文是一篇很簡短，但有點硬的文章。為了讓自己讀懂，我額外讀了不少相關資訊，再擴寫成以下的重點摘要。

內容整理如下，原文連結：https://www.lesswrong.com/posts/oJzHEYL9ztgMwsze9/on-some-first-principles-of-intelligence

▋On some first principles of intelligence

關於智能的第一性原則

過去十年中 AI 研究的進展和成功，似乎都可以追溯到上世紀所發現的一些關於智能本質的基本原則。以下就來細談這幾個可以視為是智能的第一性原則，以及這些原則對於 AI 人工智能發展的影響。

▎由 Robert Wiener 提出的反饋機制 (Feedback mechanism)

一般來說，反饋 (feedback) 是對於資訊迴路的抽象描述，目的是在確保一個系統能夠持續地改善與調適 (improvement/adaptation)。

在真實世界裡，人類和動物都需要收到反饋，以便提高做某件事情的技能水準。同樣的，一個產品或技術，也需要來自於外部環境的反饋資訊，來逐步改進以達到一定的可用性。

我們可以這樣說，任何有用的自動化系統，本身都是封閉迴路的反饋系統 (closed-loop feedback system)。系統會監控輸出，並且用來調整輸入；藉由不斷地回饋本身的狀態，來自行調整運作效能。

從這個角度來看，那些沒有反饋機制的自我監督機器學習，像是設定了很多規則去模擬但卻沒有真實上路的自駕系統，發展到最後並不能產生令人滿意的結果，那就一點也不意外了。因為這樣的系統，缺乏來自於外部環境對於表現好壞的反饋。

這些資訊是非常必要的，可以用來改進跟修正。

從這個角度來看，一個 AGI 通用人工智慧必須要能夠自主與環境互動，透過觀察去收集動作之後的反饋，並通過某種機制去持續地整合所得資訊，進而改寫優化自身的程式碼。

▎由 Rolf Landauer 提出的蘭道爾原理 (Landauer’s Principle)

Landauer’s Principle 把資訊熵 (information entropy) 與熱力學的熵 (thermal dynamics entropy)，巧妙地連結在一起。兩者同樣都遵循熱力學的第二定律。這個原理認為，當你刪除一個位元的資訊時，會有對應的能量被釋放到環境中，也就是變成熱能。資訊處理和能量消耗之間是密不可分的。

熵在這裡可以被視為一個對不確定性 (uncertainty)，或混亂程度 (disorder) 的度量。在人工智能領域中，降低熵就意味著減少不確定性、提高模型的預測能力或效能。

如果一個演算法被放在封閉系統裡，沒有來自外部環境的資訊反饋，像是加入更多的新數據或是人類的知識，它將無法學習或適應新的狀況。它的智能水平或是預測能力將無法提昇，熵也就不會降低。

目前最常用的反饋方法是，利用工程師自己的理解和判斷，來優化和改進機器學習模型。然而人類的思考速度和處理能力相對較慢，而且可能受到先入為主的偏見影響。隨著數據和模型規模的增長，單單只靠人類工程師的大腦來反饋和優化，可能會變得越來越不切實際。

[大衛選讀] 這是一個最近經常聽到，但是眾說紛紜的議題。

2010年以前，關於資訊與內容，大家關心的是資訊過載 (information overload) 的問題。電子郵件、內容農場、社群媒體等應用加在一起，造成了資訊量過大，超過人們認知負荷，而有一波焦慮跟反思。

2022年以後，生成式人工智慧，則是帶來另外一波大浪。AI 生成的內容，開始可以大量無限制的產出，而且跟人類撰寫的內容已經開始不分軒輊。這就不只是閱讀接收端的問題了，而是會大幅影響到內容生產端。

Will AI Lead to Content Hyperinflation? 這一篇文章從網路創業者的角度來看，試著去思考：如果內容是網路出版的「貨幣」，那麼開始進入「通貨膨脹」時期的我們，又該如何面對，甚至善用這場大劇變？

我很喜歡他的結論，最終還是回到，大家為什麼要買你的內容。消費者真的是買一本書、訂閱一個頻道嗎；還是為了「信任」、「參與」和「影響力」而付費？

重點摘要整理如下，全文連結：https://copymatic.ai/will-ai-lead-to-content-hyperinflation/

人工智能會導致內容的超級通膨嗎？

ChatGPT 已經證明是 AI 的關鍵突破，它讓大眾為之著迷；同時也讓理解其連鎖影響的人，感到深刻的憂慮。

對於一般大學生或自由撰稿人來說，透過簡單的文字提示，就可以在 30 秒內生出一篇獨特且看起來可信的文章，這聽起來簡直像是天堂一樣 。

直到你開始去想像往後的情境，並開始意識到，這最終將走向何方。未來還是天堂嗎，這就是個問題了。

無論如何，看起來我們最終將不可避免地，得面對 AI 內容的海嘯。讓我們更深入地去想一下，這意味著什麼。到底是挑戰，還是機會。

首先，圖靈測試將會被突破, Passing the Turing Test

Alan Turing 在1950年設計了圖靈測試的思想實驗，用來看機器是否能真正展現出與人類無法區分的行為與溝通。70年後的今天，無論 GPT-4 或其他 LLM 是否能正式通過圖靈測試，我們基本上已經打開了潘多拉的盒子。

AI 創建優質內容的能力，將達到一個難以想像的規模。這樣的內容閱讀起來，就像人類親手寫的一樣。這個現實，已經近在咫尺。

再來，不祥的預兆已經出現, The Writing on the Wall

ChatGPT 推出後只花了兩個月，用戶數就從零增長到1億，成為歷史上成長最快的單一應用。

這成就非常驚人，但同樣令人驚訝的是，大型科技公司如何迅速地面對現實，棄械投降。這當中最引人注目的是 Google 對「自動化內容, automated content」，在態度上的明顯急轉彎。這是讓 SEO領域和出版業界難以接受的事情，因為這跟 Google 先前十幾年來的規範指引，明顯是互相矛盾的。過往這些搜尋相關的規範，明顯地反對任何形式的內容自動化。

這對於網站經營者、SEO產業，甚至對於一般的Google搜尋用戶都有巨大的影響。其中最明顯的影響，就是內容量的問題。

如果 GPT-4 真的可以透過簡單的文字提示，就寫出一本 60,000頁的小說；那麼有什麼可以阻止它在幾分鐘內，就建立起一個真正有用的 60,000 頁權威網站呢？這是一個極端的例子，但確實也是非常可能發生的狀況。

即使出版商很克制地只使用 AI 進行概念發想、內容延伸，或者只使用在頁面的某些區域；其結果仍然會是，每一個利基市場的內容量，以及其中的競爭，將會因此增加好幾個數量級，而且幾乎不需要額外的成本。

我們已經看到像 Red Ventures 這樣的大型出版商，公開揭露他們所發佈的內容，有採用「內容自動化」技術。很確定的是，如果他們的競爭對手，看到他們使用這種策略可以獲得成功，其他出版商將會盡可能快地啟動 AI 引擎。

如果內容是網路出版的「貨幣」，那麼我們確實開始進入「通貨膨脹」時期。

[大衛選讀] 這一期經濟學人當中，有一篇文章吸引了我的注意。標題是：「人工智能已經入侵了人類文明的操作系統」。

近期 AI 工具一波波導入，大家開心擁抱各種研討會新知的時候，我覺得是值得靜下心來去思考的觀點。

重點摘要整理如下，全文連結：https://www.economist.com/by-invitation/2023/04/28/yuval-noah-harari-argues-that-ai-has-hacked-the-operating-system-of-human-civilisation

Yuval Noah Harari 認為，人工智能已經入侵了人類文明的操作系統。這位歷史學家和哲學家指出，會講故事的電腦，將徹底改變人類歷史的進程。

自從計算機時代以來，人工智能(AI) 的發展一直困擾著人類。迄今為止，這些恐懼主要集中在機器通過物理手段殺掉、奴役或取代人類。但在過去幾年中，出現了新的人工智能工具，從意想不到的方向威脅著人類文明的生存。人工智能已經取得了一些驚人的語言操作和生成能力，無論是文字、聲音還是圖像。

人工智能因此入侵了我們文明的操作系統。

語言是幾乎所有人類文化的基石。例如，人權並未刻在我們的DNA上。相反地，人權是我們通過講故事，和制定法律時，所創造的文化產物。上帝神佛也並非物質現實，而是我們通過創造神話，和撰寫經文時，所創造出的文化產物。

貨幣也是一種文化產物。紙幣只是五顏六色的紙張，而目前超過 90% 的貨幣甚至不是紙幣，它只是電腦計算機裡頭的一串數字。賦予貨幣價值的是故事，是銀行家、財政部長和加密貨幣大師們，所告訴我們的故事。Sam Bankman-Fried、Elizabeth Holmes 和 Bernie Madoff 在創造真實價值這方面並不擅長，但他們都是極具說服力的說故事者。

一旦 AI 比普通人更擅長講故事、譜曲、繪圖，以及撰寫法律和經文，那將會發生什麼事呢？