作者: David 陳文剛

[大衛選讀] 最近 Anthropic 執行長 Dario Amodei 跳出來警告，AI 可能在五年內取代多達 50% 的初階白領工作。看著專訪影片，真的可以感受到他心中那股濃濃的急迫感。

對於未來 2-3 年內職場將有大變革，我是早就這麼看了。所以急迫感背後，我真正會去思考的問題是：顛覆後的下一步到底會怎麼走？

在這問題上，我覺得設計師的視角，遠遠比技術專家來得更有前瞻性。包含從歷史上來看，技術變革是怎麼進展的，分成哪些階段，我們現在又處於什麼狀態，該突破些什麼？

本文選讀彙整了多篇文章，內容整理如下，原文連結則放在留言中。

歷史上所有的技術變革，都需要經歷一段歷程才會真正融入人類社會

面對 AI 這樣子的顛覆性技術，不用慌，重點是了解整體的脈絡階段。知道現在身在何處，以及未來可能會往哪裡去。

IDEO 前執行長 Tim Brown 就將技術顛覆 (disruption) 描述為一段持續演進的歷程，而不是單點瞬間的跳轉 (a journey, not just a momentary shift)。

他認為歷史上任何新技術的誕生，最初往往只有少數人能夠理解當中的部分意義。隨著時間的推移，當越來越多的人開始掌握這項技術，那些關於如何應用這些新技術的想法，就會如雨後春筍般湧現，這也才會開啟真正的變革旅程。

以馬車到汽車的轉變為例。第一批的汽車被稱作「無馬馬車, horseless carriages」。這名稱真的很好笑但貼切，因為它們僅僅是模仿了舊的馬車形式，但是多配備了引擎。

隨著時間演進，車輛的形式不斷發展。從過往馬車的設計，以人與動物互動為基礎，強調人與馬匹的溝通、控制與安全。再到福特T型車，著重如何高效率地製造和使用機械，提供標準的操控系統如方向盤、踏板等，以確保一般大眾都能容易且經濟地掌控這項新技術。這才讓人人都買得起，而且可以放心在路上開。

汽車技術漸趨成熟，進一步引發了整個汽車生態系的蓬勃發展，包含州際公路、加油站和修理廠等，整段發展旅程歷經了數十年。

雖然現在 AI 技術發展速度更快，但這種技術顛覆仍然遵循著類似的階段模式：新興 (Emergent)、演變 (Evolved)，然後是影響擴及整個系統的成熟 (Mature) 階段。

技術帶來的顛覆，可以拆解成為三進程

Tim Brown 將技術顛覆的歷程，切分為三個可理解預測的階段。首先是新興 (Emergent) 階段，人們最初會被新技術的神奇特性所吸引，甚至出現過度宣傳，認為它將改變一切。

然而，技術的早期應用往往只是以不同的方式，去模仿過去的做法。「無馬馬車」就是一個很經典的例子，而當前火熱的Gen AI，也正處於這樣的萌芽階段。

現在哪一個 AI 應用，不是用聊天對話框呈現？對話互動形式到處都是，但很大程度上還是在「用新方法做舊事情」，只是順勢延續了我們跟舊技術間的的互動操作模式。

現階段的 AI 人工智慧發展，最大程度也只是在新興的第一階段而已。

[大衛選讀] 平常在開會或做設計討論時，我多半會打開筆記本，霹靂啪啦開始寫東西。有些設計師會問我，腦袋想就好，為什麼一定要打字？

這大概是研究所以後養成的習慣吧，一開始是為了把議題記錄下來，避免遺漏了而寫。後來慢慢演變成，只有三成記錄眼前脈絡，更多的是記錄腦袋裡的想法。

所以我的筆記除了聽到的重點之外，大部分會是我腦中的提問、可能的假設，以及後續的規劃與建議。有邊想邊記錄下來，思緒會變得很清晰，而且很快就能進入反思與決策。

生成式 AI 一鍵就可以錄音並且總結會議記錄，一開始用很驚艷，可是用著用著，我發現思考變慢變薄了，有一種腦霧感。

仔細想想，我的體感經驗完全呼應到 Paul Graham 所說的：寫作本身就是思考 (writing is thinking)。寫作本質上是一個擴充腦力、精鍊邏輯思維的過程，而不只是生成文字而已。

很快地，未來大量的寫作工作一定會被外包給 AI。但是思考跟語文能力的鍛鍊，想要讓腦袋變聰明，就更需要靠自己有意識地健身勞動了。

本文選讀彙整了多篇文章，內容整理如下，原文連結則放在留言中。

寫作就是思考，難以簡化，而且頗有壓力

Paul Graham 前一陣子寫了篇文章，名為《Writes and Write-Nots, 會寫作，與不寫作的人》。他認為，寫作本身就是思考 (writing is thinking)。寫作早已內嵌在許多工作中，而且工作的影響力越大，往往需要越多的寫作。

寫作本質上是件很困難的事，而且難以簡化。要寫得好，你必須思考清晰 (think clearly)，而清晰地思考是件難事。

腦袋沒想清楚，寫得狗屁不通已經夠糟；如果還沒有深入思考，就去抄襲別人的文字，那就更慘了。字裡行間會顯露出瑣碎、平凡，而且缺乏洞見與思辨能力。

寫作，確實是件頗有壓力的事情。

一旦可以把寫作外包給 AI，人類將往兩個極端走

然而 AI 打開了一個新的可能性，生成式人工智慧一出現，幾乎所有寫作的壓力都已散去。無論是在學校還是工作中，幾乎都可以讓 AI 幫你代筆。

可清楚預見的，把寫作外包給 AI 的趨勢會加速發展。過往那個嘔心瀝血構思文句的繁重工作，一旦可以外包出去，那種一鍵生成快速便利的感覺，真是會令人感到興奮。

舉凡公司郵件、法律文件、伴娘致辭、訃文等，可預見的是，人工智能寫作將無處不在，要生成多少文字就有多少文字，甚至跟真人寫的沒什麼差別。

結果是，這個世界將分成兩群人：寫作者 & 非寫作者。喜歡寫作的人會變得更為優秀、更懂得思考；而其他人則會變得更加不擅長這些事情。

人工智能魔法的便利性，是有其代價的 (the convenience of AI magic comes at a cost)

AI 生成取代寫作，不僅是一種自動化的進程而已。這並不像是從算盤過渡到電子計算機那樣，只是計算上的勞力替代。讓人工智能為我們寫作的後果，實際上更加危險。

[大衛選讀] 關於人工智慧的發展與影響，近期有很多思辨。像是AI Is a False God, Artificial intelligence is losing hype等，都在講現在看到的人工智慧，只是一種假象。看似充滿智慧的背後，只是玩弄了人類熟知的表達形式，並不代表真知卓見與創新巨變。

相較之下，哈拉瑞 (Yuval Noah Harari) 的新書摘要，一篇名為《永遠不要召喚你無法控制的力量》的文章，則更能引起我的深度反思。

哈拉瑞是著名的歷史學者、哲學家暨暢銷作者，著有人類大歷史三部曲。他不從短期技術分析著手，更關注人類歷史長期的發展與演變趨勢。他認為人工智慧並不等同於以往的技術革新，不只是個工具，而是歷史上第一個能夠自己做決定和創造新想法的技術。

以 AlphaGo 的第 37 手棋作為關鍵分界點，人工智慧的特質，包含越來越不依賴人造的外星本質 (the alien nature of AI)，以及不可理解性 (the unfathomability of AI)，對於人類來說都是前所未有的挑戰甚至威脅。

往後如果有幸，人類沒有發動大規模戰爭，毀滅掉了自己，也勢必要面臨人工智慧壓倒性的挑戰。團結一致是唯一的機會，不然召喚出無法控制的力量之後，就很難抵禦我們孕育出來的超高等智慧了。

文章很長，值得細讀思考。內容整理如下，原文連結：https://www.theguardian.com/technology/article/2024/aug/24/yuval-noah-harari-ai-book-extract-nexus

永遠不要召喚你無法控制的力量 Never summon a power you can’t control

忘記好萊塢電影演的魔鬼終結者機器人吧，人工智慧的現實情況，遠比這些電影更加危險。

縱觀歷史，許多傳統思想都認為人性中存在某種致命的缺陷，誘使我們追求我們不知該如何處理的力量。

例如希臘神話中，法厄同妄圖駕駛太陽神赫利俄斯的太陽戰車，結果失控引發災難。兩千年後，當工業革命邁出第一步，機器開始在許多任務中取代人類時，歌德的警世故事《魔法師的學徒》講述了學徒使用魔法讓掃帚取水，卻無法加以控制而釀成大洪水。這兩個故事都警示人類：不要貿然召喚或使用超出自身掌控能力的力量。

人工智慧對人類構成前所未有的威脅，因為它是歷史上第一個能夠自己做決定和創造新想法的技術 (the first technology in history that can make decisions and create new ideas by itself)

以前所有的發明都是為人類賦能，因為無論新工具有多麼強大，使用它的決定仍然掌握在我們手中。核彈不會自己決定殺死誰，也無法改進自己或自行發明出更強大的炸彈。

相比之下，自主無人機可以自己決定殺死誰，而 AI 可以創造新穎的炸彈設計、前所未有的軍事策略和更好的人工智慧。

人工智慧不只是工具，它是一個智能個體 (AI isn’t a tool – it’s an agent)。人工智慧最大的威脅在於，我們正在召喚無數個新的強大智能個體到地球上，它們可能比我們更聰明、更有想像力，而我們並不完全理解或控制它們。

AI 過往被用來當做人工智慧 (artificial intelligence) 的縮寫，但也許將其視為外星智慧 (alien intelligence) 的縮寫更為恰當

隨著人工智慧的發展，在依賴人類設計的意義層面上，它變得越來越不「人造」，反而更加地「外星」。

許多人試圖用「人類水平智能」的標準來衡量甚至定義人工智慧，我覺得這樣的標準有很深的誤導性。這就像用「鳥類水平般的飛行」標準來定義和評估飛機一樣，這兩者間已經是完全不同的尺度。

人工智慧並不是在朝著人類水平智能前進。它正在發展一種更像是外星類型的智能。

現在的人工智慧已經能夠自己創作藝術和進行科學發現。在未來幾十年內，它很可能獲得創造新生命形式的能力 (AI will gain the ability even to create new life forms)。無論是通過編寫基因代碼還是發明使無機實體生動起來的無機代碼。

因此，人工智慧可能會改變不僅是我們物種的歷史，而且是所有生命形式的進化進程 (not just of our species’ history but of the evolution of all life forms)。