Andreessen 談 AI 風險與網路四十年

AI 助理能直接給答案之後，「十個藍色連結」式的搜尋要如何自處；如果多數對話都跟 AI 進行，越獄版 ChatGPT（DAN）與 Bing（Sydney）的對話記錄已經成了訓練下一代模型的資料。

AI 自己生成的內容到底能不能拿來訓練下一代模型，兩人稱這是決定誰賺誰虧一兆美元的問題。

LLM 編造內容的傾向被稱為幻覺，但在法律等領域「創意」反而有用，重點是分清楚兩者的界線。

Wikipedia 不是每一頁都對，但整體機率正確；Andreessen 認為人類幾千年來都很難真正搞懂什麼是真相。

從 RLHF 訓練該聽誰的意見，聊到媒體如何形塑歷史敘事，一路談到 LLM 有可能變成新一代的主流媒體。

回顧 Transformer 明明是 Google 發明的，為什麼是 OpenAI 先做出 GPT；討論大公司與新創各自的優劣勢。

從兒子覺得 Bing 比 ChatGPT 好用講起，討論瀏覽器有沒有可能變成「脫離控制環境」的逃生艙。

Andreessen 生於 1971 年，大學正好碰上美國政府砸錢建學術網路骨幹，意外提早用上當時最先進的設備。

早期的網頁全是文字，團隊要把散落各處的協定整合成一個圖形化瀏覽器；中間也聊到賈伯斯對設計近乎偏執的追求。

從自己經營的「What's New」頁面，到印度餐廳把菜單搬上網的震撼，再到當年關於圖片與加密出口管制的爭論。

Netscape 選擇用文字格式做 HTTP、HTML，犧牲效能換來 view source 這種讓任何人都能學會做網頁的能力。

43 億美元收購案發生在網路泡沫最瘋狂的時刻，Andreessen 也談到軟體如何把勞動直接轉換成資本。

文章主論點：人類智力越高，人生各方面表現都越好，AI 等於把這種放大效果普及給每一個人。

借用美國禁酒令時代的比喻，說明真心擔憂 AI 的人跟藉機推動監管牟利的人常常混在一起發聲。

Andreessen 主張「AI 毀滅人類」是宗教式主張而非科學假說，並拿千禧年式末日教派的心理機制來類比。

從「邪惡 AGI 上哪弄 GPU」的實際反駁，聊到 COVID 模型全部失靈的經驗，主張「模型」本身不等於科學。

批評《Superintelligence》寫於 LLM 出現之前卻被硬套用；再聊到自動化武器該不該讓機器決定開火，以及「聰明到能毀滅世界、卻笨到會被程式錯誤搞垮」的矛盾。

回顧核武歷史：馮紐曼主張搶先開戰，歐本海默事後懊悔公開發聲，而核武最終反而阻止了第三次世界大戰。

社群媒體十年來對仇恨言論與假訊息的戰爭，原封不動搬到 AI 身上，Andreessen 主張社群協作式查核優於中心化審查。

主張現有法律已涵蓋多數犯罪情境，重點該放在防禦端；也談到開源模型不像鈽，沒辦法用管制原料的方式去管制。

重提馬克思對機械化的錯誤預言，主張資本家為了賣給最大市場一定會把價格壓低，「勞動總量謬論」也不成立。

認為最大風險是中國透過數位絲路輸出威權式 AI 治理，而不是西方自己過度管制自己。

好的創辦人需要聰明、精力與勇氣三者兼具，而勇氣說穿了就是願意一直被拒絕。

Andreessen 刻意抽離政治參與，回頭讀遍美國左右派歷史書單，也推薦研究古希臘羅馬崇拜文化的《古代城邦》。

從 AI 時代為什麼沒有出現超高產出的創作者，聊到「不追求平衡、只追求全心投入」的工作哲學、滿足感和快樂的差別，以及 Elon Musk 為什麼特別。

收尾問題：這一切的意義是什麼？Andreessen 的答案是先追求愛，其次才是金錢，兩者都好過用強迫的。