No.37：伊利亞·蘇茨克弗——超級智能（ASI）的孤獨守門人2天前步行街主干道收聽播客
主播|散修小仙（貝貝）張歡 伊利亞·蘇茨克弗（Ilya Sutskever）是ChatGPT的“造物主”之一，是茨克2023年那場震動全球的OpenAI“宮斗”風暴的核心。但在被貼上“逼宮者”的弗超標簽之前與之后，他更是孤獨守一位從AlexNet時代就塑造AI面貌的奠基科學家，一個對“人工智能可能終結人類”懷有深切恐懼的門人先知，以及一個正在用新公司押注人類未來的伊利亞蘇孤獨探索者。今天，茨克我們就來講述這位天才科學家的弗超故事，他的孤獨守恐懼、他的門人堅持，以及他對人類命運的伊利亞蘇宏大思考。
伊利亞·蘇茨克弗（Ilya Sutskever）
時間軸
——————————————————————————————
第一部分：天才的茨克軌跡——從諾夫哥羅德到AI神壇
第二部分：裂痕與風暴——與山姆·奧特曼的根本分歧
第三部分：成立Safe Superintelligence Inc
第四部分：最新的3個洞察
在近期深度訪談中，伊利亞分享了他最新的弗超思考，總結一下，孤獨守就是門人3個洞察
洞察1：那種無腦堆算力的時代，已經(jīng)翻篇了
過去這五年，大家都在喊規(guī)模法則，好像只要GPU夠多、數(shù)據(jù)夠大，把整個互聯(lián)網(wǎng)喂進去，AGI就自動產(chǎn)出來了。但Ilya直接潑了盆冷水。他說Pre-training（預訓練）已經(jīng)開始式微，現(xiàn)在數(shù)據(jù)快用光了，到了后面這一步（強化學習和后訓練），光靠“大”沒用了?，F(xiàn)在又回到了2012年之前那種需要“拼品味、拼直覺”的手搓時代（Age of Research）。
洞察2：情緒不是人類的累贅，而是進化給人類的禮物
我們通常覺得AI是理性的，人類是感性的，情緒會壞事。Ilya把這個反過來了。人類的“情緒”是一個被進化硬寫進基因里的、極其精準的“價值函數(shù)”?，F(xiàn)在的AI之所以笨，是因為它們沒有情緒。所以，讓AI擁有“情緒”或者說“直覺”，反而是通往真正智能的必經(jīng)之路。
洞察3：AGI不是全知全能的神
Ilya說真正的AGI更像是一個“15歲的天才少年”。它可能剛出來時什么行業(yè)黑話都不懂，但它學習能力很強。而且，它們在未來可以“合并智能”。這一秒它還是個新手，下一秒它就擁有了100萬人一輩子的經(jīng)驗。這種“分布式體驗，集中式進化”，才是經(jīng)濟奇點真正到來的方式。
主播結語：
“技術奇點”引發(fā)了一系列倫理和哲學問題，包括機器的權利、人類存在的意義，以及人類如何控制和利用這種強大的技術力量等。這可能導致人類文明發(fā)生根本性變化，也可能使人類社會陷入越來越大的矛盾和危機中。
在奧特曼忙于商業(yè)、官司與并購時，伊利亞就像一個孤獨的守門人，帶領SSI進行一場可能定義人類命運的、孤獨的豪賭。
——————————————————————————————
你可以在小宇宙、喜馬拉雅、蘋果播客、虎撲等平臺找到我們。歡迎關注、評論、轉發(fā)，我們真誠感謝所有反饋，同時也期待與大家有更多連接。
主播|散修小仙（貝貝）張歡 伊利亞·蘇茨克弗（Ilya Sutskever）是ChatGPT的“造物主”之一，是2023年那場震動全球的OpenAI“宮斗”風暴的核心。但在被貼上“逼宮者”的標簽之前與之后，他更是一位從AlexNet時代就塑造AI面貌的奠基科學家，一個對“人工智能可能終結人類”懷有深切恐懼的先知，以及一個正在用新公司押注人類未來的孤獨探索者。今天，我們就來講述這位天才科學家的故事，他的恐懼、他的堅持，以及他對人類命運的宏大思考。
伊利亞·蘇茨克弗（Ilya Sutskever）
時間軸
——————————————————————————————
第一部分：天才的軌跡——從諾夫哥羅德到AI神壇
第二部分：裂痕與風暴——與山姆·奧特曼的根本分歧
第三部分：成立Safe Superintelligence Inc
第四部分：最新的3個洞察
在近期深度訪談中，伊利亞分享了他最新的思考，總結一下，就是3個洞察
洞察1：那種無腦堆算力的時代，已經(jīng)翻篇了
過去這五年，大家都在喊規(guī)模法則，好像只要GPU夠多、數(shù)據(jù)夠大，把整個互聯(lián)網(wǎng)喂進去，AGI就自動產(chǎn)出來了。但Ilya直接潑了盆冷水。他說Pre-training（預訓練）已經(jīng)開始式微，現(xiàn)在數(shù)據(jù)快用光了，到了后面這一步（強化學習和后訓練），光靠“大”沒用了?，F(xiàn)在又回到了2012年之前那種需要“拼品味、拼直覺”的手搓時代（Age of Research）。
洞察2：情緒不是人類的累贅，而是進化給人類的禮物
我們通常覺得AI是理性的，人類是感性的，情緒會壞事。Ilya把這個反過來了。人類的“情緒”是一個被進化硬寫進基因里的、極其精準的“價值函數(shù)”。現(xiàn)在的AI之所以笨，是因為它們沒有情緒。所以，讓AI擁有“情緒”或者說“直覺”，反而是通往真正智能的必經(jīng)之路。
洞察3：AGI不是全知全能的神
Ilya說真正的AGI更像是一個“15歲的天才少年”。它可能剛出來時什么行業(yè)黑話都不懂，但它學習能力很強。而且，它們在未來可以“合并智能”。這一秒它還是個新手，下一秒它就擁有了100萬人一輩子的經(jīng)驗。這種“分布式體驗，集中式進化”，才是經(jīng)濟奇點真正到來的方式。
主播結語：
“技術奇點”引發(fā)了一系列倫理和哲學問題，包括機器的權利、人類存在的意義，以及人類如何控制和利用這種強大的技術力量等。這可能導致人類文明發(fā)生根本性變化，也可能使人類社會陷入越來越大的矛盾和危機中。
在奧特曼忙于商業(yè)、官司與并購時，伊利亞就像一個孤獨的守門人，帶領SSI進行一場可能定義人類命運的、孤獨的豪賭。
——————————————————————————————
你可以在小宇宙、喜馬拉雅、蘋果播客、虎撲等平臺找到我們。歡迎關注、評論、轉發(fā)，我們真誠感謝所有反饋，同時也期待與大家有更多連接。
章節(jié)評論
段評