No.37：伊利亞·蘇茨克弗——超級(jí)智能（ASI）的孤獨(dú)守門(mén)人2天前步行街主干道收聽(tīng)播客
主播|散修小仙（貝貝）張歡 伊利亞·蘇茨克弗（Ilya Sutskever）是ChatGPT的“造物主”之一，是茨克2023年那場(chǎng)震動(dòng)全球的OpenAI“宮斗”風(fēng)暴的核心。但在被貼上“逼宮者”的弗超標(biāo)簽之前與之后，他更是孤獨(dú)守一位從AlexNet時(shí)代就塑造AI面貌的奠基科學(xué)家，一個(gè)對(duì)“人工智能可能終結(jié)人類”懷有深切恐懼的門(mén)人先知，以及一個(gè)正在用新公司押注人類未來(lái)的伊利亞蘇孤獨(dú)探索者。今天，茨克我們就來(lái)講述這位天才科學(xué)家的弗超故事，他的孤獨(dú)守恐懼、他的門(mén)人堅(jiān)持，以及他對(duì)人類命運(yùn)的伊利亞蘇宏大思考。
伊利亞·蘇茨克弗（Ilya Sutskever）
時(shí)間軸
——————————————————————————————
第一部分：天才的茨克軌跡——從諾夫哥羅德到AI神壇
第二部分：裂痕與風(fēng)暴——與山姆·奧特曼的根本分歧
第三部分：成立Safe Superintelligence Inc
第四部分：最新的3個(gè)洞察
在近期深度訪談中，伊利亞分享了他最新的弗超思考，總結(jié)一下，孤獨(dú)守就是門(mén)人3個(gè)洞察
洞察1：那種無(wú)腦堆算力的時(shí)代，已經(jīng)翻篇了
過(guò)去這五年，大家都在喊規(guī)模法則，好像只要GPU夠多、數(shù)據(jù)夠大，把整個(gè)互聯(lián)網(wǎng)喂進(jìn)去，AGI就自動(dòng)產(chǎn)出來(lái)了。但I(xiàn)lya直接潑了盆冷水。他說(shuō)Pre-training（預(yù)訓(xùn)練）已經(jīng)開(kāi)始式微，現(xiàn)在數(shù)據(jù)快用光了，到了后面這一步（強(qiáng)化學(xué)習(xí)和后訓(xùn)練），光靠“大”沒(méi)用了?，F(xiàn)在又回到了2012年之前那種需要“拼品味、拼直覺(jué)”的手搓時(shí)代（Age of Research）。
洞察2：情緒不是人類的累贅，而是進(jìn)化給人類的禮物
我們通常覺(jué)得AI是理性的，人類是感性的，情緒會(huì)壞事。Ilya把這個(gè)反過(guò)來(lái)了。人類的“情緒”是一個(gè)被進(jìn)化硬寫(xiě)進(jìn)基因里的、極其精準(zhǔn)的“價(jià)值函數(shù)”。現(xiàn)在的AI之所以笨，是因?yàn)樗鼈儧](méi)有情緒。所以，讓AI擁有“情緒”或者說(shuō)“直覺(jué)”，反而是通往真正智能的必經(jīng)之路。
洞察3：AGI不是全知全能的神
Ilya說(shuō)真正的AGI更像是一個(gè)“15歲的天才少年”。它可能剛出來(lái)時(shí)什么行業(yè)黑話都不懂，但它學(xué)習(xí)能力很強(qiáng)。而且，它們?cè)谖磥?lái)可以“合并智能”。這一秒它還是個(gè)新手，下一秒它就擁有了100萬(wàn)人一輩子的經(jīng)驗(yàn)。這種“分布式體驗(yàn)，集中式進(jìn)化”，才是經(jīng)濟(jì)奇點(diǎn)真正到來(lái)的方式。
主播結(jié)語(yǔ)：
“技術(shù)奇點(diǎn)”引發(fā)了一系列倫理和哲學(xué)問(wèn)題，包括機(jī)器的權(quán)利、人類存在的意義，以及人類如何控制和利用這種強(qiáng)大的技術(shù)力量等。這可能導(dǎo)致人類文明發(fā)生根本性變化，也可能使人類社會(huì)陷入越來(lái)越大的矛盾和危機(jī)中。
在奧特曼忙于商業(yè)、官司與并購(gòu)時(shí)，伊利亞就像一個(gè)孤獨(dú)的守門(mén)人，帶領(lǐng)SSI進(jìn)行一場(chǎng)可能定義人類命運(yùn)的、孤獨(dú)的豪賭。
——————————————————————————————
你可以在小宇宙、喜馬拉雅、蘋(píng)果播客、虎撲等平臺(tái)找到我們。歡迎關(guān)注、評(píng)論、轉(zhuǎn)發(fā)，我們真誠(chéng)感謝所有反饋，同時(shí)也期待與大家有更多連接。
主播|散修小仙（貝貝）張歡 伊利亞·蘇茨克弗（Ilya Sutskever）是ChatGPT的“造物主”之一，是2023年那場(chǎng)震動(dòng)全球的OpenAI“宮斗”風(fēng)暴的核心。但在被貼上“逼宮者”的標(biāo)簽之前與之后，他更是一位從AlexNet時(shí)代就塑造AI面貌的奠基科學(xué)家，一個(gè)對(duì)“人工智能可能終結(jié)人類”懷有深切恐懼的先知，以及一個(gè)正在用新公司押注人類未來(lái)的孤獨(dú)探索者。今天，我們就來(lái)講述這位天才科學(xué)家的故事，他的恐懼、他的堅(jiān)持，以及他對(duì)人類命運(yùn)的宏大思考。
伊利亞·蘇茨克弗（Ilya Sutskever）
時(shí)間軸
——————————————————————————————
第一部分：天才的軌跡——從諾夫哥羅德到AI神壇
第二部分：裂痕與風(fēng)暴——與山姆·奧特曼的根本分歧
第三部分：成立Safe Superintelligence Inc
第四部分：最新的3個(gè)洞察
在近期深度訪談中，伊利亞分享了他最新的思考，總結(jié)一下，就是3個(gè)洞察
洞察1：那種無(wú)腦堆算力的時(shí)代，已經(jīng)翻篇了
過(guò)去這五年，大家都在喊規(guī)模法則，好像只要GPU夠多、數(shù)據(jù)夠大，把整個(gè)互聯(lián)網(wǎng)喂進(jìn)去，AGI就自動(dòng)產(chǎn)出來(lái)了。但I(xiàn)lya直接潑了盆冷水。他說(shuō)Pre-training（預(yù)訓(xùn)練）已經(jīng)開(kāi)始式微，現(xiàn)在數(shù)據(jù)快用光了，到了后面這一步（強(qiáng)化學(xué)習(xí)和后訓(xùn)練），光靠“大”沒(méi)用了?，F(xiàn)在又回到了2012年之前那種需要“拼品味、拼直覺(jué)”的手搓時(shí)代（Age of Research）。
洞察2：情緒不是人類的累贅，而是進(jìn)化給人類的禮物
我們通常覺(jué)得AI是理性的，人類是感性的，情緒會(huì)壞事。Ilya把這個(gè)反過(guò)來(lái)了。人類的“情緒”是一個(gè)被進(jìn)化硬寫(xiě)進(jìn)基因里的、極其精準(zhǔn)的“價(jià)值函數(shù)”?，F(xiàn)在的AI之所以笨，是因?yàn)樗鼈儧](méi)有情緒。所以，讓AI擁有“情緒”或者說(shuō)“直覺(jué)”，反而是通往真正智能的必經(jīng)之路。
洞察3：AGI不是全知全能的神
Ilya說(shuō)真正的AGI更像是一個(gè)“15歲的天才少年”。它可能剛出來(lái)時(shí)什么行業(yè)黑話都不懂，但它學(xué)習(xí)能力很強(qiáng)。而且，它們?cè)谖磥?lái)可以“合并智能”。這一秒它還是個(gè)新手，下一秒它就擁有了100萬(wàn)人一輩子的經(jīng)驗(yàn)。這種“分布式體驗(yàn)，集中式進(jìn)化”，才是經(jīng)濟(jì)奇點(diǎn)真正到來(lái)的方式。
主播結(jié)語(yǔ)：
“技術(shù)奇點(diǎn)”引發(fā)了一系列倫理和哲學(xué)問(wèn)題，包括機(jī)器的權(quán)利、人類存在的意義，以及人類如何控制和利用這種強(qiáng)大的技術(shù)力量等。這可能導(dǎo)致人類文明發(fā)生根本性變化，也可能使人類社會(huì)陷入越來(lái)越大的矛盾和危機(jī)中。
在奧特曼忙于商業(yè)、官司與并購(gòu)時(shí)，伊利亞就像一個(gè)孤獨(dú)的守門(mén)人，帶領(lǐng)SSI進(jìn)行一場(chǎng)可能定義人類命運(yùn)的、孤獨(dú)的豪賭。
——————————————————————————————
你可以在小宇宙、喜馬拉雅、蘋(píng)果播客、虎撲等平臺(tái)找到我們。歡迎關(guān)注、評(píng)論、轉(zhuǎn)發(fā)，我們真誠(chéng)感謝所有反饋，同時(shí)也期待與大家有更多連接。
章節(jié)評(píng)論
段評(píng)