突出了跨學(xué)科的交叉和互通。
多知10月9日消息,北京時(shí)間10月8日下午,2024年諾貝爾物理學(xué)獎(jiǎng)給了美國(guó)科學(xué)家John J. Hopfield(約翰?霍普菲爾德)、英國(guó)裔加拿大科學(xué)家Geoffrey E. Hinton(杰弗里?辛頓因),以表彰他們通過(guò)“人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)機(jī)器學(xué)習(xí)的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明”。
(左為約翰?霍普菲爾德,右為杰弗里?辛頓因)
作為“神經(jīng)網(wǎng)絡(luò)之父”和“深度學(xué)習(xí)之父”,辛頓1947年出生于英國(guó)倫敦,1978年獲英國(guó)愛(ài)丁堡大學(xué)博士學(xué)位,如今是加拿大多倫多大學(xué)教授。他是使用神經(jīng)網(wǎng)絡(luò)進(jìn)行機(jī)器學(xué)習(xí)的先驅(qū),教會(huì)了人工智能如何自動(dòng)查找數(shù)據(jù)中的屬性,從而執(zhí)行識(shí)別圖片中特定元素等任務(wù)。2018年,他還獲得了圖靈獎(jiǎng)這一計(jì)算機(jī)領(lǐng)域的最高榮譽(yù)。生成式大模型的頂尖團(tuán)隊(duì),基本都是辛頓門徒。
而美國(guó)普林斯頓大學(xué)教授約翰?霍普菲爾德,則是創(chuàng)建了一種名為“霍普菲爾德網(wǎng)絡(luò)”的聯(lián)想存儲(chǔ)器,可以存儲(chǔ)和重建圖像以及數(shù)據(jù)中的其他類型模式。他曾獲得2022年的玻爾茲曼獎(jiǎng)。
以“霍普菲爾德網(wǎng)絡(luò)”為基礎(chǔ),辛頓使用統(tǒng)計(jì)物理學(xué)的方法,構(gòu)建了玻爾茲曼機(jī)。這一成果讓機(jī)器學(xué)習(xí)領(lǐng)域出現(xiàn)了“爆炸性發(fā)展”。
“諾貝爾獎(jiǎng)得主的工作已經(jīng)產(chǎn)生了巨大的益處。當(dāng)今物理學(xué)許多領(lǐng)域正在使用人工神經(jīng)網(wǎng)絡(luò),例如開(kāi)發(fā)具有特定特性的材料,”諾貝爾物理學(xué)委員會(huì)主席Ellen Moons說(shuō)道。
霍普菲爾德和辛頓兩人是跨學(xué)科研究者?;羝辗茽柕率且晃粰M跨多個(gè)學(xué)科領(lǐng)域的物理學(xué)博士,在物理、化學(xué)和生物學(xué)的交叉處開(kāi)發(fā)了神經(jīng)網(wǎng)絡(luò)。辛頓就讀劍橋大學(xué)時(shí),同時(shí)學(xué)習(xí)物理學(xué)和生理學(xué),后來(lái)獲得實(shí)驗(yàn)心理學(xué)學(xué)士學(xué)位,他通過(guò)物理、數(shù)學(xué)和計(jì)算機(jī)、神經(jīng)心理學(xué)多領(lǐng)域的交叉,推動(dòng)機(jī)器學(xué)習(xí)的發(fā)展。
諾貝爾物理學(xué)獎(jiǎng)給了非物理學(xué)領(lǐng)域?qū)<乙饬x重大,突出了跨學(xué)科的交叉和互通,也凸顯了AI的發(fā)展離不開(kāi)數(shù)學(xué)、物理等基礎(chǔ)學(xué)科的發(fā)展。
以下為諾貝爾獎(jiǎng)官網(wǎng)新聞介紹:
今年的兩位諾貝爾物理學(xué)獎(jiǎng)得主使用了物理學(xué)的工具,為當(dāng)今強(qiáng)大的機(jī)器學(xué)習(xí)方法奠定了基礎(chǔ)。John Hopfield創(chuàng)建了一種聯(lián)想記憶,可以存儲(chǔ)和重構(gòu)圖像,或其他類型的數(shù)據(jù)模式。Geoffrey Hinton發(fā)明了一種可以自動(dòng)發(fā)現(xiàn)數(shù)據(jù)中屬性并執(zhí)行任務(wù)的方法,例如識(shí)別圖片中的特定元素。
談到人工智能,人們通常指的是使用人工神經(jīng)網(wǎng)絡(luò)來(lái)訓(xùn)練的機(jī)器學(xué)習(xí)技術(shù)。這項(xiàng)技術(shù)最初受大腦結(jié)構(gòu)啟發(fā)。在人工神經(jīng)網(wǎng)絡(luò)中,大腦的神經(jīng)元通過(guò)具有不同值的節(jié)點(diǎn)表示。這些節(jié)點(diǎn)通過(guò)可以類比為突觸的連接相互影響,而這些連接可以變強(qiáng)或變?nèi)?。這種網(wǎng)絡(luò)可以通過(guò)訓(xùn)練來(lái)優(yōu)化,例如可加強(qiáng)同時(shí)具有較高值的節(jié)點(diǎn)之間的連接。今年的諾貝爾物理獎(jiǎng)得主們自20世紀(jì)80年代起就在人工神經(jīng)網(wǎng)絡(luò)領(lǐng)域做出了重要的工作。
John Hopfield發(fā)明了一種網(wǎng)絡(luò)來(lái)保存和重現(xiàn)數(shù)據(jù)模式。我們可以將節(jié)點(diǎn)想象為像素。Hopfield網(wǎng)絡(luò)利用了描述物質(zhì)特性的原子自旋——該性質(zhì)使得每個(gè)原子都可看作一個(gè)小磁鐵。網(wǎng)絡(luò)的整體結(jié)構(gòu)則可等價(jià)地用物理學(xué)中自旋系統(tǒng)的能量來(lái)描述,并通過(guò)尋找節(jié)點(diǎn)之間的連接值來(lái)訓(xùn)練,使得保存的圖像具有較低的能量。當(dāng)Hopfield網(wǎng)絡(luò)接收到一個(gè)失真或不完整的圖像時(shí),它逐步處理節(jié)點(diǎn)并更新其值,以降低網(wǎng)絡(luò)的能量。通過(guò)這種方式,網(wǎng)絡(luò)就可一步步找到與輸入的失真圖像最為相似的圖像。
Geoffrey Hinton以Hopfield網(wǎng)絡(luò)為基礎(chǔ),開(kāi)發(fā)了一種基于新方法的網(wǎng)絡(luò):玻爾茲曼機(jī)(Boltzmann Machine)。該網(wǎng)絡(luò)可以學(xué)習(xí)識(shí)別某一類數(shù)據(jù)中具有特征的元素。Hinton使用了統(tǒng)計(jì)物理學(xué)的工具,這是研究由許多相似組分組成的系統(tǒng)的科學(xué)。玻爾茲曼機(jī)通過(guò)輸入在機(jī)器運(yùn)行時(shí)非??赡艹霈F(xiàn)的示例進(jìn)行訓(xùn)練。它可以用于對(duì)圖像進(jìn)行分類或創(chuàng)建與其訓(xùn)練模式相似的新示例。Hinton在此基礎(chǔ)上繼續(xù)研究,推動(dòng)了當(dāng)前機(jī)器學(xué)習(xí)爆炸式的發(fā)展。