人類大腦諸多認(rèn)知活動(dòng)都與時(shí)序信息有關(guān)。比如問(wèn)路時(shí)，需要記住指路人給出的一系列指引;學(xué)習(xí)新的舞蹈動(dòng)作時(shí)，要記住老師演示的一連串動(dòng)作;唱一首歌或彈奏一段音樂(lè)不能倒著進(jìn)行。在這些情況下，不僅單個(gè)內(nèi)容需要被記住，它們之間的順序也不能混淆。

無(wú)論語(yǔ)言溝通、執(zhí)行動(dòng)作還是情景記憶，本質(zhì)上都涉及大腦對(duì)時(shí)序信息的表征(信息在頭腦中的呈現(xiàn)方式)。序列信息編碼被認(rèn)為是人類語(yǔ)言句法結(jié)構(gòu)的前提，對(duì)機(jī)器學(xué)習(xí)領(lǐng)域產(chǎn)生重大影響，但其編碼機(jī)制人們卻知之甚少。

2月11日，《科學(xué)》發(fā)表中科院腦科學(xué)與智能技術(shù)卓越創(chuàng)新中心(神經(jīng)科學(xué)研究所)研究員王立平團(tuán)隊(duì)、上海腦科學(xué)與類腦研究中心副研究員閔斌和北京大學(xué)生命科學(xué)學(xué)院教授唐世明課題組的合作研究成果。研究人員發(fā)現(xiàn)神經(jīng)元以群體編碼形式表征了序列中的空間位置，并在這些表征中發(fā)現(xiàn)了類似的環(huán)狀幾何結(jié)構(gòu)。該研究推翻了經(jīng)典序列工作記憶模型的關(guān)鍵假設(shè)，為神經(jīng)網(wǎng)絡(luò)如何進(jìn)行符號(hào)表征這一難題提供了新見(jiàn)解。

時(shí)序信息編碼謎題

“北京冬奧會(huì)上，17歲小將蘇翊鳴在坡面障礙技術(shù)賽場(chǎng)行云流水般的完美表現(xiàn)，就是時(shí)序信息和空間信息的完美融合。”中科院院士、神經(jīng)科學(xué)和生物物理學(xué)家郭愛(ài)克說(shuō)，“在更大的時(shí)空尺度上，可以說(shuō)中國(guó)農(nóng)歷的二十四節(jié)氣也是大自然對(duì)序列信息的記憶。”

19世紀(jì)初，認(rèn)知心理學(xué)家就開(kāi)始思考序列信息的編碼方式。序列信息編碼也被認(rèn)為是人類語(yǔ)言句法結(jié)構(gòu)的前提，機(jī)器學(xué)習(xí)領(lǐng)域?qū)π蛄蟹g的探索催生了Transformer模型。但對(duì)具有時(shí)序信息記憶的大腦神經(jīng)編碼機(jī)制人們一直未搞清楚。

“獼猴是演化上最接近人類的模式動(dòng)物，其認(rèn)知能力、大腦結(jié)構(gòu)與功能更接近人類，是研究時(shí)間序列等復(fù)雜高級(jí)認(rèn)知功能的最佳模型。”王立平對(duì)《中國(guó)科學(xué)報(bào)》說(shuō)，“因此，我們從獼猴入手，訓(xùn)練它記憶由多個(gè)位置點(diǎn)組成的空間序列，從而探究時(shí)序記憶編碼問(wèn)題。”

實(shí)驗(yàn)中，獼猴面前的屏幕上會(huì)依次閃現(xiàn)3個(gè)不同的點(diǎn)，獼猴需要在幾秒鐘后，將這些點(diǎn)按之前呈現(xiàn)的順序“匯報(bào)”。在“匯報(bào)”前的幾秒記憶保持期內(nèi)，空間序列的信息便以工作記憶的形式被暫時(shí)儲(chǔ)存在大腦中。為了記錄大腦神經(jīng)元群體在獼猴進(jìn)行任務(wù)時(shí)的活動(dòng)狀態(tài)，研究人員對(duì)工作記憶的大本營(yíng)——外側(cè)前額葉皮層進(jìn)行了雙光子鈣信號(hào)成像。“鈣信號(hào)可反映神經(jīng)元的脈沖放電活動(dòng)，序列信息表征的關(guān)鍵就在記憶期神經(jīng)元群體的電活動(dòng)模式之中。”王立平說(shuō)。

找到大腦中的“屏幕”

大腦如何在記憶期內(nèi)同時(shí)表征序列中多個(gè)信息呢?研究人員猜想，獼猴的大腦中也有一塊“屏幕”，獼猴可以把出現(xiàn)過(guò)的點(diǎn)記在這個(gè)屏幕上。但如果3個(gè)點(diǎn)同時(shí)在記憶保持期內(nèi)顯示在這塊“屏幕”上，每個(gè)點(diǎn)的次序又該如何體現(xiàn)呢?獼猴的大腦里是否會(huì)同時(shí)存在3塊不同的“屏幕”，這樣每個(gè)“屏幕”只需要記下一個(gè)點(diǎn)的信息，而且不會(huì)互相干擾。

帶著這些疑問(wèn)，研究人員分析了鈣成像獲得的高維數(shù)據(jù)，發(fā)現(xiàn)可以在高維向量空間里面找到每個(gè)次序的信息所對(duì)應(yīng)的二維子空間，即找到其對(duì)應(yīng)的“屏幕”。

“在每個(gè)子空間內(nèi)，不同的點(diǎn)所對(duì)應(yīng)的空間位置與真實(shí)視覺(jué)刺激的環(huán)狀結(jié)構(gòu)一致。而且，不同次序所對(duì)應(yīng)的子空間接近相互正交，說(shuō)明大腦確實(shí)用3塊不同的‘屏幕’來(lái)表征序列信息。”閔斌解釋說(shuō)。

為了進(jìn)一步探究大腦是否總是用相同的幾塊“屏幕”記憶不同類型的空間序列，研究人員用機(jī)器學(xué)習(xí)方法，訓(xùn)練線性分類器區(qū)分不同次序上的空間信息。結(jié)果發(fā)現(xiàn)，用于編碼次序的“屏幕”是穩(wěn)定通用的。

研究人員還發(fā)現(xiàn)，不同次序的子空間之間共享了類似的環(huán)狀結(jié)構(gòu)，只是環(huán)的半徑大小會(huì)隨次序的增加而減小。

“一個(gè)可能的解釋是，次序靠后的信息所分配到的注意資源更少，導(dǎo)致對(duì)應(yīng)的環(huán)變小、區(qū)分度降低。”該論文共同第一作者、中科院腦科學(xué)與智能技術(shù)卓越創(chuàng)新中心博士后謝洋對(duì)《中國(guó)科學(xué)報(bào)》說(shuō)，“這一結(jié)構(gòu)也對(duì)應(yīng)了序列記憶的行為表現(xiàn)。如，我們記憶的內(nèi)容越多，靠后的信息越容易出錯(cuò)。”

有意思的是，這種在群體水平上由時(shí)間調(diào)制空間信息幾何結(jié)構(gòu)的編碼性質(zhì)，并不完全適用于單個(gè)神經(jīng)元水平。也就是說(shuō)，序列記憶的編碼更應(yīng)關(guān)注群體神經(jīng)元性質(zhì)，而非單個(gè)神經(jīng)元。

促進(jìn)人工智能研究

“這是一篇重要的論文。”郭愛(ài)克評(píng)價(jià)說(shuō)，“它的科學(xué)意義在于揭示了在工作記憶的時(shí)間尺度上，序列信息在大腦前額葉皮層的神經(jīng)編碼和表征機(jī)制。”

郭愛(ài)克認(rèn)為，該論文的創(chuàng)新性在于以獼猴的序列學(xué)習(xí)為對(duì)象，設(shè)計(jì)了時(shí)間和空間信息兩個(gè)線索共存的實(shí)驗(yàn)范式，采用雙光子在體鈣成像技術(shù)，記錄了數(shù)千個(gè)大腦前額葉皮層神經(jīng)元，發(fā)現(xiàn)了高維神經(jīng)元狀態(tài)空間可以分解為多個(gè)二維子空間之和，從而揭示了序列信息的工作記憶在獼猴前額葉皮層表征的簡(jiǎn)單幾何結(jié)構(gòu)。

“這個(gè)發(fā)現(xiàn)揭示了序列信息編碼利用了降維原則，從而降低了神經(jīng)計(jì)算復(fù)雜性，將對(duì)受腦啟發(fā)的人工智能研究產(chǎn)生影響。”郭愛(ài)克說(shuō)，“證明序列信息中時(shí)間和空間的整合發(fā)生在整體水平而不是單神經(jīng)元層面，為70年前卡爾·拉什利提出的理論假設(shè)——序列信息是通過(guò)創(chuàng)造和維系神經(jīng)活動(dòng)來(lái)進(jìn)行加工的——提供了實(shí)驗(yàn)數(shù)據(jù)支持。”(記者 陸琦 張雙虎 黃辛)

關(guān)鍵詞： 大腦序列信息編碼 時(shí)序信息編碼 序列工作記憶模型 序列信息