2021年8月16日，Nature Chemistry雜志發(fā)表了一篇南安普頓大學(xué)物理化學(xué)教授、AI3SD Network+首席研究員Jeremy Frey的專訪文章。在這篇文章中，Jeremy Frey談?wù)摿藱C器學(xué)習(xí)數(shù)據(jù)質(zhì)量不確定性的危險以及人工智能與其他技術(shù)的協(xié)同作用。

以下是全文內(nèi)容。

您是AI3SD Network+的主要研究者，能解釋一下什么是AI3SD Network+嗎？

這個Network的成功要歸功于我的合作研究者Mahesan Niranjan、我們非常有效的網(wǎng)絡(luò)協(xié)調(diào)人Samantha Kanza以及由John Overington教授主持的積極和支持性的咨詢委員會。在我們的第一個咨詢委員會上，有人指出，我們應(yīng)該再加一個"AI"，然后我們就可以有AI4ScienceDiscovery的縮寫了。不幸的是，ai4science.org這個地址已經(jīng)被占用了，但我們確實計劃在未來使用ai4science.network。然而，我們一直在爭論第四個"AI"到底應(yīng)該是什么。

Network想要實現(xiàn)的是什么？你們又選擇了哪些化學(xué)領(lǐng)域作為重點？

Jeremy Frey：EPSRC呼吁建立一個網(wǎng)絡(luò)，將前沿科學(xué)與前沿的人工智能計算結(jié)合起來。雖然有合理的資金，但肯定不足以覆蓋所有的科學(xué)，所以我們的申請集中在化學(xué)和材料的相關(guān)領(lǐng)域。我們的目標(biāo)是將參與人工智能前沿的研究人員，包括傳統(tǒng)的知識工程方面和最近的機器學(xué)習(xí)方面的，與參與實驗和理論化學(xué)的研究人員結(jié)合起來。我們一直試圖保持對化學(xué)的廣泛關(guān)注。我們資助的許多項目都來自藥物發(fā)現(xiàn)或材料設(shè)計，并有化學(xué)家、計算機科學(xué)家和數(shù)學(xué)家參與。在我們的研討會主題中，我們確保對分子和材料特性有更廣泛的見解。

因為科學(xué)發(fā)現(xiàn)是這個Network的重點，我們不僅希望找出相關(guān)模式（就像在使用機器學(xué)習(xí)方法時經(jīng)常做的那樣），我們還質(zhì)疑傳統(tǒng)的發(fā)現(xiàn)意味著什么，以及未來在人工智能的協(xié)助下它將意味著什么，因此我們讓科學(xué)哲學(xué)家Will McNeill成為聯(lián)盟的一員。

就個人而言，這個Network提供了一個絕佳的機會，讓我們能夠認識、欣賞并學(xué)習(xí)計算機科學(xué)和化學(xué)領(lǐng)域的同事們的經(jīng)驗和研究，包括來自國內(nèi)和國際的學(xué)術(shù)界、工業(yè)界和政府的。

是什么讓這些科學(xué)領(lǐng)域適合使用人工智能和機器學(xué)習(xí)的方法？是否有任何你認為不適合這些方法的化學(xué)領(lǐng)域或方面？

Jeremy Frey：在我們所有的研討會、會談和討論中，出現(xiàn)的一個一致的主題是對數(shù)據(jù)的需求；很少有足夠的數(shù)據(jù)，而且現(xiàn)有的數(shù)據(jù)往往是質(zhì)量不確定的（質(zhì)量不確定的問題，比質(zhì)量差的問題多）。因此，有可用數(shù)據(jù)的領(lǐng)域（例如高通量合成和表征）是機器學(xué)習(xí)的明確應(yīng)用領(lǐng)域，甚至有可能支持深度學(xué)習(xí)方法。然而，在極少數(shù)情況下，將AI/ML應(yīng)用中的深度學(xué)習(xí)類型，應(yīng)用到使用計算機生成數(shù)據(jù)的工作中（即一個程序與自己的“游戲”），是有機會的。

在訓(xùn)練和測試數(shù)據(jù)集上進行高水平的量子力學(xué)/量子化學(xué)（QM/QC）計算時，會出現(xiàn)可用計算機功率的問題。這種問題甚至限制了AI/ML在量子化學(xué)中的應(yīng)用。在這種情況下，ML被用來提高低級量子力學(xué)計算的準(zhǔn)確性。類似的考慮也適用于分子動力學(xué)模擬，其中ML技術(shù)被用來加速整合。

人工智能常常需要大量的數(shù)據(jù)，然而在測量化學(xué)實驗的結(jié)果（如反應(yīng)產(chǎn)量或速率）時通常會有誤差，而且通常這些特性的測量精度有限。業(yè)界如何解決這個問題？你認為這主要是一個實驗問題還是軟件問題？

Jeremy Frey：正如我在回答前一個問題時所說，數(shù)據(jù)是至關(guān)重要的。目前的ML方法當(dāng)然需要大量高質(zhì)量的數(shù)據(jù)（當(dāng)不確定性被理解后，ML方法會利用差的數(shù)據(jù)。使用ML方法過濾掉質(zhì)量差的數(shù)據(jù)也是可能的，但那樣就限制了可用數(shù)據(jù)的廣度）。原則上，只要我們有合成和表征的高通量技術(shù)（不需要很多物質(zhì)本身），許多化學(xué)特性都有足夠的數(shù)據(jù)。對于更多變量的數(shù)據(jù)來說，獲得高質(zhì)量的數(shù)據(jù)要困難得多，如反應(yīng)產(chǎn)率，它可能嚴重依賴于條件。所以有一個更大的實驗空間需要覆蓋。當(dāng)涉及到生物反應(yīng)時，就會有更大的可變性，因此也就有更大的難度。我們需要規(guī)模化的工作，并提高可靠性，因此硬件和軟件/數(shù)據(jù)問題都會存在。

看待這個問題的一個相關(guān)方式是，這與經(jīng)典的模式識別系統(tǒng)不同（例如用于自動駕駛汽車的計算機視覺，收集大量的數(shù)據(jù)是可行的和可取的）。科學(xué)發(fā)現(xiàn)作為一個問題領(lǐng)域，帶有在更經(jīng)典的物理模型中捕獲的廣泛的先驗知識。在不太龐大的數(shù)據(jù)體系中，面臨的挑戰(zhàn)是如何結(jié)合數(shù)據(jù)驅(qū)動的模型來利用這些知識。在我們的研討會上，我們已經(jīng)研究了許多這樣的方法論。

您認為人工智能的哪些方面最容易被廣大科學(xué)界誤解？又能做些什么來解決這個問題？

Jeremy Frey：人工智能究竟能實現(xiàn)什么？業(yè)界可能希望AI能對預(yù)測分子特性做些什么。然而，與業(yè)界許多人更廣泛的想象（預(yù)測復(fù)雜成分的特性，如用于藥物輸送、材料涂層、功能材料和生物相互作用的預(yù)測）相比，AI仍然是有限的。即使是那些認識到現(xiàn)有數(shù)據(jù)的局限性阻礙了ML的應(yīng)用的人，也可能認為只要我們有大量的數(shù)據(jù)，那么天空就是極限。現(xiàn)實是，化學(xué)的異質(zhì)性和復(fù)雜性仍然超過了計算能力。需要將ML和計算化學(xué)和新的洞察力結(jié)合起來。

偏見的問題存在于AI/ML在化學(xué)的應(yīng)用中。也許并不像其他一些領(lǐng)域那樣嚴重。由于訓(xùn)練集的選擇沒有通過測試集進行，因而產(chǎn)生了意外偏差，這是眾所周知的，但很容易被遺忘。這與化學(xué)的多樣性密切相關(guān)，并促使人們對相似/不相似的化合物集開展了大量的工作。擴大一些視野，例如藥物設(shè)計中的應(yīng)用也會陷入同樣的陷阱，即訓(xùn)練集如何影響可能的結(jié)果，以及訓(xùn)練集對全球業(yè)界的不同單位多大程度上合適。在極限的情況下，我們?nèi)绾翁幚韨€性化的醫(yī)學(xué)，難道為我們每個人建立一個ML模型？

基于人工智能的技術(shù)可以是強大的方法，但有時該領(lǐng)域的成就是否被過度炒作？對于試圖評估獲益是否超出數(shù)據(jù)和結(jié)果支持范圍的非專業(yè)人士，您有什么建議嗎？或者有什么非專家應(yīng)該注意的化學(xué)論文中的常見問題？

Jeremy Frey：一定要仔細研究化學(xué)問題。使用的是什么數(shù)據(jù)？分子或材料是什么樣子的？模型的輸出與輸入有什么不同？推薦的分子是否真的能解決問題？它們是潛在的藥物還是經(jīng)過測試的藥物？是建議的材料還是在設(shè)備中測試過的材料？是否提供了輸入數(shù)據(jù)和模型的解釋？這些都是無意中出現(xiàn)偏差的地方。

這個Network關(guān)注的關(guān)鍵問題是 "為什么該模型給出了這些預(yù)測？"，建議的藥物或材料是否照亮了化學(xué)的新思路或為化學(xué)服務(wù)？這些模型的可解釋性，對于理解AI/ML為化學(xué)帶來的改變是非常重要的。這些問題也有助于Network從哲學(xué)角度思考AI如何改變化學(xué)發(fā)現(xiàn)的本質(zhì)。

對于方法、數(shù)據(jù)或定制軟件，您是否希望業(yè)界采用任何報告標(biāo)準(zhǔn)，以促進工作的重復(fù)使用和復(fù)制？

Jeremy Frey：數(shù)據(jù)的標(biāo)準(zhǔn)化還遠未完成或達成一致，但事情正在變得更好。在描述ML模型的標(biāo)準(zhǔn)方面，業(yè)界還有很長的路要走。我們確實有整體的FAIR原則，它同樣適用于數(shù)據(jù)和工作的所有方面。像Jupyter notebooks這樣的工具和能讀寫的編程非常適用于化學(xué)中的ML工作。總的來說，我支持使用盡可能多的開源和開放科學(xué)工具，但也要充分認識到優(yōu)質(zhì)商業(yè)軟件的范圍越來越大。即使在使用商業(yè)代碼時，也必須能夠描述數(shù)據(jù)是如何被操作的，并確保數(shù)據(jù)模型可以使用開放格式進行交換。

這些想法與解釋ML模型的能力也是相輔相成的。Network的主旨在于科學(xué)發(fā)現(xiàn)。獲得一個問題的解決方案（例如，下一種藥物、下一種材料的制造、如何優(yōu)化設(shè)計）只是發(fā)現(xiàn)之旅的一部分。需要理解 "為什么"。為什么ML系統(tǒng)得出了這個答案？這是一個偏見的例子嗎？我們能說明和解釋這個結(jié)果嗎（即使是后見之明）？我們學(xué)到了什么？我們能從這些模型中提取新的理論和想法嗎？這顯然是發(fā)現(xiàn)的關(guān)鍵（ML成為實驗的一部分）。

我們可以進一步展望未來，詢問AI/ML方法是否不僅可以提供一個結(jié)果，提供一個理解 "為什么"的途徑，還可以開始幫助問 "什么"。增強的智能系統(tǒng)是否也能幫助提出假說？在復(fù)雜化學(xué)的某些領(lǐng)域，如功能材料和與生物學(xué)的相互作用，系統(tǒng)的復(fù)雜性使AI可以通過這種方式產(chǎn)生重大影響。

基于AI的技術(shù)與機器人技術(shù)和自動檢測分析有一些明顯的協(xié)同作用。你認為目前有哪些瓶頸限制了向更自主的綜合系統(tǒng)的發(fā)展？

Jeremy Frey：人工智能和機器人技術(shù)之間的協(xié)同作用是非常有趣的。這些想法可能在自主汽車/駕駛和機器人手術(shù)中最清楚。在化學(xué)領(lǐng)域，實驗室機器人有很大的潛力，我懷疑目前主要是在工業(yè)實驗室（由于成本原因），但隨著我們看到機器人在幾乎消費者級別上的采用，我們可以期待在實驗室看到更多的機器人。現(xiàn)在有許多黑暗的實驗室，實際上是完全自動化的，可供研究人員使用。當(dāng)然，外包合成和測量已經(jīng)有很長一段時間了，對于用戶來說，也許該實驗室是由機器人還是由人操作并不重要，盡管成本和產(chǎn)量可能有所不同。

我認為許多化學(xué)過程的復(fù)雜性是對機器人作用的一種限制。研究人員在簡化過程和標(biāo)準(zhǔn)化合成方面已經(jīng)做了很多工作，例如利用流動技術(shù)，在這些領(lǐng)域，機器人技術(shù)的使用已經(jīng)很先進。也許在另一個極端，定制的物理化學(xué)實驗以一種不同的，但仍然非常重要的方式受益于自動化和計算機控制，這是已經(jīng)推動了多年的實驗。然而，人工智能技術(shù)的興起有可能徹底改變從原始實驗數(shù)據(jù)中提取信息（和知識）的方式，從而改變哪些實驗可能需要進行這個問題的本質(zhì)。

有什么具體的技術(shù)是你希望看到的，可以擴大人工智能和機器學(xué)習(xí)方法的效用？

Jeremy Frey：我們需要了解如何基于比最近許多ML工作所需的更小的數(shù)據(jù)量來進行預(yù)測。我們可以把這稱為小型深度學(xué)習(xí)。這項研究超越了化學(xué)應(yīng)用，當(dāng)然在AI/ML遇到人類學(xué)習(xí)的地方非常重要。具體到化學(xué)，我們需要開發(fā)處理能量/結(jié)構(gòu)“地形圖”的方法，也就是三維結(jié)構(gòu)/構(gòu)型，因為這在分子之間的相互作用中至關(guān)重要，無論是復(fù)雜的混合物、材料還是生物相互作用。

ML中經(jīng)常出現(xiàn)的問題是處理高維空間，數(shù)據(jù)相對稀疏，因此需要降維。雖然這是深度學(xué)習(xí)經(jīng)常遇到的問題，但考慮到化學(xué)數(shù)據(jù)的性質(zhì)，在算法和數(shù)學(xué)基礎(chǔ)上的持續(xù)工作將對化學(xué)應(yīng)用非常有用。對 "不確定性"的更好理解、量化和建模將是有用的。正如上面提到的對高質(zhì)量數(shù)據(jù)的需求，當(dāng)我們部署人工智能系統(tǒng)時，它的局限性當(dāng)然是"垃圾進-垃圾出"問題。也就是說，一個經(jīng)過訓(xùn)練的人工智能模型總是會產(chǎn)生一個輸出，即使是在它沒有被訓(xùn)練過的環(huán)境中也是如此。適當(dāng)?shù)亓炕淮_定性，并對這些預(yù)測的信心水平進行預(yù)測，這往往是至關(guān)重要的。建立在貝葉斯推理原則基礎(chǔ)上的方法有助于做到這一點，但將它們擴展到非常大和復(fù)雜的模型仍然具有挑戰(zhàn)性。

考慮到化學(xué)空間，我們確實需要對這個概念有更好的理解，當(dāng)然最理想的是，我們?nèi)匀恍枰粡埢瘜W(xué)空間的地圖。我們可以期望這樣的地圖是什么樣子的，這可能是一個不同的討論主題，并導(dǎo)致對化學(xué)作為導(dǎo)航與發(fā)現(xiàn)的思考。一個靜態(tài)的化學(xué)地圖的概念永遠不會反映這個學(xué)科的多樣性和靈活性。分子或材料結(jié)構(gòu)的概念隱含地涉及時間和能量，并取決于分子的環(huán)境或它的用途。物種之間的轉(zhuǎn)化也同樣重要，所以在很多方面，我們要尋找的不僅僅是一張地圖，甚至不是一張疊加了路徑的地圖，而是對化學(xué)時空的真實描述。我希望，通過可解釋的人工智能模型，我們可以開始建立化學(xué)時空的區(qū)域，并獲得真正的洞察力和實際應(yīng)用。

任何有助于理解化學(xué)與生物學(xué)互動的技術(shù)都將支持對藥物、農(nóng)業(yè)化學(xué)品和環(huán)境可持續(xù)材料的更好預(yù)測。

量子計算機是新技術(shù)的一個例子，它將成為能夠?qū)瘜W(xué)產(chǎn)生重大影響的技術(shù)，因為可用的量子比特的數(shù)量正在迅速增加。在我看來，它們將不僅僅被用來進行量子化學(xué)計算，還可以做一些事情，比如處理龐大的化學(xué)空間的有效搜索。但是，由于在傳統(tǒng)計算機的化學(xué)編程方面投入了大量的精力，量子計算機在解決化學(xué)問題方面的速度還需要一些時間。展望未來，Network正計劃舉辦一些關(guān)于量子計算機化學(xué)編程的研討會。

您希望看到數(shù)字基礎(chǔ)設(shè)施的哪些改進，以幫助和支持化學(xué)界更廣泛地使用人工智能和機器學(xué)習(xí)技術(shù)？

Jeremy Frey：我們當(dāng)然需要一個更先進的全球基礎(chǔ)設(shè)施。鼓勵帶有盡可能多的元數(shù)據(jù)（語義信息）的存儲庫。理想情況下，元數(shù)據(jù)應(yīng)該是機器和人類可讀的，有背景故事，以使業(yè)界能夠最好地利用我們擁有的數(shù)據(jù)。我們有這個故事的元素，但它們遠遠不夠完整或易于使用。

基于云的系統(tǒng)正在使定制的硬件可用，以滿足ML和QC的對比需求，甚至量子計算機也可以通過這種方式獲得。我們需要開始培訓(xùn)化學(xué)家來使用這些系統(tǒng)。本科化學(xué)課程的重新設(shè)計正在進行中，但高素質(zhì)化學(xué)家的再培訓(xùn)機會也將非常重要。同樣重要的是把化學(xué)的新能力帶給年輕的觀眾，親身體驗化學(xué)和人工智能的推廣是必須的。

文章來源：智藥邦