央廣網(wǎng)北京9月17日消息(記者 殷雨婷)9月17日,昌平實驗室攜手華為聯(lián)合發(fā)布TorchX,正式推出全原子生物分子模型體系。TorchX是業(yè)界首個NPU原生的開源全原子生物分子模型體系,推理與訓(xùn)練代碼全面適配昇騰NPU,模型權(quán)重按MIT許可開放。此次聯(lián)合發(fā)布為全球AI4S提供了首個NPU原生的開源生物分子設(shè)計平臺,打造“自主創(chuàng)新+前沿模型”的技術(shù)底座,打破商業(yè)壁壘,對降低生物醫(yī)藥領(lǐng)域AI應(yīng)用門檻、促進科研資源共享和成果可復(fù)現(xiàn)具有重要示范意義。

TorchX:三大模塊構(gòu)建全鏈條生物分子設(shè)計能力

TorchX包含三個核心功能模塊:TorchFold用于抗體–抗原復(fù)合物結(jié)構(gòu)預(yù)測,TorchScore用于候選復(fù)合物的結(jié)構(gòu)評價,TorchCraft通過預(yù)測器反演開展分子設(shè)計。

TorchFold保留AlphaFold3的網(wǎng)絡(luò)架構(gòu),通過界面特異性坐標(biāo)損失、高噪聲擴散調(diào)度策略及兩輪置信度篩選蒸餾三項創(chuàng)新訓(xùn)練策略,將非冗余抗體–抗原訓(xùn)練樣本由約5000個擴展至24,500個,F(xiàn)oldBench成功率由34.0%提升至70.1%。在五項不同來源、不同時間范圍和不同抗原組成的抗體–抗原基準(zhǔn)上,TorchFold均展現(xiàn)出穩(wěn)定的高質(zhì)量界面恢復(fù)能力。

TorchCraft中使用了可重入式梯度重計算,期間昌平實驗室與華為團隊聯(lián)合修復(fù)了Torch原生梯度重計算在當(dāng)前模型下的顯存泄漏問題。針對TorchCraft長序列場景,華為團隊對FA算子進行PSE反向計算功能補齊,使得當(dāng)前模型下該算子可以正常使能,在顯存優(yōu)化和性能提升上均有較好的表現(xiàn)。

TorchScore作為結(jié)構(gòu)評分模式,可跳過擴散生成模塊直接通過置信度通路評價候選復(fù)合物。TorchCraft則實現(xiàn)了跨分子類型的統(tǒng)一全原子設(shè)計,可同時用于微型蛋白結(jié)合體、框架約束VHH、環(huán)肽和小分子結(jié)合口袋設(shè)計。針對IFNAR2、IL-7Rα等靶點的微型蛋白及VHH設(shè)計均經(jīng)生物層干涉法驗證達到納摩爾親和力,且實驗候選直接取自TorchCraft輸出。

昇騰原生:從芯片到模型的端到端自主創(chuàng)新與長序列推理優(yōu)化

TorchFold是業(yè)界首個基于昇騰NPU原生的全原子結(jié)構(gòu)預(yù)測開源模型。華為與昌平實驗室協(xié)同創(chuàng)新,通過蛋白質(zhì)序列殘基注意力算子融合、流水調(diào)度以及昇騰親和性優(yōu)化等方式,顯著提升推理訓(xùn)練的速度和降低顯存占用。

TorchFold長序列推理的第一性矛盾,是二維Pair引發(fā)的激活張量顯存占用呈

增長,帶來顯存與性能雙重瓶頸。針對上述挑戰(zhàn),華為團隊依托AI4S智能引擎提出了昇騰親和長序列推理優(yōu)化方案,圍繞顯存與性能瓶頸問題開展系統(tǒng)性優(yōu)化,通過多維混合并行、等價數(shù)據(jù)流重構(gòu)、推理不變量緩存復(fù)用實現(xiàn)序列規(guī)模與推理效率的協(xié)同提升。目前,方案已在昇騰上完成單卡4K級序列、整機10K級序列的推理驗證。在37aa~2002aa測試用例中,單卡推理性能均獲得1.7倍以上的顯著提升,并在支持單卡4K級序列推理的前提下,通過四卡并行推理獲得3.x倍性能提升。未來,團隊將持續(xù)探索更長序列的推理能力邊界,通過AscendSkills沉淀可復(fù)用的軟硬件協(xié)同優(yōu)化策略,向同類Fold模型推廣,將昇騰打造為生科領(lǐng)域堅實的算力底座。

全原子生物分子模型體系TorchX運行于華為智算實驗室方案所構(gòu)建的自主算力底座之上,為TorchX創(chuàng)新筑牢智能底座,進一步提升科研效率,推動科研智能化轉(zhuǎn)型,助力AI4S落地。

開源開放:共建AI4S協(xié)同創(chuàng)新生態(tài)

TorchX的發(fā)布不僅是技術(shù)突破,更是生態(tài)共建的開端。昌平實驗室已開放推理代碼、訓(xùn)練代碼、模型權(quán)重以及訓(xùn)練數(shù)據(jù)。華為也將聚焦科研核心場景,助力國內(nèi)上百萬科研工作者通過AI更加高效地進行科研。

此次華為與昌平實驗室聯(lián)合發(fā)布TorchX,是AI for Science領(lǐng)域“自主創(chuàng)新算力底座+前沿科研模型”協(xié)同創(chuàng)新的典范。未來,雙方將共同推動AI工具從實驗室走向生命科學(xué)產(chǎn)業(yè)應(yīng)用,為新藥發(fā)現(xiàn)、新蛋白設(shè)計及未來滿足醫(yī)學(xué)需求相關(guān)研究提供可復(fù)現(xiàn)、可擴展的基礎(chǔ)模型支撐。

編輯:朱麗霓
更多精彩資訊請在應(yīng)用市場下載“央廣網(wǎng)”客戶端。歡迎提供新聞線索,24小時報料熱線400-800-0088;消費者也可通過央廣網(wǎng)“啄木鳥消費者投訴平臺”線上投訴。版權(quán)聲明:本文章版權(quán)歸屬央廣網(wǎng)所有,未經(jīng)授權(quán)不得轉(zhuǎn)載。轉(zhuǎn)載請聯(lián)系:cnrbanquan@cnr.cn,不尊重原創(chuàng)的行為我們將追究責(zé)任。
長按二維碼
關(guān)注精彩內(nèi)容