Apple 研究人員發表 SimpleDesign：單階段訓練同時生成蛋白質序列與結構
Apple 研究人員發表名為 SimpleDesign 的人工智能模型，可在單一訓練流程中，同時生成蛋白質的氨基酸序列及三維結構。相關研究以《SimpleDesign: A Joint Model for Protein Sequence and Structure Codesign》為題，發表於 Apple 機器學習研究網站。
- Apple 研究人員發表 SimpleDesign，可同時生成蛋白質序列與三維結構。
- 該模型直接在數據空間訓練，跳過既有模型常用的多階段訓練流程。
- 訓練數據為超過 200 萬組蛋白質序列與結構配對，主要來自 AFESM 數據集。
- 研究指其結果在蛋白質共同設計、結構生成及序列生成測試中具競爭力，但仍屬電腦評估，未經實驗驗證。
跳過多階段訓練的設計思路
現時不少蛋白質設計模型採用多階段訓練。第一步先訓練自動編碼器，把蛋白質結構壓縮成離散的潛在表示（即「token」）；第二步再訓練生成模型，在該潛在空間內生成新的序列與結構。Apple 研究人員在論文中指出，他們假設這種多階段訓練並非取得高效能共同設計模型的必要條件，因此提出直接在數據空間訓練的 SimpleDesign。
換言之，SimpleDesign 直接由配對的氨基酸序列及三維座標學習，毋須先把蛋白質結構壓縮成另一套 token 表示，屬於端到端的單階段訓練方式。
訓練方法：同時破壞序列與結構
研究團隊以超過 200 萬組蛋白質序列與結構配對作為訓練資料，主要來自 AFESM 數據集，該數據集結合了 AlphaFold 資料庫的預測結構及額外樣本。訓練期間，研究人員會同時破壞配對的兩邊：序列中的氨基酸被遮蔽 token 隨機隱藏，對應的三維結構則加入噪聲。
團隊亦會調整兩邊被破壞的程度。若序列大致完整、結構嚴重受損，任務便接近蛋白質摺疊，模型須由已知序列還原結構；反之，若結構大致完整、序列被大量遮蔽，任務便接近逆向摺疊，模型須為指定結構生成可對應的序列；當兩邊都部分受損，模型便同時學習處理兩個問題，變相接受蛋白質共同設計的訓練。
測試結果與限制
研究指出，SimpleDesign 在蛋白質共同設計、結構生成及序列生成等多項基準測試中，取得具競爭力的結果，而訓練流程較同類模型簡單。研究人員亦發現，模型可生成合理的蛋白質結構，其產出的氨基酸序列質素大致等同或優於大多數同類多模態模型。
研究同時列明限制：上述結果仍限於電腦層面的評估，因為生成的蛋白質未經實驗測試，無法確認它們在實際生物系統中會否摺疊、運作或表現安全。
延伸自 SimpleFold 的研究方向
SimpleDesign 延續了 Apple 去年發表的 SimpleFold 研究。SimpleFold 以《Folding Proteins is Simpler than You Think》為題，探討以更精簡的方式，由氨基酸序列預測蛋白質的三維結構。該模型採用 flow matching 技術配合通用 Transformer 區塊，以降低蛋白質摺疊模型慣常使用的高運算需求。
