简介面向深度学习毕业设计、课程设计与期末大作业场景这份压缩包提供了一套基于多模态图神经网络Decagon的药物相互作用预测完整实现。项目以图结构建模药物节点与相互作用边融合药物化学结构、生物信息等多模态数据覆盖数据预处理、模型训练、指标评估与结果预测等关键环节适合需要快速复现或借鉴完整工程代码的研究者与开发者。压缩包共21个文件包含13个Python脚本、3个Jupyter Notebook、2张模型或结果示意图以及依赖列表和项目说明文档包体约622KB。Python脚本覆盖模型层、优化器、工具函数、主程序等核心逻辑Notebook用于数据处理与测试集分析配套说明与依赖清单便于环境搭建和代码复现。目前已有80人学习资源体量紧凑、目录清楚可帮助读者从零理解多模态图神经网络如何用于药物相互作用预测也可作为论文实验、课程报告或毕设讲解的参考基础。1. 药物相互作用预测为何需要多模态图神经网络药物相互作用DDI预测不是单纯的二元分类问题真正的难点在于新药没有历史交互记录模型必须在分子结构与已知网络结构之间同时找信号。传统基于规则的预测依赖数据库手工维护的代谢酶和转运体注释覆盖范围窄对结构新颖的药物几乎失效。深度学习社区这几年把这个问题重新定义成图上的链路预测药物是节点已知相互作用是边分子结构、靶点蛋白、描述文本各自构成独立模态最终由多模态图神经网络统一编码、打分。这个思路的核心收益是把冷启动问题转成了“多模态特征对齐”问题即节点即使没有邻居也能靠自身多模态表示获得可用向量。这篇文章按一条可落地的路线展开先解决多模态数据如何进图再讲GAT与门控融合的模型层实现随后落到训练与采样的关键参数最后用消融和冷启动实验验证到底哪部分改动真正带来收益。面向的是已经跑过基础GNN、想把DDI预测做成完整实验体系的工程师和算法同学。2. 把SMILES、文本与物化属性对齐成DDI图数据图神经网络的性能上限由输入图决定模型只是把图中已有的信号放出来。DDI预测的常规做法是定义一张无向药物图节点代表药物边代表已知的、经过权威数据库确认的药物相互作用节点特征由多模态分子信息生成。每个节点至少包含三类可计算模态分子指纹、理化性质描述符、以及描述药物适应症或作用机制的文本表示。这三类信息不是简单拼进一个向量就结束如何在图中组织它们直接决定了后续多模态融合层能否学到有效交互。2.1 DDI图中的节点、边与三种模态的选择依据模态原始数据向量化方式在图中的角色结构指纹SMILES字符串Morgan指纹ECFP42048维bit向量节点初始特征保留局部亚结构信息理化描述符分子式计算的物化属性数值向量如分子量、LogP、氢键供体/受体节点可解释特征参与门控权重计算文本描述药品说明书、适应症、靶点注释生物医学BERT最后一层CLS向量跨药物语义相似度缓解结构相似但不相似的假阴性之所以选这三类是因为单独任何一类都不稳定。分子指纹对骨架相同、侧链不同的药物会给出很高的相似度而药理作用可能完全不同理化描述符的数值密度低单独撑不起一个高维embedding文本模态能给模型提供“这些药治疗的疾病域相近”的归纳偏置。三种模态合在一起之后节点的初始向量大致是“指纹覆盖结构、物化属性覆盖可解释性、文本覆盖语义”后面所有图卷积都从这个初始向量起步。2.2 最小可复现的特征提取RDKit指纹与BioBERT文本向量先处理分子表这一步产出训练集和测试集共享的节点特征代码在本地直接可跑import torch from rdkit import Chem from rdkit.Chem import AllChem, Descriptors def extract_molecule_modalities(smiles_list: list[str]): fp_list, physchem_list [], [] for smi in smiles_list: mol Chem.MolFromSmiles(smi) if mol is None: raise ValueError(f无效SMILES: {smi}) # ECFP4指纹半径2固定2048维拓扑结构敏感度高 fp AllChem.GetMorganFingerprintAsBitVect(mol, 2, nBits2048) fp_list.append(torch.tensor(list(fp), dtypetorch.float32)) # 物化描述符取常用5项维度不高但能提供平滑梯度 feats [ Descriptors.MolWt(mol), Descriptors.MolLogP(mol), Descriptors.NumHDonors(mol), Descriptors.NumHAcceptors(mol), Descriptors.TPSA(mol) ] physchem_list.append(torch.tensor(feats, dtypetorch.float32)) return torch.stack(fp_list), torch.stack(physchem_list)参数说明里最值得关注的是nBits2048和radius2。2048是DDI论文里的最常见取值低于1024会明显增加碰撞率高于4096会让大多数图卷积层的第一层参数膨胀半径2对应ECFP4捕获原子两跳以内的环境对苯环和官能团识别够用没必要上ECFP6。物化特征只保留5项而不是全部200多个描述符是为了避免和指纹模态的共线性把门控权重学偏。文本模态用生物医学预训练模型做离线提取训练阶段冻结避免BERT参与图反向传播拖慢迭代from transformers import AutoTokenizer, AutoModel def embed_texts(texts: list[str], max_len: int 128): tokenizer AutoTokenizer.from_pretrained(dmis-lab/biobert-base-cased-v1.1) model AutoModel.from_pretrained(dmis-lab/biobert-base-cased-v1.1) enc tokenizer(texts, paddingTrue, truncationTrue, max_lengthmax_len, return_tensorspt) with torch.no_grad(): out model(**enc) # 取CLS向量作为整句表示768维 return out.last_hidden_state[:, 0, :]提示温度设置和文本截断对实验结果影响不小说明文本域的中文或英文药品说明书差异会在向量里被放大。保持数据一致性的做法是统一只取适应症首句。2.3 建图、双向化与按药物划分测试集有了节点特征之后需要把已知相互作用关系转成PyG的边索引。注意DDI关系多数情况下没有天然方向原始数据里一条记录建两条边比建一条边更稳因为GAT的注意力计算不对称def build_ddi_graph(pairs: list[tuple[int, int]]) - torch.Tensor: src [p[0] for p in pairs] dst [p[1] for p in pairs] # 同时保留两个方向让邻居聚合不受有向性影响 edge_index torch.tensor([src dst, dst src], dtypetorch.long) return edge_index数据划分是DDI实验最容易出问题的一步。按相互作用随机划分训练、验证、测试集会引入数据泄露同一种药物在训练集和测试集中同时出现模型等于看到过部分邻居AUC会虚高。def split_nodes_by_drug(num_drugs: int, test_ratio: float 0.2, seed: int 42): rng np.random.default_rng(seed) test_nodes rng.choice(num_drugs, sizeint(num_drugs * test_ratio), replaceFalse) train_nodes np.setdiff1d(np.arange(num_drugs), test_nodes) return train_nodes, test_nodes测试集里的边全部由测试节点参与构成验证集从训练集节点内部抽取。这个划分方式会牺牲一部分可用边但换回来的是新药泛化能力的真实估计尤其适合后续验证冷启动场景。3. 两层GAT编码器与多模态门控融合的模型实现图编码器的选型决定了信息能从多远的结构范围传入目标节点。DDI网络的节点度分布差异大少数药物有上千条边大量药物只有个位数邻居直接用GCN按度归一化聚合稀有小度节点很容易被邻居向量淹没。图注意力网络在每对邻居上计算动态注意力权重天然适合这种度分布不平衡的场景。如果追求性价比一层GCN加一层GAT的混合结构也是常见的妥协方案。3.1 GCN、GAT与GraphSAGE在药物网络上的选型差异编码器聚合方式对药物网络的适用性主要代价GCN按度归一化求和大度节点表达稳定小度节点特征被稀释需多点特征补偿GAT邻居间注意力加权适合度分布偏斜场景能突出关键邻居双头注意力下显存开销高GraphSAGE采样邻居后聚合适合超大图训练但对分子库这种中等规模提升有限采样随机性需要固定种子复现药物交互网络通常是几千到几万节点规模硬件压力不大GAT的头数和隐藏维度可以适当放宽。两层图卷积对多数DDI数据集已经足够三层以上的GAT在这个任务里收益很小反而会把初始模态信号过平滑。第二层用单头、第一层用多头是一套平衡表达能力和显存的经验组合。3.2 门控融合用可学习权重对齐指纹、物化与文本向量多模态融合最朴素的做法是把三类向量直接拼接但拼接意味着给每个维度固定比例的贡献模型必须自己从高维里区分模态边界收敛速度差。常用替代方案是门控融合为每个模态学一个标量权重让模型按样本动态调整结构信号和语义信号的占比。class ModalityGate(torch.nn.Module): def __init__(self, dims: dict[str, int], hidden_dim: int): super().__init__() # 三个模态各自的线性层把不同维度投影到同一空间 self.proj torch.nn.ModuleDict({ name: torch.nn.Linear(d, hidden_dim) for name, d in dims.items() }) self.gate torch.nn.Linear(hidden_dim * 3, 3) def forward(self, feats: dict[str, torch.Tensor]) - torch.Tensor: hs [torch.relu(self.proj[name](feats[name])) for name in feats] h torch.cat(hs, dim-1) gate_weights torch.softmax(self.gate(h), dim-1) # [N, 3] return sum(w.unsqueeze(-1) * h_i for w, h_i in zip(gate_weights.unbind(-1), hs))这段代码的关键在于softmax与unbind的组合三个模态的权重被约束在同一个概率单纯形上不会出现某一路权重无限增长。hs 列表保持顺序与传入 feats 的字典键一致门控信号来自三路投影后的拼接结果让权重分配能看到所有模态的上下文。3.3 用PyG实现GAT编码器与Bilinear解码器下面是一个完整的模型类融合层输出作为GAT输入解码器用双线性打分替换内积。内积在药物组合场景下表达力有限双线性层显式建模两个药物各自变换后再做点积import torch import torch.nn.functional as F from torch_geometric.nn import GATConv class MultiModalGNN(torch.nn.Module): def __init__(self, fp_dim, text_dim, phys_dim, hidden_dim, num_heads4): super().__init__() self.gate ModalityGate( dims{fp: fp_dim, text: text_dim, phys: phys_dim}, hidden_dimhidden_dim ) self.gat1 GATConv(hidden_dim, hidden_dim, headsnum_heads, concatFalse) self.gat2 GATConv(hidden_dim, hidden_dim, heads1, concatFalse) self.decoder torch.nn.Bilinear(hidden_dim, hidden_dim, 1) def forward(self, feats, edge_index): h self.gate(feats) h F.dropout(h, p0.3, trainingself.training) h F.elu(self.gat1(h, edge_index)) h F.dropout(h, p0.2, trainingself.training) h self.gat2(h, edge_index) return h def predict_edge(self, h, src, dst): return torch.sigmoid(self.decoder(h[src], h[dst]).squeeze(-1))GATConv第一层concatFalse会把多头注意力结果平均而不是拼接减少后续层输入维度第二层单头用于稳定输出。门控在GAT前面做模态对齐比在GNN后面做计算量更小也让图卷积从第一跳开始就能看到融合后的特征。实际训练时如果发现验证集AUC不涨优先检查的是gate_weights是否退化成了均匀分布。4. BCE损失、采样比例与训练超参调优模型结构只决定表达空间训练策略决定了模型最终落到的位置。DDI预测里损失函数的选择并不复杂BCE是多模态GNN预测二元相互作用时的默认项但真正影响实验结果的是正负样本的采样方式。随机负采样实现简单却会给模型喂大量“显然不交互”的负样本模型学不到边界样本的判别能力。4.1 负采样策略与正负样本比例常见的负采样策略有三种纯随机采样、随机替换药物单侧节点的半困难采样、以及用分子指纹相似度对负样本做难度控制的困难采样。半困难采样的做法是保持正样本的药物A不变随机从其他药物中抽B’只要B’不构成已知相互作用就算负样本。正负比例建议从1:1起步。超过1:5之后模型会把阈值推得过高验证集AUC虽然不降但测试集上召回率显著变差。更合理的做法是固定负样本比例后把验证指标改成AP或者F1不要只看AUC。困难负采样的难度参数需要控制负样本太相似会让模型退化成“看任何药物都倾向不交互”的保守预测器。4.2 基于BCE的边预测训练循环完整的训练循环应该把节点特征和图直接在同一个batch里参与前向计算代码里对pos_score和neg_score做了同分布拼接def train_step(model, feats, edge_index, pos_edges, neg_edges, optimizer): model.train() optimizer.zero_grad() h model(feats, edge_index) pos_src, pos_dst pos_edges[:, 0], pos_edges[:, 1] neg_src, neg_dst neg_edges[:, 0], neg_edges[:, 1] pos_score model.predict_edge(h, pos_src, pos_dst) neg_score model.predict_edge(h, neg_src, neg_dst) y_pred torch.cat([pos_score, neg_score]) y_true torch.cat([torch.ones_like(pos_score), torch.zeros_like(neg_score)]) loss F.binary_cross_entropy(y_pred, y_true) loss.backward() optimizer.step() return loss.item()注意这里h只计算一次pos_edges和neg_edges都以节点索引形式传入因此双线性打分不会重复经过GAT编码。负样本可以在每个epoch开始时重新采样固定一批负样本跑到底会让模型逐渐记住负样本对。建议每10个epoch重新生成一次负样本并保持随机种子固定。评估阶段取验证集边计算AUC和AP验证集同样需要正负样本比例与训练一致否则AUC会被负样本占比抬高from sklearn.metrics import roc_auc_score, average_precision_score with torch.no_grad(): h model(feats, val_edge_index) val_pos model.predict_edge(h, val_pos_src, val_pos_dst) val_neg model.predict_edge(h, val_neg_src, val_neg_dst) y_pred torch.cat([val_pos, val_neg]).cpu().numpy() y_true np.concatenate([np.ones(len(val_pos)), np.zeros(len(val_neg))]) print(fAUC{roc_auc_score(y_true, y_pred):.4f} AP{average_precision_score(y_true, y_pred):.4f})4.3 关键超参数与收敛判断超参数建议范围具体影响学习率1e-3到5e-4超过1e-3时门控层方差增大AUC抖动明显GAT头数4到8头数越多小度节点的表达能力越强显存线性增长隐藏维度128到256文本模态是768维128维会丢失语义256维度更稳妥Dropout0.2到0.4GAT第一层0.3、第二层0.2是稳妥起点负采样比例1:1到1:3超过1:5召回率下降Early stopping验证AUC连续20个epoch不涨防止大图上的过拟合学习率是这个任务里最敏感的参数。AdamW配合5e-4在多数DDI数据上是安全的低于1e-4会让门控权重收敛过慢高于2e-3则很容易发散。epoch上限设200实际大多在60到100之间就能触发early stopping。训练时把gate_weights的均值打印出来如果三个权重始终接近0.33说明模态融合没有学到差异优先回头查特征是否在同一量纲。5. 消融实验、冷启动新药与多类型DDI预测模型跑通之后下一步不是继续调参而是做消融实验给每个设计决定一个交代。消融实验的价值在于回答三个问题门控融合比简单拼接强多少文本模态到底有没有贡献GAT相对GCN在这个任务里的增益来自哪里5.1 三组必做的消融对比第一组是模态消融分别去掉指纹、物化属性、文本三个模态保留其他不变观察AUC和AP下降幅度。如果去掉文本之后指标没有明显变化说明数据里的文本描述质量偏低或与结构信息高度重合此时应该换文本来源而不是强行保留。第二组是融合方式消融门控融合对比直接拼接、均值求和两种方式门控在多数DDI数据集上AP会高出2到4个百分点如果持平则说明模态差异不大简化成拼接可以加快训练。第三组是图编码器消融把GAT换成GCN保持相同隐藏维度。这一组能验证“注意力对该数据集是否重要”结果比论文里的benchmark更有说服力。5.2 冷启动新药的三种应急手段新药节点没有任何已知相互作用时GAT能依赖的只有节点自身多模态特征缺少图邻居信号。常见处理手段有三个单独做节点特征与预训练网络的语义匹配把训练集里结构最相似的药物邻居临时作为该节点的伪邻居将对节点特征做mask的自监督任务加入预训练迫使初始表征不依赖邻居以及直接用多模态特征训练一个独立的MLP作为fallback模型当节点度为零时改走这条旁路。5.3 把二分类边预测扩展成多类型DDI预测DDI不是只有“有/无”两种状态数据库里通常记录着机制类型比如药效增强、代谢抑制、毒性叠加。把Bilinear解码器输出维度从1改成类别数损失换成交叉熵就能把评分函数从单值打分变成一个类型分布class MultiTypeDecoder(torch.nn.Module): def __init__(self, hidden_dim, num_types): super().__init__() self.bilinear torch.nn.Bilinear(hidden_dim, hidden_dim, num_types) def forward(self, h, src, dst): return self.bilinear(h[src], h[dst])训练时取F.cross_entropy(logits, type_labels)评估时对类型维度做argmax得到每种机制类型的预测。类别数增加后负样本只需要在所有类型之外采样一次不需要对每种类型分别采负样本。这个改动可以复用前面完整的GAT编码器和门控融合只替换解码层和损失函数最终得到的类型分布还能作为后续分析药物组合风险的特征输入。本文还有配套的精品资源点击获取
简介面向深度学习毕业设计、课程设计与期末大作业场景这份压缩包提供了一套基于多模态图神经网络Decagon的药物相互作用预测完整实现。项目以图结构建模药物节点与相互作用边融合药物化学结构、生物信息等多模态数据覆盖数据预处理、模型训练、指标评估与结果预测等关键环节适合需要快速复现或借鉴完整工程代码的研究者与开发者。压缩包共21个文件包含13个Python脚本、3个Jupyter Notebook、2张模型或结果示意图以及依赖列表和项目说明文档包体约622KB。Python脚本覆盖模型层、优化器、工具函数、主程序等核心逻辑Notebook用于数据处理与测试集分析配套说明与依赖清单便于环境搭建和代码复现。目前已有80人学习资源体量紧凑、目录清楚可帮助读者从零理解多模态图神经网络如何用于药物相互作用预测也可作为论文实验、课程报告或毕设讲解的参考基础。1. 药物相互作用预测为何需要多模态图神经网络药物相互作用DDI预测不是单纯的二元分类问题真正的难点在于新药没有历史交互记录模型必须在分子结构与已知网络结构之间同时找信号。传统基于规则的预测依赖数据库手工维护的代谢酶和转运体注释覆盖范围窄对结构新颖的药物几乎失效。深度学习社区这几年把这个问题重新定义成图上的链路预测药物是节点已知相互作用是边分子结构、靶点蛋白、描述文本各自构成独立模态最终由多模态图神经网络统一编码、打分。这个思路的核心收益是把冷启动问题转成了“多模态特征对齐”问题即节点即使没有邻居也能靠自身多模态表示获得可用向量。这篇文章按一条可落地的路线展开先解决多模态数据如何进图再讲GAT与门控融合的模型层实现随后落到训练与采样的关键参数最后用消融和冷启动实验验证到底哪部分改动真正带来收益。面向的是已经跑过基础GNN、想把DDI预测做成完整实验体系的工程师和算法同学。2. 把SMILES、文本与物化属性对齐成DDI图数据图神经网络的性能上限由输入图决定模型只是把图中已有的信号放出来。DDI预测的常规做法是定义一张无向药物图节点代表药物边代表已知的、经过权威数据库确认的药物相互作用节点特征由多模态分子信息生成。每个节点至少包含三类可计算模态分子指纹、理化性质描述符、以及描述药物适应症或作用机制的文本表示。这三类信息不是简单拼进一个向量就结束如何在图中组织它们直接决定了后续多模态融合层能否学到有效交互。2.1 DDI图中的节点、边与三种模态的选择依据模态原始数据向量化方式在图中的角色结构指纹SMILES字符串Morgan指纹ECFP42048维bit向量节点初始特征保留局部亚结构信息理化描述符分子式计算的物化属性数值向量如分子量、LogP、氢键供体/受体节点可解释特征参与门控权重计算文本描述药品说明书、适应症、靶点注释生物医学BERT最后一层CLS向量跨药物语义相似度缓解结构相似但不相似的假阴性之所以选这三类是因为单独任何一类都不稳定。分子指纹对骨架相同、侧链不同的药物会给出很高的相似度而药理作用可能完全不同理化描述符的数值密度低单独撑不起一个高维embedding文本模态能给模型提供“这些药治疗的疾病域相近”的归纳偏置。三种模态合在一起之后节点的初始向量大致是“指纹覆盖结构、物化属性覆盖可解释性、文本覆盖语义”后面所有图卷积都从这个初始向量起步。2.2 最小可复现的特征提取RDKit指纹与BioBERT文本向量先处理分子表这一步产出训练集和测试集共享的节点特征代码在本地直接可跑import torch from rdkit import Chem from rdkit.Chem import AllChem, Descriptors def extract_molecule_modalities(smiles_list: list[str]): fp_list, physchem_list [], [] for smi in smiles_list: mol Chem.MolFromSmiles(smi) if mol is None: raise ValueError(f无效SMILES: {smi}) # ECFP4指纹半径2固定2048维拓扑结构敏感度高 fp AllChem.GetMorganFingerprintAsBitVect(mol, 2, nBits2048) fp_list.append(torch.tensor(list(fp), dtypetorch.float32)) # 物化描述符取常用5项维度不高但能提供平滑梯度 feats [ Descriptors.MolWt(mol), Descriptors.MolLogP(mol), Descriptors.NumHDonors(mol), Descriptors.NumHAcceptors(mol), Descriptors.TPSA(mol) ] physchem_list.append(torch.tensor(feats, dtypetorch.float32)) return torch.stack(fp_list), torch.stack(physchem_list)参数说明里最值得关注的是nBits2048和radius2。2048是DDI论文里的最常见取值低于1024会明显增加碰撞率高于4096会让大多数图卷积层的第一层参数膨胀半径2对应ECFP4捕获原子两跳以内的环境对苯环和官能团识别够用没必要上ECFP6。物化特征只保留5项而不是全部200多个描述符是为了避免和指纹模态的共线性把门控权重学偏。文本模态用生物医学预训练模型做离线提取训练阶段冻结避免BERT参与图反向传播拖慢迭代from transformers import AutoTokenizer, AutoModel def embed_texts(texts: list[str], max_len: int 128): tokenizer AutoTokenizer.from_pretrained(dmis-lab/biobert-base-cased-v1.1) model AutoModel.from_pretrained(dmis-lab/biobert-base-cased-v1.1) enc tokenizer(texts, paddingTrue, truncationTrue, max_lengthmax_len, return_tensorspt) with torch.no_grad(): out model(**enc) # 取CLS向量作为整句表示768维 return out.last_hidden_state[:, 0, :]提示温度设置和文本截断对实验结果影响不小说明文本域的中文或英文药品说明书差异会在向量里被放大。保持数据一致性的做法是统一只取适应症首句。2.3 建图、双向化与按药物划分测试集有了节点特征之后需要把已知相互作用关系转成PyG的边索引。注意DDI关系多数情况下没有天然方向原始数据里一条记录建两条边比建一条边更稳因为GAT的注意力计算不对称def build_ddi_graph(pairs: list[tuple[int, int]]) - torch.Tensor: src [p[0] for p in pairs] dst [p[1] for p in pairs] # 同时保留两个方向让邻居聚合不受有向性影响 edge_index torch.tensor([src dst, dst src], dtypetorch.long) return edge_index数据划分是DDI实验最容易出问题的一步。按相互作用随机划分训练、验证、测试集会引入数据泄露同一种药物在训练集和测试集中同时出现模型等于看到过部分邻居AUC会虚高。def split_nodes_by_drug(num_drugs: int, test_ratio: float 0.2, seed: int 42): rng np.random.default_rng(seed) test_nodes rng.choice(num_drugs, sizeint(num_drugs * test_ratio), replaceFalse) train_nodes np.setdiff1d(np.arange(num_drugs), test_nodes) return train_nodes, test_nodes测试集里的边全部由测试节点参与构成验证集从训练集节点内部抽取。这个划分方式会牺牲一部分可用边但换回来的是新药泛化能力的真实估计尤其适合后续验证冷启动场景。3. 两层GAT编码器与多模态门控融合的模型实现图编码器的选型决定了信息能从多远的结构范围传入目标节点。DDI网络的节点度分布差异大少数药物有上千条边大量药物只有个位数邻居直接用GCN按度归一化聚合稀有小度节点很容易被邻居向量淹没。图注意力网络在每对邻居上计算动态注意力权重天然适合这种度分布不平衡的场景。如果追求性价比一层GCN加一层GAT的混合结构也是常见的妥协方案。3.1 GCN、GAT与GraphSAGE在药物网络上的选型差异编码器聚合方式对药物网络的适用性主要代价GCN按度归一化求和大度节点表达稳定小度节点特征被稀释需多点特征补偿GAT邻居间注意力加权适合度分布偏斜场景能突出关键邻居双头注意力下显存开销高GraphSAGE采样邻居后聚合适合超大图训练但对分子库这种中等规模提升有限采样随机性需要固定种子复现药物交互网络通常是几千到几万节点规模硬件压力不大GAT的头数和隐藏维度可以适当放宽。两层图卷积对多数DDI数据集已经足够三层以上的GAT在这个任务里收益很小反而会把初始模态信号过平滑。第二层用单头、第一层用多头是一套平衡表达能力和显存的经验组合。3.2 门控融合用可学习权重对齐指纹、物化与文本向量多模态融合最朴素的做法是把三类向量直接拼接但拼接意味着给每个维度固定比例的贡献模型必须自己从高维里区分模态边界收敛速度差。常用替代方案是门控融合为每个模态学一个标量权重让模型按样本动态调整结构信号和语义信号的占比。class ModalityGate(torch.nn.Module): def __init__(self, dims: dict[str, int], hidden_dim: int): super().__init__() # 三个模态各自的线性层把不同维度投影到同一空间 self.proj torch.nn.ModuleDict({ name: torch.nn.Linear(d, hidden_dim) for name, d in dims.items() }) self.gate torch.nn.Linear(hidden_dim * 3, 3) def forward(self, feats: dict[str, torch.Tensor]) - torch.Tensor: hs [torch.relu(self.proj[name](feats[name])) for name in feats] h torch.cat(hs, dim-1) gate_weights torch.softmax(self.gate(h), dim-1) # [N, 3] return sum(w.unsqueeze(-1) * h_i for w, h_i in zip(gate_weights.unbind(-1), hs))这段代码的关键在于softmax与unbind的组合三个模态的权重被约束在同一个概率单纯形上不会出现某一路权重无限增长。hs 列表保持顺序与传入 feats 的字典键一致门控信号来自三路投影后的拼接结果让权重分配能看到所有模态的上下文。3.3 用PyG实现GAT编码器与Bilinear解码器下面是一个完整的模型类融合层输出作为GAT输入解码器用双线性打分替换内积。内积在药物组合场景下表达力有限双线性层显式建模两个药物各自变换后再做点积import torch import torch.nn.functional as F from torch_geometric.nn import GATConv class MultiModalGNN(torch.nn.Module): def __init__(self, fp_dim, text_dim, phys_dim, hidden_dim, num_heads4): super().__init__() self.gate ModalityGate( dims{fp: fp_dim, text: text_dim, phys: phys_dim}, hidden_dimhidden_dim ) self.gat1 GATConv(hidden_dim, hidden_dim, headsnum_heads, concatFalse) self.gat2 GATConv(hidden_dim, hidden_dim, heads1, concatFalse) self.decoder torch.nn.Bilinear(hidden_dim, hidden_dim, 1) def forward(self, feats, edge_index): h self.gate(feats) h F.dropout(h, p0.3, trainingself.training) h F.elu(self.gat1(h, edge_index)) h F.dropout(h, p0.2, trainingself.training) h self.gat2(h, edge_index) return h def predict_edge(self, h, src, dst): return torch.sigmoid(self.decoder(h[src], h[dst]).squeeze(-1))GATConv第一层concatFalse会把多头注意力结果平均而不是拼接减少后续层输入维度第二层单头用于稳定输出。门控在GAT前面做模态对齐比在GNN后面做计算量更小也让图卷积从第一跳开始就能看到融合后的特征。实际训练时如果发现验证集AUC不涨优先检查的是gate_weights是否退化成了均匀分布。4. BCE损失、采样比例与训练超参调优模型结构只决定表达空间训练策略决定了模型最终落到的位置。DDI预测里损失函数的选择并不复杂BCE是多模态GNN预测二元相互作用时的默认项但真正影响实验结果的是正负样本的采样方式。随机负采样实现简单却会给模型喂大量“显然不交互”的负样本模型学不到边界样本的判别能力。4.1 负采样策略与正负样本比例常见的负采样策略有三种纯随机采样、随机替换药物单侧节点的半困难采样、以及用分子指纹相似度对负样本做难度控制的困难采样。半困难采样的做法是保持正样本的药物A不变随机从其他药物中抽B’只要B’不构成已知相互作用就算负样本。正负比例建议从1:1起步。超过1:5之后模型会把阈值推得过高验证集AUC虽然不降但测试集上召回率显著变差。更合理的做法是固定负样本比例后把验证指标改成AP或者F1不要只看AUC。困难负采样的难度参数需要控制负样本太相似会让模型退化成“看任何药物都倾向不交互”的保守预测器。4.2 基于BCE的边预测训练循环完整的训练循环应该把节点特征和图直接在同一个batch里参与前向计算代码里对pos_score和neg_score做了同分布拼接def train_step(model, feats, edge_index, pos_edges, neg_edges, optimizer): model.train() optimizer.zero_grad() h model(feats, edge_index) pos_src, pos_dst pos_edges[:, 0], pos_edges[:, 1] neg_src, neg_dst neg_edges[:, 0], neg_edges[:, 1] pos_score model.predict_edge(h, pos_src, pos_dst) neg_score model.predict_edge(h, neg_src, neg_dst) y_pred torch.cat([pos_score, neg_score]) y_true torch.cat([torch.ones_like(pos_score), torch.zeros_like(neg_score)]) loss F.binary_cross_entropy(y_pred, y_true) loss.backward() optimizer.step() return loss.item()注意这里h只计算一次pos_edges和neg_edges都以节点索引形式传入因此双线性打分不会重复经过GAT编码。负样本可以在每个epoch开始时重新采样固定一批负样本跑到底会让模型逐渐记住负样本对。建议每10个epoch重新生成一次负样本并保持随机种子固定。评估阶段取验证集边计算AUC和AP验证集同样需要正负样本比例与训练一致否则AUC会被负样本占比抬高from sklearn.metrics import roc_auc_score, average_precision_score with torch.no_grad(): h model(feats, val_edge_index) val_pos model.predict_edge(h, val_pos_src, val_pos_dst) val_neg model.predict_edge(h, val_neg_src, val_neg_dst) y_pred torch.cat([val_pos, val_neg]).cpu().numpy() y_true np.concatenate([np.ones(len(val_pos)), np.zeros(len(val_neg))]) print(fAUC{roc_auc_score(y_true, y_pred):.4f} AP{average_precision_score(y_true, y_pred):.4f})4.3 关键超参数与收敛判断超参数建议范围具体影响学习率1e-3到5e-4超过1e-3时门控层方差增大AUC抖动明显GAT头数4到8头数越多小度节点的表达能力越强显存线性增长隐藏维度128到256文本模态是768维128维会丢失语义256维度更稳妥Dropout0.2到0.4GAT第一层0.3、第二层0.2是稳妥起点负采样比例1:1到1:3超过1:5召回率下降Early stopping验证AUC连续20个epoch不涨防止大图上的过拟合学习率是这个任务里最敏感的参数。AdamW配合5e-4在多数DDI数据上是安全的低于1e-4会让门控权重收敛过慢高于2e-3则很容易发散。epoch上限设200实际大多在60到100之间就能触发early stopping。训练时把gate_weights的均值打印出来如果三个权重始终接近0.33说明模态融合没有学到差异优先回头查特征是否在同一量纲。5. 消融实验、冷启动新药与多类型DDI预测模型跑通之后下一步不是继续调参而是做消融实验给每个设计决定一个交代。消融实验的价值在于回答三个问题门控融合比简单拼接强多少文本模态到底有没有贡献GAT相对GCN在这个任务里的增益来自哪里5.1 三组必做的消融对比第一组是模态消融分别去掉指纹、物化属性、文本三个模态保留其他不变观察AUC和AP下降幅度。如果去掉文本之后指标没有明显变化说明数据里的文本描述质量偏低或与结构信息高度重合此时应该换文本来源而不是强行保留。第二组是融合方式消融门控融合对比直接拼接、均值求和两种方式门控在多数DDI数据集上AP会高出2到4个百分点如果持平则说明模态差异不大简化成拼接可以加快训练。第三组是图编码器消融把GAT换成GCN保持相同隐藏维度。这一组能验证“注意力对该数据集是否重要”结果比论文里的benchmark更有说服力。5.2 冷启动新药的三种应急手段新药节点没有任何已知相互作用时GAT能依赖的只有节点自身多模态特征缺少图邻居信号。常见处理手段有三个单独做节点特征与预训练网络的语义匹配把训练集里结构最相似的药物邻居临时作为该节点的伪邻居将对节点特征做mask的自监督任务加入预训练迫使初始表征不依赖邻居以及直接用多模态特征训练一个独立的MLP作为fallback模型当节点度为零时改走这条旁路。5.3 把二分类边预测扩展成多类型DDI预测DDI不是只有“有/无”两种状态数据库里通常记录着机制类型比如药效增强、代谢抑制、毒性叠加。把Bilinear解码器输出维度从1改成类别数损失换成交叉熵就能把评分函数从单值打分变成一个类型分布class MultiTypeDecoder(torch.nn.Module): def __init__(self, hidden_dim, num_types): super().__init__() self.bilinear torch.nn.Bilinear(hidden_dim, hidden_dim, num_types) def forward(self, h, src, dst): return self.bilinear(h[src], h[dst])训练时取F.cross_entropy(logits, type_labels)评估时对类型维度做argmax得到每种机制类型的预测。类别数增加后负样本只需要在所有类型之外采样一次不需要对每种类型分别采负样本。这个改动可以复用前面完整的GAT编码器和门控融合只替换解码层和损失函数最终得到的类型分布还能作为后续分析药物组合风险的特征输入。本文还有配套的精品资源点击获取
