Captum · Model Interpretability for PyTorch

支持各种模式模式的可解释性,包括愿景、文字等。 支持大多数类型的PyTorrch模型,并可在对原始神经网络进行最低限度修改的情况下加以使用,开放源码,可解释研究通用图书馆。 易于实施和基准确定新的算法。 安装信封: 通过 conda (建议): conda 通过 pip 安装 aptum - c pytorch : pip 安装 captum 创建和准备模式: 将numpy 导入np 导入火炬导入 torch. nn 作为 nn 从 captum.attr 导入导入 Indigrients Introduct Gradients level ToyModel (nn. Module) : def __init___ (self) : super (._init___ () self.lin1 = nn. Linear( 3, 3) self. relu = nn. reLU () self.lin2 = nn. reLU () self.lin2 nn.Linear( 3, 2) # 初始化重量和偏差 自我. lin1. 重量 = nn. parameter (火炬. arange( - 4. 0, 5. 0). view ( 3, 3) sel. lin1. beas = nn. parameter (火炬. 零( 1, 3)) sel flin2. weight = nn.Parameter (火炬. arange ( -3.0, 3.0). view (2, 3)) self.lin2. beas = nn.Parameter (火炬.ones (1, 2)) def fref( 自己, 输入) : 返回 self. lin2( self. relu) (sel) flin1(投入)) 模型 = ToyModel () 模型.eval ()