空间科学学报

架构	数据集	数据集尺寸/pixel	参数量 (×10⁶)	浮点运算次数
ResNet18	ImageNet	$ 256\times 256 $	$ 11.69 $	$ 1.8\times {10}^{9} $
ResNet34	ImageNet	$ 256\times 256 $	$ 21.80 $	$ 3.6\times {10}^{9} $
ResNet50	ImageNet	$ 256\times 256 $	$ 25.56 $	$ 3.8\times {10}^{9} $
ResNet101	ImageNet	$ 256\times 256 $	$ 44.55 $	$ 7.6\times {10}^{9} $
ResNet20	CIFAR-10	$ 32\times 32 $	$ 0.27 $	$ 4.0\times {10}^{7} $
ResNet32	CIFAR-10	$ 32\times 32 $	$ 0.46 $	$ 6.9\times {10}^{7} $
ResNet44	CIFAR-10	$ 32\times 32 $	$ 0.66 $	$ 9.7\times {10}^{7} $
ResNet110	CIFAR-10	$ 32\times 32 $	$ 1.72 $	$ 2.5\times {10}^{8} $

架构	数据集	数据集尺寸/pixel	参数量 (×10⁶)	浮点运算次数
ResNet18	ImageNet	$ 256\times 256 $	$ 11.69 $	$ 1.8\times {10}^{9} $
ResNet34	ImageNet	$ 256\times 256 $	$ 21.80 $	$ 3.6\times {10}^{9} $
ResNet50	ImageNet	$ 256\times 256 $	$ 25.56 $	$ 3.8\times {10}^{9} $
ResNet101	ImageNet	$ 256\times 256 $	$ 44.55 $	$ 7.6\times {10}^{9} $
ResNet20	CIFAR-10	$ 32\times 32 $	$ 0.27 $	$ 4.0\times {10}^{7} $
ResNet32	CIFAR-10	$ 32\times 32 $	$ 0.46 $	$ 6.9\times {10}^{7} $
ResNet44	CIFAR-10	$ 32\times 32 $	$ 0.66 $	$ 9.7\times {10}^{7} $
ResNet110	CIFAR-10	$ 32\times 32 $	$ 1.72 $	$ 2.5\times {10}^{8} $

方法	0.001‰	0.002‰	0.004‰	0.008‰	0.016‰	0.032‰	0.064‰	0.128‰
单一模型ResNet110	2	3	7	14	27	54	109	218
三模冗余ResNet110 (TMR)	5	10	20	41	82	163	326	653
静态集成ResNet20/32/44 (SE)	1	3	6	11	22	45	90	179
AB-FTM	1	3	6	11	22	45	90	179

方法	0.001‰	0.002‰	0.004‰	0.008‰	0.016‰	0.032‰	0.064‰	0.128‰
单一模型ResNet110	2	3	7	14	27	54	109	218
三模冗余ResNet110 (TMR)	5	10	20	41	82	163	326	653
静态集成ResNet20/32/44 (SE)	1	3	6	11	22	45	90	179
AB-FTM	1	3	6	11	22	45	90	179

方法	MNIST/(%)	CIFAR-10/(%)	EuroSAT/(%)	Galaxy10 DECals/(%)
单一模型ResNet110	99.65	93.68	97.37	84.33
三模冗余ResNet110 (TMR)	99.65	93.68	97.37	84.33
静态集成ResNet20/32/44 (SE)	99.68	93.83	97.56	84.49
AB-FTM	99.68	94.27	97.81	84.50

方法	MNIST/(%)	CIFAR-10/(%)	EuroSAT/(%)	Galaxy10 DECals/(%)
单一模型ResNet110	99.65	93.68	97.37	84.33
三模冗余ResNet110 (TMR)	99.65	93.68	97.37	84.33
静态集成ResNet20/32/44 (SE)	99.68	93.83	97.56	84.49
AB-FTM	99.68	94.27	97.81	84.50

方法	模型	参数量(×10⁶)	存储空间/MByte	浮点运算次数($\times {10}^{8} $)
单一模型ResNet110	1×ResNet110	$ 1.70 $	$ 6.78 $	$ 2.5 $
三模冗余ResNet110 (TMR)	3×ResNet110	$ 5.10 $	$ 20.34 $	$ 7.5 $
静态集成ResNet20/32/44 (SE)	ResNet20+32+44	$ 1.39 $	$ 5.56 $	$ 2.1 $
AB-FTM	ResNet20+32+44	$ 1.39 $	$ 5.56 $	$ 2.1 $

方法	模型	参数量(×10⁶)	存储空间/MByte	浮点运算次数($\times {10}^{8} $)
单一模型ResNet110	1×ResNet110	$ 1.70 $	$ 6.78 $	$ 2.5 $
三模冗余ResNet110 (TMR)	3×ResNet110	$ 5.10 $	$ 20.34 $	$ 7.5 $
静态集成ResNet20/32/44 (SE)	ResNet20+32+44	$ 1.39 $	$ 5.56 $	$ 2.1 $
AB-FTM	ResNet20+32+44	$ 1.39 $	$ 5.56 $	$ 2.1 $

数据集	静态集成		动态权重调整机制提高的准确率/(%)
MNIST	76.47	23.21	83.17	16.51	6.70
CIFAR-10	56.43	37.40	63.82	30.45	7.39
EuroSAT	64.80	32.76	71.30	26.51	6.50
Galaxy10 DECals	49.17	35.32	55.90	28.60	6.73

数据集	静态集成		动态权重调整机制提高的准确率/(%)
MNIST	76.47	23.21	83.17	16.51	6.70
CIFAR-10	56.43	37.40	63.82	30.45	7.39
EuroSAT	64.80	32.76	71.30	26.51	6.50
Galaxy10 DECals	49.17	35.32	55.90	28.60	6.73

基于自适应增强算法的卷积神经网络单粒子翻转容错方法

PDF下载

罗熙 ¹^,² , 周晴 ¹ , 江源源 ¹

空间科学学报 | 研究论文 2026,46(2): 380-391

收起

空间科学学报 |研究论文 2026 , 46 (2) : 380 -391

基于自适应增强算法的卷积神经网络单粒子翻转容错方法

全屏

罗熙¹^,², 周晴¹, 江源源¹

作者信息

¹中国科学院国家空间科学中心　北京　100190

²中国科学院大学　北京　100049

通讯作者:

周晴 E-mail: zhouqing@nssc.ac.cn

作者简介:

罗熙　男, 2000年5月出生于湖南省永州市. 现为中国科学院国家空间科学中心硕士研究生, 专业为计算机技术, 主要研究方向为星载人工智能. E-mail: chellyluoxi@foxmail.com

周晴　女, 1972年2月出生于湖南省醴陵市, 现为中国科学院国家空间科学中心正研级高级工程师, 硕士生导师, 主要研究方向为空间信息与数据处理技术, 高可信嵌入式软件技术等. E-mail: zhouqing@nssc.ac.cn

Single Event Upsets Fault Tolerance of Convolutional Neural Networks Based on Adaptive Boosting

Xi LUO¹^,², Qing ZHOU¹, Yuanyuan JIANG¹

Affiliations

¹National Space Science Center, Chinese Academy of Sciences, Beijing 100190

²University of Chinese Academy of Sciences, Beijing 100049

出版时间: 2026-03-15 doi: 10.11728/cjss2026.02.2025-0025

文章导航

摘要

收起

空间辐射环境下的单粒子翻转效应严重威胁着星载智能系统的可靠性, 传统的三模冗余和周期性擦写等容错方法存在资源开销大、功耗高等问题. 提出一种基于自适应增强算法的轻量化容错方法(AB-FTM), 通过该方法构建ResNet20/32/44异构弱模型集成架构, 结合动态权重调整机制, 不仅显著减少参数规模(相比于原始ResNet110缩减18.2%), 而且提升了分类精度与鲁棒性, 增强了容错能力. 在CIFAR-10, MNIST, EuroSAT和Galaxy10 DECals数据集上的实验验证表明, 当0.032‰ 比例的参数发生单粒子翻转时, AB-FTM较ResNet110三模冗余的准确率分别提升53.25%, 63.49%, 57.67%和47.43%, 显著优于传统三模冗余方案. 该方法为未来空间科学卫星使用星载智能系统提供了兼顾可靠性、轻量化与计算效能的新型解决方案.

关键词

单粒子翻转 / 自适应增强算法 / 卷积神经网络 / 容错 / 航天器

Abstract

收起

Single-Event Upsets (SEUs) in the space radiation environment pose a serious threat to the reliability of satellite-borne intelligent systems. Traditional fault-tolerance methods such as Triple Modular Redundancy (TMR) and periodic scrubbing face challenges including excessive resource overhead and high power consumption. This paper presents a lightweight fault-tolerance method based on Adaptive Boosting-based Fault-Tolerance Method (AB-FTM) to address SEU vulnerabilities in convolutional neural networks. The proposed approach constructs a heterogeneous ensemble architecture comprising three weak models (ResNet20, ResNet32, ResNet44) and integrated with a dynamic weight adjustment mechanism. By integrating a dynamic weight adjustment mechanism, the method not only significantly reduces the parameter scale (achieving an 18.2% reduction compared to ResNet110) but also enhances classification accuracy, robustness, and fault tolerance. Experimental validation on datasets including CIFAR-10, MNIST, EuroSAT, and Galaxy10 DECals demonstrates that when 0.032‰ of parameters are affected by single-event upsets, the proposed method improves classification accuracy by 53.25%, 63.49%, 57.67%, and 47.43% respectively compared to the TMR-based ResNet110, significantly outperforming traditional triple modular redundancy solutions. This approach provides a novel solution for future space science satellites employing satellite-borne intelligent systems, balancing reliability, lightweight design, and computational efficiency.

Key words

Single event upset / Adaptive boosting / Convolutional neural network / Fault tolerance / Spacecraft

引用本文

罗熙, 周晴, 江源源. 基于自适应增强算法的卷积神经网络单粒子翻转容错方法. 空间科学学报, 2026 , 46 (2) : 380 -391 . DOI: 10.11728/cjss2026.02.2025-0025

Xi LUO, Qing ZHOU, Yuanyuan JIANG. Single Event Upsets Fault Tolerance of Convolutional Neural Networks Based on Adaptive Boosting[J]. Chinese Journal of Space Science, 2026 , 46 (2) : 380 -391 . DOI: 10.11728/cjss2026.02.2025-0025

正文

收起

0　引言

收起

随着航天器智能化、自主化水平大幅提升, 基于深度学习的在轨智能处理系统已成为空间任务的核心模块之一, 可集成于航天器的智能决策系统中, 实现自主导航、任务规划及空间非合作目标的意图识别^[1]等功能. 对于可能出现通信中断或高延迟的航天器, 在轨智能处理系统能够及时调整任务执行, 无需等待地面指令, 有效提升任务效率.

以祝融号火星车^[2]为例, 由于地火回路时延长达6～44 min且下行数据量有限, 地面无法实时遥控, 需借助智能处理系统在无测控支持下自主执行. 以中国首颗综合性太阳观测卫星^[3]夸父一号(ASO-S)为例, 未来可利用智能处理系统实时监测并解析筛选日冕物质抛射、耀斑加速高能粒子等空间天气事件. 自主优化观测策略, 例如调整FMG载荷指向太阳黑子磁流浮现区, 以捕获关键的瞬态数据, 更好地探测太阳爆发, 预报空间天气, 为中国空间环境的安全提供保障. 此外, 空间科学卫星鸿蒙计划^[4]未来也可以通过搭载智能处理系统, 实现实时分析海量射电频谱数据, 动态识别宇宙信号与噪声特征, 自主优化卫星编队观测模式、智能故障诊断与容错, 更好地实现高精度全天频谱测量、超长波巡天及行星射电活动监测的科学目标.

然而空间辐射环境对神经网络的可靠性构成了严峻威胁. 统计显示^[5], 在地球低轨道(LEO, 高度100～1000 km)上单粒子翻转(Single Event Upset, SEU)是卫星发生故障最主要的原因. 这种位翻转不仅会导致神经网络模型精度骤降, 更可能引发系统级决策功能失效, 严重威胁航天器任务安全.

传统的抗单粒子翻转方法主要采用三模冗余设计^[6]、周期性擦写^[7]、ECC纠错等传统容错机制. 尽管这些方法在电子系统中已获验证, 但应用于神经网络时存在显著局限性. 由于神经网络的推理依赖于所有参数, 通常参数均是百万量级以上, 硬件冗余导致3倍以上资源开销, 计算复杂量增大, 难以适配星载平台严格的功耗约束; 周期性擦写虽能修复错误, 但是不能防止神经网络参数发生单粒子翻转时引发的错误传递. 同时, 频繁存取操作加剧存储单元磨损并产生额外能耗; ECC纠错编解码过程中增加的延迟, 可能导致高速数据流因校验计算而使整体速度下降, 进而形成瓶颈. 因此, 研究开始探索针对神经网络的单粒子翻转评估与容错方法. 例如Ruospo等^[8]在2021年通过研究参数的位宽, 使用浮点和定点两种不同的数据类型来更高效地表示数据, 以提高卷积神经网络的效率与可靠性. Ibrahim等^[9]在2020年测试了GPU, FPGA, ASIC三种类型的神经网络加速器的单粒子翻转情况, 发现GPU和ASIC在硬件资源、浮点数与定点数、错误传播行为和容错技术方面具有优势. Qian等^[10]在2021年提出了一种基于dropout算法的单粒子容错方法, 可以在不增加额外资源消耗的情况下, 加固后的LeNet-5网络相对于未使用任何加固方法的LeNet-5网络准确率提升约2%, 但该容错算法在更大规模的模型中效果并不明显.

针对上述问题, 提出一种基于自适应增强算法, 区别于传统单一模型加固思路, 通过构建ResNet20/32/44异构弱模型集成架构, 结合动态权重调整机制, 在显著减少参数规模(相比原始ResNet110, 缩减了18.2%)的同时, 提升了分类精度与鲁棒性, 具有更强的容错能力. 该方法创新性地将模型差异性转化为容错优势, 通过多层级错误屏蔽与补偿机制, 有效抑制单粒子翻转的传播影响. 实验在遥感数据集EuroSAT^[11]与天文星系数据集Galaxy10 DECals^[12]等多个数据集上验证表明, 新方法在0.032‰比例的参数发生单粒子翻转时, 相比传统三模冗余方案, 准确率至少提高了47.43%, 显著优于传统的三模冗余容错方案. 本文为星载智能系统提供了兼顾可靠性、轻量化与计算效能的新型解决方案.

1　神经网络参数单粒子翻转模拟方法

收起

1.1　单粒子翻转机理

单粒子翻转是指高能带电粒子穿过半导体器件的敏感区域时, 电离作用导致存储单元中的数据发生翻转的现象. 以典型的SRAM存储单元为例, 其存储机制是通过两个反相器构成的双稳态电路来实现的. 当高能粒子击中SRAM的敏感区域时, 产生的瞬态电流可能会改变存储单元节点的电压状态, 使其从逻辑1翻转为逻辑0, 或从逻辑0翻转为逻辑1. 这种翻转效应不会对电子元器件造成永久性损伤, 但其引发的存储单元逻辑状态错误会持续存在, 直至对该存储单元执行下一次写入操作, 或系统复位后才会恢复正常. 对于神经网络而言, 这种翻转可能直接作用于权重矩阵或偏置参数的存储单元, 导致模型推理结果出现不可预知的偏差.

当前, 低轨大规模卫星星座(例如SpaceX星链、OneWeb及中国千帆计划)呈现爆发式部署态势, 单星座规模可达数千至数万颗. 受商业卫星低成本设计约束, 此类平台普遍采用抗单粒子翻转阈值较低的商用级SRAM器件. 根据辐射环境模型分析, 在典型低轨高度(1000～1200 km)运行期间, SRAM器件的SEU事件空间分布呈现显著地域相关性. 在轨单粒子翻转大部分发生在南大西洋异常区(SAA), 对于抗单粒子翻转阈值为0.7 MeV·cm²·mg^–1的低阈值SRAM器件, 发生概率约为3.18×10^–8 bit^–1·h^–1[13]. 以ResNet110网络为例, 其

$ 1.7\times {10}^{6} $

参数规模在SAA区域暴露1 h可引发≥1次SEU事件, 这对需要高可靠的航天任务来说是非常危险的, 因此有必要针对航天环境下的神经网络采取加固措施.

1.2　可控的单粒子翻转模拟方法

由于主流深度学习框架(例如PyTorch和TensorFlow)默认使用IEEE 754标准的32位单精度浮点数(Binary 32)进行模型训练与推理, 且32位单精度浮点数更贴近航天器常用处理器的数据位宽, 因此, 这里采用32位单精度浮点数作为神经网络参数的存储格式. 根据IEEE754的规定, 32位单精度浮点数由1位符号位, 8位指数位, 23位尾数位组成, 其表达式为

$ V={-1}^{S}\times {2}^{{{}^{(E-127)}}}\times (1+M) . $

(1)

其中,

$ S $

为符号位值(0表示正数, 1表示负数),

$ E $

为指数位的无符号整数值,

$ M $

为尾数位代表小数.

在空间环境中单粒子翻转是随机的, 可能发生在任意浮点数的任意比特位, 对网络参数的影响差异显著, 高位翻转比低位翻转影响更大. 权重参数符号位翻转可能会导致数值正负号反转, 相当于将神经元连接从抑制变为激励(或相反), 可能完全改变特征提取的方向. 指数位翻转也会导致权重参数的数量级的变化. 32位单精度浮点数的模型权重参数尾数位发生翻转情况如图1所示.

此外, 传统SEU仅限于单个比特位, 这种假设在早期半导体工艺中基本成立^[14]. 随着半导体工艺的微缩化, 电荷共享导致的多比特翻转也变得日益显著^[15]. 电荷共享(Charge Sharing)效应是指当高能粒子撞击SRAM存储单元时, 产生的电荷不仅会影响撞击点的存储单元, 还会通过扩散机制影响相邻的存储单元. 这将会导致连续多个比特位可能同时发生翻转, 造成多比特翻转(Multiple Bit Upset, MBU). 根据Bage等^[16]于2009年的测试实验, 这种连续性翻转的概率分布符合几何分布模型, 即

$ P(X=k)=(1-r)^{k-1}r,\ k\ge1. $

(2)

其中, k表示连续翻转的比特数; 参数r表示电荷扩散终止的概率, 即在翻转一个比特位后停止进一步翻转的概率, 基于45 nm工艺SRAM器件的辐照测试结果显示

$ r=0.57 $

^[16].

为了系统评估星载神经网络在空间环境中面临的单粒子翻转问题, 设计了一种可控的参数错误注入算法, 用于模拟高能粒子辐射导致的单粒子翻转现象. 使用的深度学习框架为PyTorch, 模型参数存储于pth格式文件中, 参数以十进制数表示, 需将其转换为二进制表示的32位单精度浮点数, 再随机注入比特位翻转. 设计的神经网络单粒子翻转仿真注错算法核心步骤如下.

步骤 1　参数提取. 提取神经网络中所有的参数.

步骤 2　选择参数. 在所有参数中随机选择一个作为翻转的目标参数.

步骤 3　参数二进制转化. 获取目标参数的十进制浮点数值后, 将其转换为符合IEEE754格式的二进制表示形式, 该步骤是实现比特级操作的基础, 因为单粒子翻转作用的对象是二进制数据中的比特位.

步骤 4　翻转注入. 根据实验需求, 随机翻转目标参数中某一比特位, 并根据几何分布, 翻转该比特位附近的比特位.

步骤 5　数值重构与保存模型. 将翻转后的二进制串转换为十进制浮点数.

步骤 6　根据预设的单粒子翻转次数N_error, 执行多次参数修改操作, 每次修改操作均是独立的单粒子翻转过程. 重复步骤2～5.

步骤 7　保存注入比特位错误后的模型参数.

该算法可以灵活地设置翻转次数, 设置不同类型比特位(符号位、指数位、尾数位)翻转, 在神经网络模型的权重参数中, 能够按照翻转次数注入任意比特位翻转错误, 且支持多比特翻转, 同时模拟了电荷共享效应, 较真实地仿真了空间单粒子翻转机制, 为后续容错方法的有效性验证提供实验基础.

2　基于ResNet架构的自适应增强容错方法

收起

整体三模冗余(Triple Modular Redundancy, TMR)通过部署三个相同的神经网络模型, 结合多数投票机制实现容错, 虽然可以有效应对单粒子翻转问题, 但存在资源开销大、功耗高等缺陷. 虽然已有研究^[17,18]通过对神经网络的不同模块进行敏感性分析, 并对其中关键的模块进行三模冗余, 从而达到减少资源开销的目的, 但由于神经网络的决策能力分布在所有参数中, 难以仅通过保护少量关键参数获得接近整体三模冗余的容错能力^[17]. 为了克服这些限制, 提出了一种基于自适应增强(Adaptive Boosting, AdaBoost)算法^[19]的轻量级容错方法. 该方法通过集成多个更小的弱神经网络模型, 并根据弱模型的表现实时调整权重, 在大幅降低资源消耗的同时保持较强的容错性能.

2.1　ResNet架构

ResNet (残差神经网络)由He等^[20]提出, 其核心创新是通过图2的残差块(Residual block)结构解决深度神经网络中的梯度消失问题. 每个残差块引入跳跃连接(Skip connection), 将输入信号直接传递到后续层, 使网络能够学习输入与输出之间的残差映射. 该设计使ResNet可扩展至数百层, 而无需牺牲训练稳定性, 从而在图像分类、目标检测等任务中取得突破性性能. 相比于VGG等其他网络, ResNet复杂度较低, 并且可以达到更深的层次, 其结构特点适合使用不同深度和参数量的变体来研究加固方法. 表1是基于不同数据集任务的ResNet架构对比. 其中ResNet18, ResNet34, ResNet50和ResNet101使用的参数量均较多. 考虑到航天器资源较为紧张, 这里选用ResNet的轻量化变体(ResNet20, ResNet32, ResNet44)作为自适应增强算法的基础模型, 参数量更多的ResNet110作为对比模型. 这些变体通过调整残差块数量和通道维度控制模型复杂度.

2.2　基于自适应增强算法的轻量化容错方法

提出一种基于自适应增强算法的卷积神经网络抗单粒子翻转容错方法(AB-FTM). AB-FTM算法将Adaboost集成学习框架与ResNet深度残差网络的优势相结合, 形成一种既能保持高分类性能, 又具备强大单粒子翻转容错能力的星载神经网络解决方案.

AB-FTM算法的设计核心在于使用多个结构差异化的较浅ResNet变体作为基础模型, 在训练阶段, 通过Adaboost机制动态调整其权重系数, 在推理阶段, 根据基础模型的表现实时调整权重系数, 构建一个能够减轻单粒子翻转影响的鲁棒模型系统. 相比于使用单一线性层集成几个模型, 若单粒子翻转影响了某个关键权重, 在单一模型中可能导致严重错误, 而在异构集成的AB-FTM中, 其他模型不会同时失效. 此外, 与传统三模冗余方法不同, AB-FTM充分考虑了神经网络参数的多样性与互补性, 显著降低了硬件资源占用, 同时保持甚至提升了容错性能. 根据上一节对于ResNet模型选择的分析, 将结构相似但深度不同的ResNet20, ResNet32, ResNet44作为基础模型, 其模型集合为

$ \{{f}_{1},{f}_{2},{f}_{3}\} $

$ {f}_{1} $

对应ResNet20,

$ {f}_{2} $

对应ResNet32,

$ {f}_{3} $

对应ResNet44. AB-FTM的训练过程基于Adaboost算法, 对于给定的训练集

$ D=\left\{({x}_{1},{y}_{1}),({x}_{2},{y}_{2}),\cdots,({x}_{N},{y}_{N})\right\} $

, 其中

$ {x}_{i} $

表示输入图像,

$ {y}_{i}\in \{1,2,\cdots,C\} $

表示对应的类别标签, 对于

$ C=10 $

的CIFAR-10数据集, 算法的训练过程如下.

(1)初始化样本权重分布. 样本的权重分布表达式为

$ {D}_{1}(i)=\frac{1}{N},\;\;\;\;i=1,2,\cdots,N . $

(3)

(2)基础模型的迭代步骤. 对每个基础模型

$ \{{f}_{1},{f}_{2},{f}_{3}\} $

$ t=1,2,3 $

执行以下迭代步骤.

步骤1　使用当前权重分布

$ {D}_{t} $

对ResNet模型

$ {f}_{t} $

进行训练, 训练时采用加权采样策略确保样本按照

$ {D}_{t} $

分布被使用.

步骤2　计算

$ {f}_{t} $

在训练集上的加权错误率

$ {\delta }_{\text{ER}} $

, 其表达式为

$ {\delta }_{\text{ER}}=\sum\limits_{i=1}^{N}{D}_{t}(i)\cdot{I}\left[{f}_{t}({x}_{i})\neq {y}_{i}\right] . $

(4)

其中, I [⋅] 为指示函数, 当括号内条件成立时取1, 否则取0.

步骤3　若

$ {\delta }_{\text{ER}}\geq 0.5 $

, 则调整模型参数, 并且重新训练, 直至

$ {\delta }_{\text{ER}} \lt 0.5 $

步骤4　计算模型权重系数

$ {a}_{t} $

, 其表达式为

$ {a}_{t}=\frac{1}{2}\ln \left(\frac{1-{\delta }_{\text{ER}}}{{\delta }_{\text{ER}}}\right)+\ln \left(C-1\right) . $

(5)

步骤5　更新样本权重分布

$ {D}_{t+1} $

, 其表达式为

$ {D}_{t+1}(i)=\frac{{D}_{t}(i)}{{Z}_{t}}\cdot \begin{cases} {\mathrm{e}}^{-{{a}_{t}}}, & {f}_{t}\left({x}_{i}\right)={y}_{i}\text{; }\\ {\mathrm{e}}^{\tfrac{{a}_{t}}{(C-1)}}, & {f}_{t}\left({x}_{i}\right)\neq {y}_{i}.\\ \end{cases} $

(6)

若样本被基础模型

$ {f}_{t} $

正确分类, 其权重缩小

$ {\mathrm{e}}^{-{{a}_{t}}} $

倍; 若分类错误, 则权重放大

$ {\mathrm{e}}^{\tfrac{{a}_{t}}{(C-1)}} $

倍.

$ {Z}_{t} $

是规范化因子, 确保更新后的权重分布

$ {D}_{t+1} $

总和为1, 其表达式为

$ \begin{split} {Z}_{t}=&\sum\limits_{i=1}^{N}{D}_{t}(i) \big\{{{\mathrm{e}}}^{-{{a}_{t}}} {I}\left[{f}_{t}({x}_{i})={y}_{i}\right]+\\&{{\mathrm{e}}}^{{a}_{t}/(C-1)} {I}\left[{f}_{t}({x}_{i})\neq {y}_{i}\right]\big\} . \end{split}$

(7)

(3)定义最终集成模型. 最终集成模型定义为

$ F(x)=\underset{y\in \{1,2,\cdots,C\}}{\text{argmax}}\sum\limits_{t=1}^{3}{a}_{t} \;{I}\left[{f}_{t}(x)=y\right] . $

(8)

其中, argmax[⋅]为使目标函数取得最大值的自变量的函数.

在推理阶段, AB-FTM引入了动态权重调整机制, 以减少某个基础模型性能下降或失效时对整个模型的影响, 并将该机制表示为一个权重调整函数

$ \text{AdjustWeight}[\cdot ] $

, 用于根据模型输出的一致性动态调整各基础模型的权重, 其表达式为

$ \begin{split} &\mathrm{AdjustWeight}\left[{f}_{1}\text{}(x),{f}_{2}\text{}(x),{f}_{3}\text{}(x),{\alpha }_{1}\text{},{\alpha }_{2}\text{},{\alpha }_{3}\right]\text{}=\\&[{\beta }_{1}\text{},{\beta }_{2}\text{},{\beta }_{3}\text{}] .\end{split} $

(9)

该函数的输入为三个基础模型的输出预测类别

$ {f}_{1}(x) $

$ {f}_{2}(x) $

$ {f}_{3}(x) $

以及对应的初始权重系数

$ {\alpha }_{1} $

$ {\alpha }_{2} $

$ {\alpha }_{3} $

, 输出为调整后的权重系数

$ {\beta }_{1} $

$ {\beta }_{2} $

$ {\beta }_{3} $

. 其具体实现逻辑如下.

如果三个基础模型的预测结果是一致的, 即

$ {f}_{1}(x)={f}_{2}(x)={f}_{3}(x) $

, 则保持原有权重不变, 有

$ {\beta }_{t}={\alpha }_{t},t\in \{1,2,3\} . $

(10)

如果两个基础模型的预测结果一致, 另一个不同, 即

$ {f}_{i}(x)\neq {f}_{j}(x)={f}_{k}(x) $

, 其中

$ i,j,k\in \{1,2,3\} $

, 且

$ i\neq j\neq k $

, 则按以下步骤调整权重.

步骤1　降低不一致模型的权重, 即

$ \beta_i=\alpha_i\ \gamma. $

(11)

步骤2　计算权重降低导致的总权重减少量, 即

$ \varDelta=\alpha_i\ (1-\gamma). $

(12)

步骤3　将减少的权重按比例分配给其他两个模型, 保证总权重和不变, 即

$ \beta_j=\alpha_j+\varDelta\frac{\alpha_j}{\alpha_j+\alpha_k}\text{, } $

(13)

$ \beta_k=\alpha_k+\varDelta\frac{\alpha_k}{\alpha_j+\alpha_k}\text{, } $

(14)

$ {\beta }_{i}+{\beta }_{j}+{\beta }_{k}={\alpha }_{i}+{\alpha }_{j}+{\alpha }_{k} . $

(15)

其中,

$ \gamma $

为调节系数, 建议取值范围为

$ \left[0.95,1\right) $

, 以平缓降低可能受到干扰的模型的影响. 较高的

$ \gamma $

值确保权重变化不会过于剧烈, 保留了基础模型的部分贡献, 同时仍能有效降低异常输出的影响.

如果三个基学习器的预测结果各不相同, 即

$ {f}_{i}(x)\neq {f}_{j}(x)\neq {f}_{k}(x) $

, 则保持原有权重不变, 有

$ {\beta }_{t}={\alpha }_{t},\;\;t\in \{1,2,3\} \text{; } $

(16)

$ F(x)=\underset{y\in \{1,2,\cdots,C\}}{\text{argmax}}\sum\limits_{t=1}^{3}{\beta }_{t} {I}\left[{f}_{t}(x)=y\right] . $

(17)

考虑到在未发生单粒子翻转时的权重系数

$ {\beta }_{1} $

$ {\beta }_{2} $

$ {\beta }_{3} $

的变化会导致精度受影响, 设置基学习器

$ {f}_{i}(x) $

及另外两个基学习器在最近

$ m $

次预测中预测结果相同的次数为

$ {n}_{1} $

和

$ {n}_{2} $

. 若

$ {n}_{1} $

或

$ {n}_{2} $

大于cm, 则将

$ {f}_{i}(x) $

的权重系数由

$ {\beta }_{i} $

恢复为初始的权重系数

$ {a}_{i} $

. 这里

$ m $

设为100, c为恢复阈值系数, 用于控制权重恢复的灵敏度, 其取值范围为 0<c<1.

3　实验

收起

3.1　数据集

3.1.1　CIFAR-10数据集

CIFAR-10^[21]由10类彩色图像组成, 涵盖飞机、汽车、鸟类等常见物体类别, 每类包含6000张32×32 pixel图像, 训练集与测试集分别分配50000张和10000张. 该数据集因类别多样且图像分辨率较低, 常被用于评估轻量化模型的泛化能力. 选用CIFAR-10验证自适应增强算法在中等复杂度任务中对单粒子翻转的容错效果, 并分析不同弱模型集成策略的精度损失与容错性能的权衡关系.

3.1.2　MNIST数据集

MNIST^[22] (Mixed National Institute of Standards and Technology)是计算机视觉领域应用广泛的基准数据集, 包含0～9共10类手写数字的灰度图像. 每张图像分辨率为28×28 pixel, 训练集包含60000张样本, 测试集包含10000张样本. 该数据集因数据规模适中、标注准确且分布均匀, 常被用于验证模型的基础分类性能. 通过MNIST测试不同ResNet变体在单粒子翻转干扰下的容错能力, 以评估算法在低复杂度场景下的鲁棒性.

3.1.3　EuroSAT数据集

EuroSAT^[11]是基于Sentinel-2卫星多光谱遥感影像构建的高分辨率数据集, 包含10类土地覆盖类型(例如森林、农田、道路等), 每类提供27000张64×64 pixel图像, 涵盖13个光谱波段. 该数据集因贴近实际空间任务需求且包含复杂地表特征, 被广泛用于遥感图像分类研究. 采用EuroSAT测试所提方法在高价值空间场景下的实用性, 通过模拟单粒子翻转对模型参数的扰动, 验证集成模型在单粒子翻转干扰与保持分类精度方面的综合性能优势.

3.1.4　Galaxy10 DECals数据集

Galaxy10 DECals^[12]是一个包含17736张彩色星系图像的星系分类数据集, 由DESI^[23]提供的高质量图像与Galaxy Zoo^[24]分类标签组成. 每张图像分辨率为256×256 pixel, 被分为10个类别, 如扰动星系、合并星系、圆形光滑星系等. Galaxy10 DECals数据集具有非平衡分布的特点, 其中, 各类样本数量差异较大, 这种不平衡性更真实地反映了天文观测中的实际情况, 为算法在空间任务中的应用提供了更贴近现实的验证环境. 能够反映模型在处理高维度、多特征、类别不平衡数据时的容错性能与算法适应性, 为星系分类等空间应用场景下的辐射加固神经网络提供参考.

3.2　实验设置

所有实验均在Linux环境下基于PyTorch框架实现, 硬件平台采用AMD Ryzen 5500 CPU和NVIDIA RTX 4090D GPU. 实验设计了四种方法进行对比: 单一ResNet110、传统三模冗余方法(TMR, 使用三个相同的ResNet110)、静态集成方法(使用ResNet20/32/44但无动态权重调整)及本文提出的AB-FTM方法. 评估指标主要包括基准准确率(无错误注入时的分类准确率)和容错后准确率(单粒子翻转后的分类准确率).

为了确保实验结果的可靠性, 针对每个参数翻转比例进行1000次独立的随机错误注入, 取平均准确率作为实验结果数据. 实验的整体流程如图3所示.

为了验证AB-FTM方法的有效性, 开展以下实验.

(1)无参数翻转实验. 测试在神经网络参数未发生单粒子翻转时各方法的准确率, 开展基准性能评估.

(2)相同比例参数翻转实验. 由于模型的参数量与模型在SRAM中所占用的面积成正比, 参数量越多的模型在单位时间内发生单粒子翻转的次数越多. 参数翻转比例从0.001‰按倍数递增至0.128‰, 共设八个梯度. 表2列举了不同方法在各翻转比例下实际发生单粒子翻转的参数数量.

(3)相同数量参数翻转实验. 在CIFAR-10数据集上, 分别测试1～200个参数发生翻转时的情况, 验证在中等复杂度任务中不同方法在相同故障数量下的表现.

(4)参数按不同比特位翻转影响实验. 在EuroSAT数据集上, 分别测试在参数的符号位、指数位、尾数位发生翻转时的情况, 参数翻转比例从0.001‰按倍数递增至0.128‰, 共设8个梯度. 评估不同比特位翻转对模型准确性的影响.

3.3　实验结果

3.3.1　无参数翻转实验

对各方法在无错误注入情况下的性能进行评估. 表3给出了四种方法在4个数据集上的分类准确率. 可见在无错误注入的条件下, AB-FTM方法在分类准确率上明显提升, 在4个数据集上, 相比ResNet110模型准确率提升0.03%～0.59%, 在正常工作条件下也能获得更好的性能收益.

3.3.2　相同比例参数翻转实验

图4为不同方法在各数据集上随着注错比例变化的性能变化趋势. 随着参数翻转比例的增加, 所有方法的准确率均呈现下降趋势, 但下降速率存在显著差异. 单一ResNet110模型对单粒子翻转最为敏感, 即使参数翻转比例仅为0.001‰时, 平均准确率已明显下降. 传统三模冗余(TMR)方法表现出较强的抗干扰能力, 但在四个数据集上均出现了随着翻转比例的增加, 三模冗余模型准确率反而不如单一ResNet110模型的情况, 且此时单一ResNet110模型的平均准确率为30%～40%, 出现此种情况的原因是, 当三模冗余中两个模型失效时, 即使其中一个模型仍然有效, 但系统整体由于三取二的投票机制, 导致系统无法得到正确的结果. 而单一ResNet110模型仍然有30%～40%的概率能输出正确的结果.

值得注意的是, 在参数翻转比例较低时(例如0.001‰～0.004‰), 各方法的性能差异已经开始显现, 但差距相对较小. 随着翻转比例的增加, 性能差异逐渐扩大, 特别是在0.032‰以上的高翻转比例区间, AB-FTM方法的优势变得尤为显著. 在CIFAR-10, MNIST, EuroSAT和Galaxy10 DECals数据集上较ResNet110 (TMR)的准确率分别提升53.25%, 63.49%, 57.67%, 47.43%.

进一步分析不同数据集上的实验结果发现, 基准准确率越低的数据集, 降幅越显著. 例如CIFAR-10的准确率降幅普遍大于MNIST, 在参数翻转比例为0.032‰时, AB-FTM方法在MNIST上的准确率为92.43%, 降幅仅为7.25%; 而在CIFAR-10上的准确率为79.19%, 降幅为15.08%. 这一结果表明, 随着任务复杂度的增加, 单粒子翻转的影响更为显著, 而AB-FTM方法的容错优势也相应增大.

3.3.3　相同数量参数翻转实验

在CIFAR-10数据集上, 不同方法在相同单粒子翻转数量下的抗单粒子翻转容错表现如图5所示. 结果显示, 即使在相同的单粒子翻转数量时, AB-FTM在绝大多数情况下的准确率仍然高于ResNet110基准模型, 并且容错能力也优于ResNet110 (TMR). 当单粒子翻转次数大于25个, 容错优势更为明显. 实验结果表明, 在长时间运行中, 虽然单粒子翻转数量不断增加, AB-FTM方法容错能力始终优于其他方法.

3.3.4　不同类型比特位翻转影响实验

图6为在EuroSAT数据集上, 四种方法分别在符号位(S)、指数位(E)、尾数位(M)发生单粒子翻转后的错误率. 实验表明, 指数位翻转对模型性能的影响最为严重, 这是因为指数位翻转会导致权重参数的数值量级发生巨大变化; 符号位翻转次之, 会导致权重参数的正负号反转, 改变神经元连接的抑制/激励特性; 尾数位翻转的影响相对较小, 主要影响权重参数的精度, 而不改变数量级.

在同类型比特位发生翻转时, AB-FTM方法容错能力仍优于其他方法.

4　分析与评估

收起

从资源开销、动态权重调整机制重要性和容错效果三个维度, 对提出的AB-FTM方法与现有方案进行全面对比分析, 评估其在空间应用场景下的综合性能优势.

4.1　计算资源开销分析

四种方法的资源开销对比见表4. 根据表4中各模型在关键资源维度上的量化数据, 从系统资源利用效率角度分析, 本文提出的AB-FTM方法比传统方案具有更显著优势. 在参数规模方面, 该模型总参数量为1.39×10⁶, 较ResNet110的1.70×10⁶降低了18.2%, 这种轻量化设计源于采用多个较浅层次网络替代单一深层网络的策略. 更重要的是, 与ResNet110(TMR)方法所需的5.10×10⁶参数相比, 本方案仅需约27.3%的参数量, 这种数量级的降低对于受资源约束的航天器具有重要意义.

存储效率方面, AB-FTM方法需5.56 MByte存储空间, 较ResNet110方法减少18.2%, 较ResNet110(TMR)方法降低72.7%. 这种存储开销的显著降低不仅有助于减少存储器件的使用数量, 还能降低整体系统的单粒子翻转敏感区域, 从而在硬件层面上提升可靠性并降低了成本.

在计算复杂度方面, 基于CIFAR-10数据集的测试结果显示, ResNet110单次前向传播需253.15×10⁶ FLOPs, 而AB-FTM得益于其异构并行架构, 总计算量降至207.37×10⁶ FLOPs. 相比之下, ResNet110(TMR)方案由于采用三模冗余设计, 其计算量升至759.45×10⁶ FLOPs. AB-FTM方法计算效率的提升直接转化为更低的功耗和更快的推理速度, 对于航天器的实时任务处理具有重要价值.

4.2　动态权重调整机制重要性分析

为评估动态权重调整机制在AB-FTM方法中的重要性, 对比了带权重调整的AB-FTM与不带权重调整的静态集成(Static Ensemble, SE)方法在CIFAR-10数据集上参数翻转比例为0.064‰时的性能, 如表5所示. 在4个数据集上, 准确率的下降率均降低6%左右, 静态集成依赖于简单多数投票, 当两个或以上模型发生错误时会完全失效; 而AB-FTM通过权重动态调整, 能够在部分型受损的情况下仍保持较高性能.

4.3　容错效果评估

图7和图8分别给出了ResNet110单模型和AB-FTM方法在CIFAR-10数据集上, 不同翻转比例条件下的各1000次独立实验的准确率分布, 每个紫点代表每次实验的准确率. 由图7和图8可见, 随着翻转比例的增加, ResNet110单模型的准确率不仅整体下降, 更呈现出明显的双峰分布特征. 尤其在0.016‰～0.064‰的翻转比例范围内, 准确率分布明显分化为两个集群. 一个集群维持在较高水平(70%～90%), 另一个集群则急剧下降至较低水平(10%～30%).

这引出了神经网络应对单粒子翻转时的一个关键问题——准确率的断崖式下降. 当特定区域发生单粒子翻转时, 模型性能并非渐进式退化, 而是呈现出灾难性失效的特性. 相比之下, AB-FTM方法的准确率分布呈现出差异化显著的特征. 在各翻转比例下, 其准确率分布始终保持单峰特性, 且分布范围相对分散, 这表明AB-FTM方法虽然也存在准确率断崖式下降的现象, 但性能退化曲线更加平缓, 一定程度上有效抑制了单粒子翻转导致的准确率断崖式下降现象.

5　结论

收起

针对空间辐射环境下神经网络单粒子翻转的可靠性问题, 提出了一种基于自适应增强算法的轻量化容错方法AB-FTM. 通过构建异构弱模型集成架构与动态权重调整机制, 在仅占基准模型81.8%参数量的条件下, 显著提升了星载智能系统在单粒子翻转干扰下的分类精度与鲁棒性, 有效降低了功耗和硬件成本.

实验表明, 该方法在CIFAR-10, MNIST, EuroSAT和Galaxy10 DECals数据集上均优于传统三模冗余方案, 在CIFAR-10数据集上, 当单粒子翻转比例为0.008‰时, AB-FTM保持91.48%的分类准确率, 而ResNet110 (TMR)仅为77.23%,在遥感数据集EuroSAT和天文星系数据集Galaxy10 DECals上, 当0.032‰比例的参数发生单粒子翻转时, 准确率分别提升57.67%和47.43%. 这种高效的容错机制特别适合资源受限的航天器, 为星载智能系统的可靠性保障提供了兼顾轻量化、低功耗与高可靠性的新型解决方案.

未来将探索神经网络内部结构的加固方法, 实现系统架构层面与网络内部结构相结合的协同加固方法. 进一步优化异构模型架构的硬件适配性, 探索动态容错机制与辐射加固电路的协同设计, 并验证该方法在深空探测极端环境下的长期稳定性, 以推动空间智能系统自主化与抗辐射能力的协同发展, 为空间科学探测与航天器可靠性设计提供技术支撑.

参考文献

收起

文献

收起

参考文献引证文献

排序方式：

余静, 彭晓东, 谢文明, 等. 基于数据生成和深度神经网络的空间非合作目标行为意图识别[J]. 空间科学学报, 2024, 44(6): 1134-1146

YU Jing, PENG Xiaodong, XIE Wenming, et al. Spatial non-cooperative target behavior intent recognition based on data generation and deep neural networks[J]. Chinese Journal of Space Science, 2024, 44(6): 1134-1146

张辉, 卢皓, 于天一, 等. “祝融号”火星车遥操作技术[J]. 深空探测学报(中英文), 2021, 8(6): 582-591

ZHANG Hui, LU Hao, YU Tianyi, et al. Teleoperation technology of Zhurong Mars Rover[J]. Journal of Deep Space Exploration, 2021, 8(6): 582-591

GAN W Q, ZHU C, DENG Y Y, et al. The Advanced Space-based Solar Observatory (ASO-S)[J]. Solar Physics, 2023, 298(5): 68

陈学雷, 阎敬业, 徐怡冬, 等. 宇宙黑暗时代探路者—鸿蒙计划[J]. 空间科学学报, 2023, 43(1): 43-59

CHEN Xuelei, YAN Jingye, XU Yidong, et al. Discovering the sky at the longest wavelength mission—a pathfinder for exploring the cosmic dark ages[J]. Chinese Journal of Space Science, 2023, 43(1): 43-59

张晓芳, 刘松涛, 吴耀平. 影响卫星故障的空间天气分析[J]. 空间科学学报, 2015, 35(4): 461-472

ZHANG Xiaofang, LIU Songtao, WU Yaoping. Statistical analysis of space weather effects on satellite anomalies[J]. Chinese Journal of Space Science, 2015, 35(4): 461-472

李炎, 胡岳鸣, 曾晓洋. 面向商业航天卫星成本效益的三模冗余软错误防护技术: 近似计算的实践[J]. 电子与信息学报, 2024, 46(5): 1604-1612

LI Yan, HU Yueming, ZENG Xiaoyang. Cost-effective TMR soft error tolerance technique for commercial aerospace: utilization of approximate computing[J]. Journal of Electronics & Information Technology, 2024, 46(5): 1604-1612

夏俊, 张嘉伟, 孙晨, 等. 基于XC7V690T的在轨抗单粒子翻转系统设计[J]. 计算机测量与控制, 2024, 32(3): 267-272,279

XIA Jun, ZHANG Jiawei, SUN Chen, et al. System design of on-orbit anti-SEU based on XC7V690T[J]. Computer Measurement & Control, 2024, 32(3): 267-272,279

RUOSPO A, SANCHEZ E, TRAIOLA M, et al. Investigating data representation for efficient and reliable convolutional neural networks[J]. Microprocessors and Microsystems, 2021, 86: 104318

IBRAHIM Y, WANG H B, LIU J Y, et al. Soft errors in DNN accelerators: a comprehensive review[J]. Microelectronics Reliability, 2020, 115: 113969

钱欢, 谢卓辰, 梁旭文. 基于dropout算法的卷积神经网络单粒子翻转容错方法[J]. 中国科学院大学学报, 2021, 38(5): 712-719

QIAN Huan, XIE Zhuochen, LIANG Xuwen. Single-event upsets fault tolerance of convolutional neural networks based on dropout algorithm[J]. Journal of University of Chinese Academy of Sciences, 2021, 38(5): 712-719

HELBER P, BISCHKE B, DENGEL A, et al. EuroSAT: a novel dataset and deep learning benchmark for land use and land cover classification[J]. IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing, 2019, 12(7): 2217-2226

LEUNG H W, BOVY J. Deep learning of multi-element abundances from high-resolution spectroscopic data[J]. Monthly Notices of the Royal Astronomical Society, 2019, 483(3): 3255-3277

尚琳, 刘晓娜, 曹彩霞, 等. 低轨互联网卫星在轨单粒子翻转分析及防护措施[J]. 航天器环境工程, 2021, 38(5): 503-507

SHANG Lin, LIU Xiaona, CAO Caixia, et al. Analysis of in-orbit single event upset of low-Earth-orbit internet satellite and protection measures[J]. Spacecraft Environment Engineering, 2021, 38(5): 503-507

REVIRIEGO P, MAESTRO J A, CERVANTES C. Reliability analysis of memories suffering multiple bit upsets[J]. IEEE Transactions on Device and Materials Reliability, 2007, 7(4): 592-601

BLACK J D, DODD P E, WARREN K M. Physics of multiple-node charge collection and impacts on single-event characterization and soft error rate prediction[J]. IEEE Transactions on Nuclear Science, 2013, 60(3): 1836-1851

BAEG S, WEN S J, WONG R. SRAM interleaving distance selection with a soft error failure model[J]. IEEE Transactions on Nuclear Science, 2009, 56(4): 2111-2118

RUOSPO A, GAVARINI G, BRAGAGLIA I, et al. Selective hardening of critical neurons in deep neural networks[C]//Proceedings of 2022 25th International Symposium on Design and Diagnostics of Electronic Circuits and Systems (DDECS). Prague: IEEE, 2022: 136-141

陈子洋, 张萌, 张吉良. 一种星载在轨神经网络的容错设计方法[J]. 电子与信息学报, 2023, 45(9): 3234-3243

CHEN Ziyang, ZHANG Meng, ZHANG Jiliang. A fault-tolerant design of spaceborne onboard neural network[J]. Journal of Electronics & Information Technology, 2023, 45(9): 3234-3243

TAHERKHANI A, COSMA G, MCGINNITY T M. AdaBoost-CNN: an adaptive boosting algorithm for convolutional neural networks to classify multi-class imbalanced datasets using transfer learning[J]. Neurocomputing, 2020, 404: 351-366

HE K M, ZHANG X Y, REN S Q, et al. Deep residual learning for image recognition[C]//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. Las Vegas: IEEE, 2016: 770-778

KRIZHEVSKY A. Learning Multiple Layers of Features from Tiny Images[R]. Toronto: University of Toronto, 2009

LECUN Y, BOTTOU L, BENGIO Y, et al. Gradient-based learning applied to document recognition[J]. Proceedings of the IEEE, 1998, 86(11): 2278-2324

DEY A, SCHLEGEL D J, LANG D, et al. Overview of the DESI legacy imaging surveys[J]. The Astronomical Journal, 2019, 157(5): 168

WALMSLEY M, LINTOTT C, GÉRON T, et al. Galaxy Zoo DECaLS: detailed visual morphology measurements from volunteers and deep learning for 314 000 galaxies[J]. Monthly Notices of the Royal Astronomical Society, 2022, 509(3): 3966-3988

2026年第46卷第2期

PDF下载

引用本文

BibTeX

文章信息

doi: 10.11728/cjss2026.02.2025-0025

接收时间：2025-02-15
首发时间：2026-07-08
出版时间：2026-03-15

补充材料

相关文章

文章信息

作者

出版历史

收稿日期：2025-02-15
修回日期：2025-06-25

基金

作者信息

¹中国科学院国家空间科学中心　北京　100190

²中国科学院大学　北京　100049

通讯作者:

周晴 E-mail: zhouqing@nssc.ac.cn

参考文献

分享链接

https://castjournals.cast.org.cn/joweb/kjkxxb/CN/10.11728/cjss2026.02.2025-0025

分享至

全文二维码

扫描看全文

引用本文

BibTeX

本文的引用情况

2种不同金属材料的力学参数

科 Family	属数 Number of genus	种数 Number of species	占总种数比例 Percentage of total species (%)	属 Genus	种数 Number of species	占总种数比例 Percentage of total species (%)
鹅膏菌科Amanitaceae	2	11	5.26	鹅膏菌属 Amanita	10	4.78
小菇科 Mycenaceae	2	12	5.74	丝盖伞属 Inocybe	5	2.39
多孔菌科 Polyporaceae	8	14	6.70	蜡蘑属 Laccaria	5	2.39
红菇科 Russulaceae	3	23	11.00	小皮伞属 Marasmius	6	2.87
				小菇属 Mycena	11	5.26
				光柄菇属 Pluteus	5	2.39
				红菇属 Russula	17	8.13
				栓菌属 Trametes	5	2.39

关闭全屏

BibTeX
EndNote
RefWorks
TxT

架构	数据集	数据集尺寸/pixel	参数量 (×10⁶)	浮点运算次数
ResNet18	ImageNet	$ 256\times 256 $	$ 11.69 $	$ 1.8\times {10}^{9} $
ResNet34	ImageNet	$ 256\times 256 $	$ 21.80 $	$ 3.6\times {10}^{9} $
ResNet50	ImageNet	$ 256\times 256 $	$ 25.56 $	$ 3.8\times {10}^{9} $
ResNet101	ImageNet	$ 256\times 256 $	$ 44.55 $	$ 7.6\times {10}^{9} $
ResNet20	CIFAR-10	$ 32\times 32 $	$ 0.27 $	$ 4.0\times {10}^{7} $
ResNet32	CIFAR-10	$ 32\times 32 $	$ 0.46 $	$ 6.9\times {10}^{7} $
ResNet44	CIFAR-10	$ 32\times 32 $	$ 0.66 $	$ 9.7\times {10}^{7} $
ResNet110	CIFAR-10	$ 32\times 32 $	$ 1.72 $	$ 2.5\times {10}^{8} $

架构

数据集

数据集
尺寸/pixel

参数量
(×10⁶)

浮点运算
次数

ResNet18

ImageNet

$ 256\times 256 $

$ 11.69 $

$ 1.8\times {10}^{9} $

ResNet34

ImageNet

$ 256\times 256 $

$ 21.80 $

$ 3.6\times {10}^{9} $

ResNet50

ImageNet

$ 256\times 256 $

$ 25.56 $

$ 3.8\times {10}^{9} $

ResNet101

ImageNet

$ 256\times 256 $

$ 44.55 $

$ 7.6\times {10}^{9} $

ResNet20

CIFAR-10

$ 32\times 32 $

$ 0.27 $

$ 4.0\times {10}^{7} $

ResNet32

CIFAR-10

$ 32\times 32 $

$ 0.46 $

$ 6.9\times {10}^{7} $

ResNet44

CIFAR-10

$ 32\times 32 $

$ 0.66 $

$ 9.7\times {10}^{7} $

ResNet110

CIFAR-10

$ 32\times 32 $

$ 1.72 $

$ 2.5\times {10}^{8} $

方法	0.001‰	0.002‰	0.004‰	0.008‰	0.016‰	0.032‰	0.064‰	0.128‰
单一模型ResNet110	2	3	7	14	27	54	109	218
三模冗余ResNet110 (TMR)	5	10	20	41	82	163	326	653
静态集成ResNet20/32/44 (SE)	1	3	6	11	22	45	90	179
AB-FTM	1	3	6	11	22	45	90	179

方法

0.001‰

0.002‰

0.004‰

0.008‰

0.016‰

0.032‰

0.064‰

0.128‰

单一模型ResNet110

109

218

三模冗余ResNet110 (TMR)

163

326

653

静态集成ResNet20/32/44 (SE)

179

AB-FTM

179

方法	MNIST/(%)	CIFAR-10/(%)	EuroSAT/(%)	Galaxy10 DECals/(%)
单一模型ResNet110	99.65	93.68	97.37	84.33
三模冗余ResNet110 (TMR)	99.65	93.68	97.37	84.33
静态集成ResNet20/32/44 (SE)	99.68	93.83	97.56	84.49
AB-FTM	99.68	94.27	97.81	84.50

方法

MNIST/(%)

CIFAR-10/(%)

EuroSAT/(%)

Galaxy10 DECals/(%)

单一模型ResNet110

99.65

93.68

97.37

84.33

三模冗余ResNet110 (TMR)

99.65

93.68

97.37

84.33

静态集成ResNet20/32/44 (SE)

99.68

93.83

97.56

84.49

AB-FTM

99.68

94.27

97.81

84.50

方法	模型	参数量(×10⁶)	存储空间/MByte	浮点运算次数($\times {10}^{8} $)
单一模型ResNet110	1×ResNet110	$ 1.70 $	$ 6.78 $	$ 2.5 $
三模冗余ResNet110 (TMR)	3×ResNet110	$ 5.10 $	$ 20.34 $	$ 7.5 $
静态集成ResNet20/32/44 (SE)	ResNet20+32+44	$ 1.39 $	$ 5.56 $	$ 2.1 $
AB-FTM	ResNet20+32+44	$ 1.39 $	$ 5.56 $	$ 2.1 $

方法

模型

参数量(×10⁶)

存储空间/MByte

浮点运算次数(

$\times {10}^{8} $

)

单一模型ResNet110

1×ResNet110

$ 1.70 $

$ 6.78 $

$ 2.5 $

三模冗余ResNet110 (TMR)

3×ResNet110

$ 5.10 $

$ 20.34 $

$ 7.5 $

静态集成ResNet20/32/44 (SE)

ResNet20+32+44

$ 1.39 $

$ 5.56 $

$ 2.1 $

AB-FTM

ResNet20+32+44

$ 1.39 $

$ 5.56 $

$ 2.1 $

数据集	静态集成		动态权重调整机制提高的准确率/(%)
MNIST	76.47	23.21	83.17	16.51	6.70
CIFAR-10	56.43	37.40	63.82	30.45	7.39
EuroSAT	64.80	32.76	71.30	26.51	6.50
Galaxy10 DECals	49.17	35.32	55.90	28.60	6.73

数据集

静态集成

AB-FTM

动态权重调整机制提高的
准确率/(%)

准确率/(%)

准确率下降率/(%)

准确率/(%)

准确率下降率/(%)

MNIST

76.47

23.21

83.17

16.51

6.70

CIFAR-10

56.43

37.40

63.82

30.45

7.39

EuroSAT

64.80

32.76

71.30

26.51

6.50

Galaxy10 DECals

49.17

35.32

55.90

28.60

6.73