过刊目录本文从逻辑复杂性视角重新思考人工智能系统的安全问题,构建了智能系统安全问题的3个层级:R1级(可判定命题,可事前证明安全)、R2级(半可判定命题,只能事后发现不安全)及R3级(非递归可枚举,连发现不安全都无法保证)。正确区分R1级和R2级至关重要,所有工程上可解决的安全问题都在R1层级,实现安全应当在正确性验证和制度兜底两个方向努力。对于备受关注的人工智能安全,虽然目前人工智能的风险还没有进入R3 级,但安全治理路径迫切需要从“事前证明”转向“运行期治理”,重点关注门控、回滚、隔离、人在回路、权限分级等外部监控,建立以“文明级终极制动机制(kill-switch)”为核心的技术内建与制度外置体系,从而在逻辑不完备的现实中维系人类的纠错主权与文明安全。
新型分区命名空间固态硬盘(zoned namespace solid state drive,ZNS SSD)有望解决传统块设备固态盘写放大率高、存储密度低、I/O路径复杂等问题,为存储技术的发展创造机遇。B+树作为一种高效的树形索引结构,被广泛应用于各类数据库和文件系统中,以支撑大模型高效数据加载、外部知识库构建及结构化元数据管理,从而显著提升训练效率与知识调用性能。然而,由于ZNS SSD的硬件特性不同于传统块设备,直接将B+树部署到ZNS SSD中不仅会导致较高的写放大率,还会引起级联更新,严重影响存储系统的性能。针对以上问题,结合新型持久化内存(persistent memory,PM)提出了一种基于ZNS SSD的B+树索引结构DPZB+tree。首先,DPZB+tree采用DRAM-PM-ZNS SSD混合存储架构,实现冷热数据分离存储;其次,DPZB+tree设计了冷热节点识别策略,以提高存储系统的读写效率;然后,针对PM容量有限的问题,提出了冷热节点动态放置策略,实现冷热数据的自适应迁移;最后,结合硬件特性和局部性原理设计了叶节点分裂及合并操作。DPZB+tree索引方案基于ZNS SSD模拟器和英特尔傲腾PM实现。实验结果表明,在多种工作负载下,相较于LSM-tree,SSDB+tree,DZB+tree,Baseline,DPZB+tree均取得了优异的读写性能以及更低的恢复耗时。
全局缓存是企业级存储阵列的关键技术,其核心功能是提高数据的写入速度:用户I/O写入存储控制器的内存缓存后立即返回,无需等待数据持久化至低速HDD或SSD设备。然而,企业级存储产品的全局缓存设计需综合考虑副本数量、系统高可用及故障场景等因素。受这些因素的相互制约,存储集群的控制器数量通常难以超过4个,且系统可用性无法支持4个控制器同时坏3个。此外,控制器间通过RDMA(remote direct memory access)传输缓存副本数据,也会影响存储性能。为此,基于最新的CXL(compute express link)技术,设计了内存分离式的全局缓存系统原型。内存缓存从控制器内部解耦至外部后,系统具有以下优势:控制器与内存缓存可独立横向扩展,可以支持多个缓存副本;控制器故障不会导致缓存数据丢失,n个控制器可以同时故障n−1个;CXL技术在提升系统扩展性与可用性的同时,能显著优化存储性能。实验结果表明,CXL全局缓存性能比RDMA全局缓存提升38%。
分布式锁是分布式存储系统的重要组件,锁协议的性能对系统整体的性能有关键性影响。远程直接内存访问(remote direct memory access,RDMA)是一种新兴的数据中心网络技术,它支持单边网络通信原语,可以降低系统CPU开销,同时具备低延迟、高吞吐的性能特性,为设计高速分布式锁协议提供了新机遇。然而,设计基于RDMA的分布式锁协议面临诸多挑战。着重在保证高性能的前提下解决扩展性和公平性挑战,提出一种RDMA网络中的高性能分布式锁协议FeLock,它利用多种类型的RDMA网络通信原语,使客户端不仅能与服务端通信加解锁,还能与其他客户端直接通信以移交锁所有权,同时实现了高性能、公平性和性能的扩展性。具体地,为保证高性能,FeLock引入了节点粒度锁管理机制,缩减锁协议在关键路径上的网络往返次数。为实现扩展性,FeLock引入了轮转移交机制,将所有节点排成1个环,客户端按照其在环中的顺序依次移交锁的所有权。为实现公平性和避免客户端饥饿,FeLock引入了节点信用机制,限制节点连续加锁的次数,避免其他节点上的客户端无法加锁。实验显示,FeLock相比于现有单边RDMA锁协议(如DSLR)表现出相似或更高的性能,并且具有更好的公平性和扩展性。在3~120个客户端的环境下,FeLock的吞吐量是DSLR的1.01~7.51倍,公平性提升至多2.24倍。
在信息时代背景下,数据规模的急剧增长与压缩应用场景的多样化,对压缩策略的灵活性和效率提出了更高要求。LZ77算法是典型的无损压缩方法,广泛应用于Zstandard(ZSTD)等主流压缩工具中。然而,更高的压缩率指标要求应用更大的历史窗口与更复杂的压缩策略,导致在实现ZSTD中的LZ77算法存在缓存频繁未命中与延迟匹配效率低下的问题。为此,提出2项优化策略:其一,多级区域搜索策略(multi-level region search strategy,MLRS),通过引入匹配区域分级与访问阈值控制机制灵活调整搜索深度,限制匹配过程中的数据访问范围,缓解缓存压力;其二,基于扩展搜索的延迟匹配策略(extended search-based lazy matching strategy,ESLM),通过复用搜索路径并采用近似替代技术,降低冗余计算的同时提升匹配效率。上述优化策略基于ZSTD level 12 配置在鲲鹏920服务器平台上实现并完成验证。实验结果表明:MLRS在多种数据集上能够显著降低压缩过程中的末级缓存未命中率,将压缩率保持在94.65%~99.58%的同时,使压缩吞吐量提升至原方案的118.34%~149.50%;ESLM可将压缩吞吐量提升至原方案的113.49%~117.46%,且在多数数据集上进一步提高压缩比;当两者联合应用时,压缩速度可提升至原方案的134.53%~171.17%,同时维持94.18%~99.80%的压缩率。
人工智能、大数据、云计算等新兴产业的飞速发展,催生了大规模云计算中心的广泛应用。这些云计算中心在运行过程中持续产生海量级运维数据,高效、准确的异常检测是保障智能运维和系统可靠性的关键环节。由于设备老化、环境突变、动态负载等因素,运维数据往往包含数据噪声污染、异常信号耦合、设备状态动态漂移等问题。当前主流的异常检测方法通常依赖数据纯净性假设,通过对正常数据的特征学习并评估重构误差来实现异常判别,而数据质量的降低会严重影响异常检测效果。针对上述问题,提出基于时频增强的对比学习时序异常检测方法(TF-ECL),通过构建时频双视图增强机制,在时域和频域实施可控增强,基于时频多视图对比学习的方法提升了模型抗噪能力。同时,利用异常信号在时频空间的表现差异性,构建双域协同检测机制,利用时频跨域对比误差进行异常定位。在多个真实时序数据集的实验结果表明,相较于之前的多维时间序列异常检测方法,TF-ECL的F1分数,VUS-PR,VUS-ROC等指标都优于或达到现有的SOTA方法水平,表现出稳健而优异的性能。
随着大语言模型(large language models,LLMs)(以下简称“大模型”)参数规模的持续增长,微调百亿级参数大模型对计算和存储资源提出了极高要求。传统分布式训练方案通常依赖大量高端GPU和高速互联网络,训练成本极为昂贵。现有单GPU训练方案虽通过张量卸载缓解显存压力,但仍然面临I/O传输效率低和设备利用率不足等问题。传统内核态I/O操作在大规模张量迁移中引入频繁的系统调用和上下文切换,成为制约性能的关键瓶颈;同时,优化器计算无法充分发挥多核CPU的并行能力,难以实现与GPU计算的有效重叠,进一步限制了系统性能。针对上述问题,提出了一种面向大模型训练的异构内存卸载与I/O优化方案HiTrain。首先构建了基于存储性能开发工具包(storage performance development kit,SPDK)的高性能张量存储模块,通过在用户态管理张量数据,避免了内核I/O栈开销,从而提高张量卸载的并发性与吞吐率;其次,设计并实现了基于异步优化器的存储-计算流水线调度模块,通过对优化器的执行进行优化重排来减少GPU等待时间,提高整体训练效率。实验结果表明,在配备单张GPU和非易失性存储器快速固态硬盘(non-volatile memory express solid state drive,NVMe SSD)的服务器上,所提出的方案能够充分利用系统中的存算资源,使得模型训练过程中张量卸载与加载效率提升32.7%,整体训练吞吐提升至现有方案的1.49倍,为低成本大模型训练提供了切实可行的技术路径。
大语言模型作为近些年自然语言处理领域的核心技术,在文本生成、信息检索和对话系统中展现了卓越的能力。诸如 ChatGPT,LLaMA,Gemini 等模型在医疗、教育、金融等领域实现了接近甚至超越人类水平的性能。然而,随着大语言模型的广泛应用,其存储机制在生命周期中的安全与隐私风险日益显现。模型文件存储、推理缓存和知识向量存储作为核心模块,在提升模型功能和效率的同时,也暴露出权重泄露、后门注入、侧信道攻击、知识污染与工作流劫持等一系列安全威胁。为应对这些风险,研究者提出了模型加密、后门清除、缓存分区与隔离、检索内容过滤与验证等多种防御策略。尽管现有技术在一定程度上提升了安全性,但大语言模型存储技术仍面临一系列关键安全挑战。系统性综述了大语言模型存储机制的安全风险及其防御技术,重点分析了攻击面与缓解策略,并提出了未来研究方向以推动大语言模型存储机制的安全性与可靠性发展。
现代区块链数据规模持续增长,节点存储压力不断上升。主流区块链系统通常采用基于LSM-Tree的键值存储引擎作为持久化层,其特性是通过合并操作维护键值在同一层级的有序性。然而,区块链数据具有显著的异构特征,包含大量结构不一与无序的键类型,使得存储引擎频繁触发合并操作,带来读写放大现象和I/O效率下降等问题。针对上述问题,提出了AppendChain,在不改变以太坊执行语义的前提下,重新组织数据在存储引擎中的写入路径与存储布局,实现3项优化:1)类型分离。将异构键类型划分至独立的列族,最小化键空间重叠。2)大值分离。将大值剥离到外部Blob文件存储,避免在合并过程中的重写。3)排序MPT。通过引入树结构感知、顺序对齐的键编码,增强状态键的局部性。AppendChain在Go-Ethereum(Geth)的基础上实现,并集成了RocksDB,修改了存储栈而未改变以太坊的共识与溯源功能。在主网工作负载上的实验评估表明,与Geth相比,AppendChain将存储引擎吞吐量(OPS)提升了28倍,将写放大率降低约为94.24%,将合并操作次数与耗时分别降低了98.75%与72.19%,在高吞吐量交易工作负载下显著提高了读写效率。该方案显著提升了区块链全节点的存储性能。
在人工智能快速发展的背景下,数据隐私与系统效率成为分布式智能系统中的核心挑战。现有研究虽在一定程度上缓解了数据泄露问题,但在资源分配、系统开销和安全性方面仍存在显著瓶颈。为此,构建了一种基于粒子群优化(particle swarm optimization,PSO)和Paillier加密算法的区块链联邦学习方法,简称FedPPB,该方法融合PSO算法与Paillier同态加密算法,实现对系统角色的动态优化分配与训练参数的加密保护。首先,针对工作节点、验证节点和矿工节点的任务特点,通过PSO算法构建包含模型准确率、验证时间和区块生成时间的适应度函数,实现角色数量的动态调整;其次,工作节点通过Paillier算法对参数更新进行加密,验证节点解密参数并验证其合法性,矿工节点生成区块并更新全局模型;最后,从理论上证明了PSO算法和Paillier算法分别在角色分配和参数加密中的安全性。实验表明,在MNIST,Fashion-MNIST,CIFAR-10数据集上,当恶意节点的占比为15%和25%时,FedPPB显著优于现有方法,展现出更高的准确率与鲁棒性。
拆分学习是一种新兴的分布式学习技术,其主要思想是将完整的机器学习模型进行拆分,并分别部署于客户端和服务器。在系统的训练和推理过程中,客户端的数据保留在本地,只向服务器传递编码后的中间特征,因此在一定程度上保护了客户端的数据隐私,同时缓解了模型端侧运行的计算负荷。随着拆分学习技术在多个领域的广泛应用,针对拆分学习系统的各种隐私攻击也层出不穷,攻击者能利用中间特征和分割层的梯度等中间信息重构出用户隐私数据或者推断出其隐私信息,严重危及数据的隐私性。目前,学术界尚缺乏针对拆分学习研究成果的系统性、全面性综述,部分研究将其与联邦学习技术混淆,或总结不够详尽具体。因此,为填补这一空白,需全面总结拆分学习的相关攻击与防御技术,为后续研究发展提供指导。首先介绍拆分学习技术的定义以及其训练和推理过程,并对其多种扩展架构进行概述。随后分析拆分学习系统的威胁模型,并针对拆分学习系统的重构攻击和属性推理、成员推理、标签推理等推理攻击的基本概念、实施阶段和现有方案进行总结归纳。接着总结相应的防御技术,包括异常检测、正则化防御、噪声混淆、对抗性表征学习、特征裁剪等方法。最后探讨拆分学习中隐私安全问题的研究挑战和未来研究方向。
数据空间是实现数据有效共享和流通的重要基础设施。但是,数据共享过程中面临的隐私泄露、数据窃取和非法滥用等问题给行业数据空间落地带来巨大挑战。属性基加密能够确保共享数据的机密性和细粒度访问控制,但直接将其应用于数据空间还存在诸多问题。首先,传统属性基加密方案在用户撤销时计算开销较大,无法满足数据空间中大量动态用户加入或退出的场景。其次,许多行业数据空间需要根据用户属性比较和访问时间对其共享数据进行灵活的访问控制,并且能够对解密结果进行验证。为解决上述问题,提出一种数据空间中基于可比较属性的数据访问控制方案,实现了灵活高效的用户撤销以确保前向安全性,能够根据访问时间和属性比较来对其访问行为进行灵活决策,并支持对解密过程的验证。经过形式化安全分析,所提方案在选择明文攻击下具有语义安全性。大量的实验分析表明所提方案适用于数据空间中数据的共享应用。
深度神经网络在很多应用领域取得了显著成功。然而,近年来的研究表明,它们容易受到对抗攻击的威胁。尤其是有目标的对抗攻击,能够精确控制未知模型的输出,对数据隐私和系统安全构成严重挑战。生成式攻击方法因其高效生成对抗样本的能力,近年来逐渐应用于有目标攻击的研究中。然而,现有的生成式攻击方法通常针对单一目标类别生成对抗样本,在多目标任务中表现出计算效率低下、灵活性不足和扩展性有限等问题。针对这些不足,提出了一种基于双重信息的多目标生成式攻击(multi-target generative attack based on dual-information,MTGA-DI)方法。该方法通过设计一个条件生成模型,充分融合目标类别的语义和视觉信息,不仅具备多目标攻击能力,还显著提升了对抗样本的迁移性和鲁棒性。实验结果表明,与现有多目标攻击方法相比,MTGA-DI在标准训练模型和鲁棒模型上的性能更优,在应对基于输入预处理的防御模型时也展现出更强的适应能力。
RISC-V SBI(supervisor binary interface)标准定义了RISC-V架构硬件与操作系统的接口规范。相比x86和ARM固件,SBI固件更合规、可靠;但现有版本仍存在启动正确性未验证、PMP(physical memory protection)物理地址访问等安全漏洞。为此,提出了定理证明驱动的闭环形式化验证框架,开发经形式验证的SBI固件——SeSBI,并结合Dafny 与 Isabelle/HOL,以分层策略实现对启动过程的形式验证。为提高验证效率,提出RISC-V硬件模拟策略,统一建模固件与硬件的交互,从而显著降低验证开销。最终成功验证了SeSBI固件启动过程的功能正确性。结果表明,SeSBI以更简洁的代码实现SBI标准启动过程接口,并具备高度可靠性,为RISC-V生态系统提供了经形式验证的可信SBI固件实现。未来工作将扩展验证范围至更多高级属性,并优化验证工具以提升效率。
Transformer通过自注意力机制高效捕捉全局依赖,突破了传统神经网络处理长序列信息时的限制,推动了自然语言处理多个领域的革命性进展,成为现代大语言模型的核心架构。目前,国内Transformer推理应用整体上处于算力紧缺状态,且在部署时往往面临调度开销大、计算并发难、访存瓶颈明显等问题。申威智能加速卡搭载了国产自主研发的新一代智能处理器,已有效支撑各类端侧Transformer推理应用,然而常规推理框架难以发挥申威异构众核架构的管理功能完备、多级并行计算和存储层次丰富等特点。对此,提出一种基于申威智能加速卡的Transformer高效推理方法SW-Inf。首先,提出了片上主核驱动的整图下沉调度机制,通过计算图打包和片上主核调度,减少主机与设备间的核函数启动开销和设备内各流程数据传输开销;其次,设计了LDM优先的启发式分块并行策略,实现计算部件负载均衡,提高了硬件资源利用率;最后,实现了体系结构紧耦合的注意力计算方法,避免推理的中间结果频繁读写主存和寄存器,缓解端侧推理应用的访存瓶颈问题。为验证所提方法的效果,基于申威智能加速卡实现了一套端到端推理系统,测试结果表明,相较于访存带宽更高的英伟达V100S上的vLLM推理系统,SW-Inf的吞吐率和主存利用率分别提高了15个百分点和20个百分点。
流式图能够对现实生活中数据快速变化的场景进行有效建模,在社交网络分析、内容推荐、异常检测等领域得到了广泛应用。基于流式图更新前后的2个图快照具有大量相同数据的事实,增量计算通过对历史计算结果进行存储和复用来降低迭代计算过程中的访存量和计算量,从而有效提升流式图处理的性能。然而,现有对图算法进行增量计算优化的研究往往受限于满足特定性质的图算法,而难以应用于通用图算法。针对通用图算法的增量计算优化问题,将增量计算进一步划分为基于修正和基于重计算的增量计算模式。理论上刨析了二者的异同点,实验上在不同图数据集、图算法和更新场景设置下测试了二者的性能差异。提出了混合增量计算模式,设计了确保切换正确性的算法,并通过随机森林分类器准确地预测切换时机。性能评估和切换效果分析表明通用图算法在混合增量计算模式下能够进行有效切换,并相比先进的流式图处理系统DZIG实现了平均1.25的加速比。
联合实体关系抽取作为知识图谱构建的基础任务之一,旨在从非结构化文本中提取出关系三元组。针对联合模型中存在的相关矩阵冗余标注和头尾实体交互不足2个问题,提出了一种基于双仿射实体配对和层级标注策略的联合实体关系抽取模型。首先,通过一个多标签分类任务来预测句子中的潜在关系,从而减少特定关系实体识别阶段的冗余关系。其次,将整合的候选实体表示通过一个双仿射网络以增强头尾实体的交互并形成双仿射实体配对矩阵,从而减少实体配对阶段的冗余标注。然后,使用层级标注策略识别出特定关系的实体,并结合实体配对矩阵形成关系三元组。最后,通过在4个公共数据集上进行对比实验和消融实验,验证了所提模型的有效性。