过刊目录作为分布式计算的典型体现之一,端边云协同计算系统能够有效推动物联网、大模型、数字孪生等人工智能技术的垂直落地应用。类脑计算是一种受大脑工作方式启发而提出的智能计算技术,具有能效高、速度快、容错度高、可扩展性强等优点。通过利用脉冲神经网络的事件驱动机制和脉冲稀疏发放等特性,类脑计算能够极大地提升分布式端边云系统的实时处理能力和能量效率。针对分布式终端设备的高实时、低功耗、强异构等特点,聚焦于指令集架构这一软硬件的交互界面,给出了一种立足现有系统、易于部署升级、安全自主可控、异构融合兼容的硬件设计方案,一共提出了12条类脑计算指令,完成了基于某国产指令系统的类脑指令集和对应微结构的定制化设计,为类脑计算赋能分布式计算系统奠定了技术基础。
多线程编程模型被广泛用于促进多核上的应用程序执行。然而,并发执行的线程对最后一级缓存(last level cache,LLC)的竞争造成的干扰可能会导致性能下降。英特尔缓存分配技术(cache allocation technology,CAT)提供了一种机制为不同线程实时分配缓存。然而,有2个原因导致现有分配方法并不适用于多线程应用。首先,它们是为多应用场景量身定制的,而不是为涉及多个相关线程的单个多线程应用场景设计的。其次,它们旨在提高每周期指令数(instruction per cycle,IPC),这不是一个在多线程场景中合适的性能指标。为了解决这个问题,提出了LPart,这是一种用于多线程应用程序的智能缓存分配技术,通过分配缓存显著提高了系统的吞吐量。LPart利用深度强化学习为应用程序中的不同线程分配适当数量的缓存空间。在微基准测试、Redis、商用分布式存储系统和多种应用场景上评估LPart的实验结果表明,与默认配置相比,LPart分别实现了26.9%,8.1%,9.8%,24.1%的性能提升。
近年来,国产可编程门阵列(field programmable gate array,FPGA)厂商虽发展迅速,但在数据中心部署FPGA异构加速器时仍面临挑战。相较于赛灵思、英特尔等国际厂商,国产厂商普遍缺乏PCIe设备与主机间高速传输的解决方案,尤其在高性能直接内存访问(direct memory access,DMA)控制器设计领域存在明显短板。为解决该问题,设计并实现了基于PCIe的多通道链式DMA控制器。采用独立描述符控制器管理各通道,共享数据搬移器,降低对FPGA逻辑资源的消耗。采用链式结构实现描述符管理,减少中断对CPU的压力,满足主机与设备连续高速传输的需求。创新性地构建内部信息异步与预处理的架构,实现数据流水化处理,显著提升带宽利用率以及传输性能。经测试,在PCIe Gen3x8下,主机与国产FPGA加速器之间的DMA带宽高达6.91 GBps(利用率86%),支持多达16通道且实现通道负载均衡,该设计有效支撑了国产FPGA异构加速器在数据中心场景下的规模化部署。
人工智能的蓬勃发展,对医疗健康、生物信息、金融服务等各领域产生深远影响。人工智能应用的主要范式是构建机器学习模型,探索数据中的规则和模式,以用于推理和决策。人工智能系统的有效性和效率取决于2个关键方面:其一是模型方面(以模型为中心),包括增强网络结构,如RNN到LSTM的转变、模型超参数调优等;其二是数据方面(以数据为中心),如标准化数据格式、增大数据量、减少数据噪声等。一直以来,调试人工智能系统主要侧重于优化模型。然而,以社交网络和电子商务为代表的数字化时代的到来产生庞大且多样的数据,使得以模型为中心的调试已无法满足人们对人工智能系统的需求。因此,研究界和工业界将注意力从模型转向数据,以弥补这一差距。为此,“数据调试”(data debugging)应运而生。与优化模型不同,数据调试侧重检查数据,即理解错误数据在机器学习管道的各阶段对下游任务的影响,进而调试相应错误以提高模型性能。基于此,在全面调研数据调试相关工作的基础上,首先,提出数据调试研究框架,根据数据调试方法与机器学习管道的交互,将现有方法分为封闭式数据调试、浸入式数据调试和混合式数据调试3类。接着,详细概述本领域的相关工作。然后,对数据调试方法进行实验评估,同时总结该研究领域常用的数据集和评价指标。最后,指出数据调试面临的挑战及未来发展方向。
多示例多标记学习(multi-instance multi-label learning,MIML)是一种重要的机器学习框架,用于处理每个对象被表示为多个示例构成的多示例包,并且是一种能够同时与多个标记相关联的复杂学习任务,被广泛应用于药物活性预测、医学图像分析等领域。与传统的多示例学习和多标记学习不同,MIML同时考虑了输入空间(多示例)和输出空间(多标记)的多样性,使得模型能更全面地描述和理解现实世界的复杂对象,但同样也面临着计算复杂性高、模型难以优化和泛化能力受限等挑战。因此,MIML问题受到了研究者们的广泛关注。然而,目前尚缺乏对MIML研究的完整综述。首先给出与MIML相关的问题和符号定义;其次从数据复杂性的角度将MIML划分为标准MIML、多元MIML和非精确标记的MIML三类,并且分别从问题求解策略、示例来源和标记完整性的角度,将3类MIML细化为9个小类进行介绍和分析;然后给出了MIML方法的常用数据集和实验对比结果;最后介绍了5种常见的MIML实际应用场景,展望了MIML领域的4个未来研究方向并对全文进行总结。
知识蒸馏作为深度学习中的关键技术,通过将大型教师模型的知识传递给较小的学生模型,实现了模型的压缩与加速。在保证性能的前提下,显著减少了计算资源和存储需求,促进了高性能模型在资源受限的边缘设备上的部署。围绕知识蒸馏的最新研究进展进行了系统性的综述,从知识类型和师生模型架构2个角度对知识蒸馏进行分类,详细汇总了输出特征知识、中间特征知识、关系特征知识3种典型知识类型的蒸馏方法,以及卷积架构到卷积架构、卷积架构到ViT(vision Transformer)架构、ViT架构到卷积架构和ViT架构到ViT架构的蒸馏方法;探讨了离线蒸馏、在线蒸馏、自蒸馏、无数据蒸馏、多教师蒸馏和助理蒸馏的学习方式;归纳了基于蒸馏过程、知识结构、温度系数及损失函数的蒸馏优化方法,分析了对抗性技术、自动机器学习、强化学习和扩散模型对蒸馏的改进,并总结了蒸馏技术在常见应用中的实现。尽管知识蒸馏取得了显著进展,但在实际应用和理论研究中仍面临诸多挑战。最后,对这些问题进行了深入分析,并对未来发展方向提出了见解。
近年来,大语言模型(large language models,LLMs)在自然语言处理(natural language processing,NLP)等领域取得了显著进展,展现出强大的语言理解与生成能力。然而,在实际应用过程中,大语言模型仍然面临诸多挑战。其中,幻觉(hallucination)问题引起了学术界和工业界的广泛关注。如何有效检测大语言模型幻觉,成为确保其在文本生成等下游任务可靠、安全、可信应用的关键挑战。该研究着重对大语言模型幻觉检测方法进行综述:首先,介绍了大语言模型概念,进一步明确了幻觉的定义与分类,系统梳理了大语言模型从构建到部署应用全生命周期各环节的特点,并深入分析了幻觉的产生机制与诱因;其次,立足于实际应用需求,考虑到在不同任务场景下模型透明度的差异等因素,将幻觉检测方法划分为针对白盒模型和黑盒模型2类,并进行了重点梳理和深入对比;而后,分析总结了现阶段主流的幻觉检测基准,为后续开展幻觉检测奠定基础;最后,指出了大语言模型幻觉检测的各种潜在研究方法和新的挑战。
多模态推荐系统旨在提供更为精准和个性化的推荐服务。然而,现有研究仍存在以下问题:1)特征失真。由于输入的嵌入均由小型预训练语言模型和深层卷积神经网络等模型进行处理,导致得到的特征表示不准确。2)编码视角单一。目前模型的多模态编码层只考虑在单一的记忆或扩展视角进行编码,造成信息缺失。3)多模态对齐效果欠佳。不同模态嵌入分布在不同空间中,需将其映射至同一空间以实现对齐。而现有方法通过简单的行为信息乘积无法捕捉模态之间的复杂关系,导致多种模态无法精确对齐。基于上述问题,提出了一个新颖的模型DPRec。该模型同时考虑了记忆与扩展的双视角编码,并引入超图进行多级精准跨模态对齐。所提模型在3个真实数据集上进行了扩展实验,实验结果验证了所提模型的有效性。
随着深度学习技术的飞速进步和对海量数据集的持续发掘,自注意力模块在自然语言处理、计算机视觉以及大语言模型等多个领域得到了广泛应用。尽管自注意力模块显著提升了深度学习模型的检测精度,其巨大的计算需求却使得其在算力受限的计算设备上部署显得尤为困难。整数量化作为在低算力计算芯片中部署模型的关键技术之一,面临着由自注意力模块结构特点引起的较高精度损失问题。针对这个问题,对自注意力模块的整数量化误差进行了深入分析,提出了伪softmax向量量化方法和分块伪softmax向量量化方法。所提出方法通过对自注意力模块中的softmax向量进行特殊的整数量化,旨在显著提升推理速度的同时,有效降低整数量化带来的误差。实验结果表明,相比于传统的直接量化方法,伪softmax向量量化方法能够将量化精度损失降低50%,而分块伪softmax向量量化方法更是能将精度损失减少约90%。该结果充分证明了这2种量化方法在减少精度损失方面的有效性,为自注意力模块在算力受限设备上的高效部署提供了有力支持。
自监督学习已逐渐成为解决传统图神经网络模型因为过度依赖标签而导致模型泛化性能差的一种新的学习范式,该方法利用数据的固有结构和属性来生成监督信息,而不依赖于标记数据。然而,大多数现有的自监督学习方法的前提假设是图具有同配性,不能较好地推广到异配性强的图,即连接的节点具有不同的类别和不同的特征。研究非同配图的自监督学习,不依赖图的同配性假设,设计了一种非对称自监督学习框架MIRROR,通过捕获节点1阶邻域信息和自适应选择高阶邻域信息来学习节点的自监督信息。根据预测邻域上下文信息和估计的高阶互信息进行联合优化。模型在多个同配图数据集和非同配图数据集上进行了大量实验,与最新的基线相比都取得了较优的效果,在多个下游任务上的优越性也表明了提出的框架具有较好的泛化性能。
多通道脑电图(electroencephalography,EEG)作为一种非侵入性技术,通过在头皮上布置多个电极记录大脑电活动,帮助理解个体的心理状态和辅助诊断多种疾病。鉴于标记大量EEG数据的高昂成本和技术挑战,自监督学习(self-supervised learning,SSL)作为一种无需标签的学习范式,通过挖掘数据内在结构进行学习,可有效提升模型的泛化性能,已在EEG领域获得广泛关注。尽管当前研究已取得了显著进展,但仍面临以下挑战:首先,多通道EEG数据蕴含复杂的时空关联,然而众多当前方法仅局限于时间或空间单一维度的建模,未能全面融合两者,限制了对EEG信号内在复杂特征的深入理解。其次,许多现有方法未能有效结合利用片段级与示例级信息,前者有助于提升模型的泛化能力,而后者则能帮助模型更好地适应下游(分类)任务。针对上述挑战,提出并实现一个结合对比和重建的自监督预训练框架。具体而言,在时间维度掩码重建的基础上引入通道掩码策略,有效捕捉EEG数据的时空关系,并细粒度地捕捉片段间的关系,提升了模型的性能和泛化能力。同时,结合示例级对比学习与掩码重建任务,帮助模型学习到具有示例区分性和局部感知能力的表示,从而更好地适应下游任务。此外,引入自步学习机制进一步增强了模型的泛化能力。最后,在多个EEG任务上的实验结果验证了所提方法的有效性。
少样本学习是少样本目标检测的主流方法,但其存在2个问题:1) 新类样本的极度缺乏导致新类特征分布存在偏差;2) 由于微调过程中的鲁棒性假设不一定适用于新类样本,因此,特征提取网络无法提取未失真的新类样本特征。为解决上述2个问题,提出基于跨模块知识蒸馏的3阶段少样本目标检测方法。首先,利用特征分布校准策略,校准2步微调过程中新类样本的特征分布;其次,利用提出的首项偏差削减策略,有效缓解线性探测阶段(微调过程的第1阶段)中权重参数的偏差估计问题;然后,利用提出的基于逆首项偏差削减的整体微调策略,有效缓解整体微调过程(微调过程的第2阶段)中特征提取网络的过拟合问题;最后,利用提出的跨模块知识蒸馏策略,引导模型的浅层模块学习深层特征,以便捕获更具辨别力的新类样本特征。大量实验结果表明,所提的3阶段微调的少样本目标检测方法有效提高了少样本目标检测的准确性和鲁棒性。
精准高效地挖掘Web应用当中存在的安全漏洞具有极高的研究价值。Web漏洞挖掘相关研究大多是针对PHP应用的,无法直接应用于Java Web漏洞挖掘。且现有的Web漏洞挖掘方法难以适应批量高效的需求,即难以在保持静态代码分析的性能下取得动态分析的精确度。为解决上述问题,提出了一种前后端联合分析的Web漏洞挖掘方法,利用前端解析提取污点源信息来帮助后端分析进行剪枝,提高漏洞覆盖率和检测性能;同时在漏洞挖掘时利用程序的动静态信息进行代码建模,结合数据流分析、污点分析、符号执行以及轻量动态求解技术完成漏洞的挖掘和验证,在引入较少开销前提下带来较大的效果提升。选取了CVE(common vulnerabilities and exposure)漏洞、开源CMS(content management system)以及开源社区应用中共105个Java Web漏洞对所提出的方法进行了实验,证明了各模块具有较好的分析效果,整体具有较强的漏洞挖掘能力。
近年来,区块链受到公众广泛关注,数字签名方案是区块链中交易的合法鉴权方式。门限签名方案可以使得由单一参与方控制的密钥同时被多个参与方管理,只有在超过阈值的多个参与方同时进行签名的情况下才能完成交易签名,扩展了加密数字货币的应用方式和应用场景,降低了单点故障的风险。然而,目前的门限签名方案多局限于ECDSA(elliptic curve digital signature algorithm)等传统公钥签名算法,由此带来的公钥证书存储和管理开销较大。基于标识的密码体制可以有效解决这一问题,但还没有相应的针对基于国密SM9标识密码的门限签名方案研究。实现门限签名方案通常需要两方秘密分享转换方案,针对现有基于Paillier加密算法的两方秘密分享转换方案效率低的问题,提出了一种基于ElGamal加密算法的两方秘密分享转换方案,并应用其构建了一个基于国密SM9的门限签名方案。为证明方案的安全性,构建了基于标识的门限签名理想函数,并在通用可组合(universally composable,UC)模型下证明了该方案的安全性。理论分析和实验结果表明,与现有方案相比,提出的门限签名方案在基于ElGamal算法的秘密分享转换方案下效率更高。特别地,当门限值为100时,速度约为基于Paillier方案的6.1倍。在以太坊、Hyperledger Fabric和腾讯云服务平台长安链体验网络3个不同的区块链平台上对该门限签名方案进行了测试,实验结果表明方案在区块链场景中具有可行性。
扩散模型是一种用于描述信息传播或影响传递过程的数学模型,近年来被越来越多地应用在计算机视觉和自然语言处理等领域的生成式任务中,针对扩散模型的数据隐私攻击与保护也随之得到了广泛关注。成员推理攻击(membership inference attack,MIA)是一种针对机器学习模型的经典攻击,然而,现有的MIA方法实施的深度和广度不足,尤其是在短时攻击和长时攻击的效果平衡上存在挑战。提出了一种新的面向扩散模型的时序成员推理攻击方法(temporal membership inference attack method for diffusion models,TMIA-DM),通过噪声梯度信息保证短时攻击的攻击成功率(attack success rate,ASR),同时采用时序噪声信息来提高长时攻击效果。实验表明,提出的方法在常见扩散模型上短时攻击的ASR提升约5个百分点,长时攻击的ASR提高约1个百分点。
随着区块链技术的迅速发展,数据等资产已不满足于只在单个区块链上流通,因此跨链技术应运而生。跨链技术改善了区块链数据孤岛问题,但也为数据在不同区块链上的传输与共享带来了新的挑战。一方面,不同区块链用户存储数据方式通常不同,各区块链数据验证方式往往也不统一。 因此,其他区块链上的用户可能传输虚假或者不一致的数据,导致数据难以被有效验证其真实性和一致性,从而影响跨链访问控制的可靠性。另一方面,虽然当前代理重加密技术能有效实现1对1的访问控制,但单一代理存在中心化问题,以及在跨链场景下面临多用户并发导致的访问控制时间开销大的问题。针对上述问题,提出中继链环境下一种2阶段跨链访问控制机制,分别从数据验证和代理重加密阶段2个阶段进行设计。 在数据验证阶段,为确保加密数据的来源真实性和一致性,结合Fiat-Shamir启发式与星际文件系统(interplanetary file system, IPFS),设计一种数据验证方法对数据进行快速验证,使得加密数据可被用户正确接收,加密数据在IPFS中安全存储以缓解链上存储压力;在代理重加密阶段,设计一种改进的阈值代理重加密方法,以有效应对多用户场景下的访问控制,基于重加密更新算法对重加密过程进行优化,在实现去中心化重加密的同时,降低重加密的时间开销,并有效提高多用户访问控制的重加密事务处理效率。实验结果表明,所提出的机制在数据验证方面的开销较小,并在多用户场景下加密、重加密及解密过程的开销均优于对比方法。