Article(id=1329461275056255050, tenantId=1146029695717560320, journalId=1324759914146529478, issueId=1329460877864055544, articleNumber=null, orderNo=null, doi=10.7544/issn1000-1239.202440063, pmid=null, cstr=null, oa=null, hot=null, price=null, onlineType=0, articleFormat=0, articleType=null, articleTypeStr=null, receivedDate=1706457600000, receivedDateStr=2024-01-29, revisedDate=1711641600000, revisedDateStr=2024-03-29, acceptedDate=null, acceptedDateStr=null, onlineDate=1794897868169, onlineDateStr=2026-11-17, pubDate=1714492800000, pubDateStr=2024-05-01, doiRegisterDate=null, doiRegisterDateStr=null, onlineIssueDate=1794897868169, onlineIssueDateStr=2026-11-17, onlineJustAcceptDate=null, onlineJustAcceptDateStr=null, onlineFirstDate=null, onlineFirstDateStr=null, sourceXml=null, magXml=null, createTime=1794897868169, creator=13701087609, updateTime=1794897868169, updator=13701087609, issue=Issue{id=1329460877864055544, tenantId=1146029695717560320, journalId=1324759914146529478, year='2024', volume='61', issue='5', pageStart='1085', pageEnd='1347', issueExtLink='null', onlineDate='null', pubDate='1714492800000', pubDateStr='2024-05-01', beforeIssueId=null, nextIssueId=null, price=null, status=1, issueComplete=1, articleOrder=1, issueType=-1, specialIssue=null, createTime=1794897773471, creator='13701087609', updateTime=1794897773471, updator='13701087609', preIssue=null, nextIssue=null, articleTotal=null, ext=null, issueFiles=null, downloadFileDto=null}, startPage=1261, endPage=1275, ext={EN=ArticleExt(id=1329461275228221515, articleId=1329461275056255050, tenantId=1146029695717560320, journalId=1324759914146529478, language=EN, title=Lookahead Analysis and Discussion of Research Hotspots in Artificial Intelligence from 2021 to 2023, columnId=1325489891789910943, journalTitle=Journal of Computer Research and Development, columnName=Artificial Intelligence, runingTitle=null, highlight=null, articleAbstract=

In current era, marked by advancements and achievements made in digital and intelligent fields, artificial intelligence (AI) has emerged as a pivotal engine driving technological innovation, which indicates encapsulating and examining the latest trends and future trajectories in AI research makes sense on the development of future AI research. This can be implemented by collecting the research outcomes during recent three years from top-tier international conferences and journals in the field of AI that are recommended by the China Computer Federation (CCF-A category), introducing keyword-centric analyses based on a bibliometric methodologies, and analyzing research hotspots based on high-frequency keywords, discerning emerging trends through newly-added keywords, identifying high-impact studies using citation-weighted keyword analysis. The result of these analyses, which contains significant information about trends in AI research, can enable the principal directions of AI research to be delineated and the interconnections and integrative fusion within mainstream AI research directions to be unveiled. Moreover, an in-depth exploration of the current hot topics, such as large language models (LLMs), AI-driven scientific research (AI for Science) and visual generation technologies, would help us reveal the underlying scientific theories and application prospects behind these technological innovations, thereby the latest trends and future trajectories in AI field get demonstrated more adequately and concretely.

, authors=Zishu Wei, Yue Han, Sihao Liu, Shengyu Zhang, Fei Wu*, authorsList=Zishu Wei, Yue Han, Sihao Liu, Shengyu Zhang, Fei Wu, authorCompany=null, correspAuthors=Fei Wu, authorNote=

born in 2002. Undergraduate. His main research interest includes large-small models’ synergy

born in 2004. Undergraduate. Her main research interest includes AI agent. ()

born in 2001. Undergraduate. His main research interest includes graph network. ( )

born in 1997. PhD, assistant professor. Member of CCF. His main research interests include device-cloud and large-small models’ synergy computing, and multimedia computing and recommendation systems. ()

born in 1973. PhD, professor. Senior member of CCF. His main research interests include artificial intelligence, cross-media computing, and multimedia analysis and retrieval

, correspAuthorsNote=null, copyrightStatement=Copyright © 2024 Journal of Computer Research and Development. All rights reserved., copyrightOwner=null, extLink=null, articleAbsUrl=null, sourceXml=null, magXml=null, pdfUrl=null, pdf=null, pdfFileSize=null, pdfExtLink=null, richHtmlUrl=null, mobilePdfUrl=null, reviewReport=null, pdfFirstPage=null, abstractGraph=null, abstractGraphContent=null, abstractVideo=null, citation=null, cebUrl=null, magXmlContent=null, mapNumber=null, fund=null), CN=ArticleExt(id=1329461282048159840, articleId=1329461275056255050, tenantId=1146029695717560320, journalId=1324759914146529478, language=CN, title=2021至2023年人工智能领域研究热点分析述评与展望, columnId=1325489892104483745, journalTitle=计算机研究与发展, columnName=人工智能, runingTitle=null, highlight=null, articleAbstract=

在当今数字化和智能化的时代背景下,人工智能(artificial intelligence,AI)已成为科技创新的重要引擎,总结探讨AI研究的最新趋势和未来发展方向具有重要的研究和现实意义. 为此,对 2021—2023年间在中国计算机学会(CCF)推荐的AI领域CCF-A类国际会议和期刊所发表论文的研究成果进行收集,并在此基础上采用文献计量学的方法论来通过关键词对研究热点进行分析,进行基于高频关键词分析研究热点、基于新增关键词分析研究趋势、基于引用量加权的关键词分析高影响力研究,可以梳理AI研究的主流方向、发现AI主要研究方向的相互联系和交叉融合的特点. 此外,对当前研究热点如大语言模型(large language model,LLM)、AI驱动的科学研究(AI for Science)和视觉生成相关论文的关联热点进行分析,可以挖掘技术路径和方法论的演变,展现技术创新背后的科学理论和应用前景,从而进一步揭示AI研究的最新趋势和发展前景.

, authors=魏子舒, 韩越, 刘思浩, 张圣宇, 吴飞*, authorsList=魏子舒, 韩越, 刘思浩, 张圣宇, 吴飞, authorCompany=null, correspAuthors=吴飞, authorNote=

2002年生. 本科生. 主要研究方向为大小模型协同

2004年生. 本科生. 主要研究方向为人工智能代理

2001年生. 本科生. 主要研究方向为图网络

1997年生. 博士,研究员. CCF会员. 主要研究方向为端云大小模型协同计算、多媒体计算与推荐系统

1973年生. 博士,教授. CCF高级会员. 主要研究方向为人工智能、跨媒体计算、多媒体分析与检索

, correspAuthorsNote=
吴飞()
, copyrightStatement=版权所有 © 2024 计算机研究与发展编辑部, copyrightOwner=null, extLink=null, articleAbsUrl=null, sourceXml=XSg0qr8xCLv7MXf2fCDBiA==, magXml=PNt1qjpU8/pm0mz2dTUUdQ==, pdfUrl=null, pdf=ccaQ9iEXn77Z7v70lhbqYA==, pdfFileSize=1288384, pdfExtLink=null, richHtmlUrl=null, mobilePdfUrl=null, reviewReport=null, pdfFirstPage=null, abstractGraph=T300XfjxHPjoa6yWzLjwbg==, abstractGraphContent=null, abstractVideo=null, citation=null, cebUrl=null, magXmlContent=0zAct/YFgZ3Gg5jkYu2b5A==, mapNumber=null, fund=null)}, authors=[Author(id=1329461282417258597, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, orderNo=0, firstName=null, middleName=null, lastName=null, nameCn=null, orcid=null, stid=null, country=null, authorPic=null, dead=0, email=weizishu@zju.edu.cn, emailSecond=null, emailThird=null, correspondingAuthor=0, authorType=1, ext={EN=AuthorExt(id=1329461282488561767, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461282417258597, language=EN, stringName=Zishu Wei, firstName=Zishu, middleName=null, lastName=Wei, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013, bio={"content":"

born in 2002. Undergraduate. His main research interest includes large-small models’ synergy

"}, bioImg=null, bioContent=

born in 2002. Undergraduate. His main research interest includes large-small models’ synergy

, aboutCorrespAuthor=null), CN=AuthorExt(id=1329461282551476328, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461282417258597, language=CN, stringName=魏子舒, firstName=null, middleName=null, lastName=null, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=浙江大学计算机科学与技术学院 杭州 310013, bio={"img":"ITcL0bf1LWsv9vi2S0dj9Q==","content":"

2002年生. 本科生. 主要研究方向为大小模型协同

"}, bioImg=ITcL0bf1LWsv9vi2S0dj9Q==, bioContent=

2002年生. 本科生. 主要研究方向为大小模型协同

, aboutCorrespAuthor=null)}, companyList=[AuthorCompany(id=1329461282304012385, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, xref=null, ext=[AuthorCompanyExt(id=1329461282308206690, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=EN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013), AuthorCompanyExt(id=1329461282350149731, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=CN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=浙江大学计算机科学与技术学院 杭州 310013)])]), Author(id=1329461282618585194, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, orderNo=1, firstName=null, middleName=null, lastName=null, nameCn=null, orcid=null, stid=null, country=null, authorPic=null, dead=0, email=zjhanyue@zju.edu.cn, emailSecond=null, emailThird=null, correspondingAuthor=0, authorType=1, ext={EN=AuthorExt(id=1329461282740220012, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461282618585194, language=EN, stringName=Yue Han, firstName=Yue, middleName=null, lastName=Han, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013, bio={"content":"

born in 2004. Undergraduate. Her main research interest includes AI agent. ()

"}, bioImg=null, bioContent=

born in 2004. Undergraduate. Her main research interest includes AI agent. ()

, aboutCorrespAuthor=null), CN=AuthorExt(id=1329461282794745965, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461282618585194, language=CN, stringName=韩越, firstName=null, middleName=null, lastName=null, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=浙江大学计算机科学与技术学院 杭州 310013, bio={"img":"KORi+ECV3qnUliYcGab+wA==","content":"

2004年生. 本科生. 主要研究方向为人工智能代理

"}, bioImg=KORi+ECV3qnUliYcGab+wA==, bioContent=

2004年生. 本科生. 主要研究方向为人工智能代理

, aboutCorrespAuthor=null)}, companyList=[AuthorCompany(id=1329461282304012385, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, xref=null, ext=[AuthorCompanyExt(id=1329461282308206690, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=EN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013), AuthorCompanyExt(id=1329461282350149731, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=CN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=浙江大学计算机科学与技术学院 杭州 310013)])]), Author(id=1329461282853466223, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, orderNo=2, firstName=null, middleName=null, lastName=null, nameCn=null, orcid=null, stid=null, country=null, authorPic=null, dead=0, email=illyasviel123@qq.com, emailSecond=null, emailThird=null, correspondingAuthor=0, authorType=1, ext={EN=AuthorExt(id=1329461282928963697, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461282853466223, language=EN, stringName=Sihao Liu, firstName=Sihao, middleName=null, lastName=Liu, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013, bio={"content":"

born in 2001. Undergraduate. His main research interest includes graph network. ( )

"}, bioImg=null, bioContent=

born in 2001. Undergraduate. His main research interest includes graph network. ( )

, aboutCorrespAuthor=null), CN=AuthorExt(id=1329461283000266866, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461282853466223, language=CN, stringName=刘思浩, firstName=null, middleName=null, lastName=null, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=浙江大学计算机科学与技术学院 杭州 310013, bio={"img":"RQ0QXZZp2mal4aNPeSju0A==","content":"

2001年生. 本科生. 主要研究方向为图网络

"}, bioImg=RQ0QXZZp2mal4aNPeSju0A==, bioContent=

2001年生. 本科生. 主要研究方向为图网络

, aboutCorrespAuthor=null)}, companyList=[AuthorCompany(id=1329461282304012385, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, xref=null, ext=[AuthorCompanyExt(id=1329461282308206690, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=EN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013), AuthorCompanyExt(id=1329461282350149731, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=CN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=浙江大学计算机科学与技术学院 杭州 310013)])]), Author(id=1329461283058987124, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, orderNo=3, firstName=null, middleName=null, lastName=null, nameCn=null, orcid=null, stid=null, country=null, authorPic=null, dead=0, email=sy_zhang@zju.edu.cn, emailSecond=null, emailThird=null, correspondingAuthor=0, authorType=1, ext={EN=AuthorExt(id=1329461283147067510, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461283058987124, language=EN, stringName=Shengyu Zhang, firstName=Shengyu, middleName=null, lastName=Zhang, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013, bio={"content":"

born in 1997. PhD, assistant professor. Member of CCF. His main research interests include device-cloud and large-small models’ synergy computing, and multimedia computing and recommendation systems. ()

"}, bioImg=null, bioContent=

born in 1997. PhD, assistant professor. Member of CCF. His main research interests include device-cloud and large-small models’ synergy computing, and multimedia computing and recommendation systems. ()

, aboutCorrespAuthor=null), CN=AuthorExt(id=1329461283214176375, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461283058987124, language=CN, stringName=张圣宇, firstName=null, middleName=null, lastName=null, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=浙江大学计算机科学与技术学院 杭州 310013, bio={"img":"6G6R+dn0FPvWP9qV0AEWNA==","content":"

1997年生. 博士,研究员. CCF会员. 主要研究方向为端云大小模型协同计算、多媒体计算与推荐系统

"}, bioImg=6G6R+dn0FPvWP9qV0AEWNA==, bioContent=

1997年生. 博士,研究员. CCF会员. 主要研究方向为端云大小模型协同计算、多媒体计算与推荐系统

, aboutCorrespAuthor=null)}, companyList=[AuthorCompany(id=1329461282304012385, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, xref=null, ext=[AuthorCompanyExt(id=1329461282308206690, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=EN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013), AuthorCompanyExt(id=1329461282350149731, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=CN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=浙江大学计算机科学与技术学院 杭州 310013)])]), Author(id=1329461283306451065, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, orderNo=4, firstName=null, middleName=null, lastName=null, nameCn=null, orcid=null, stid=null, country=null, authorPic=null, dead=0, email=wufei@zju.edu.cn, emailSecond=null, emailThird=null, correspondingAuthor=1, authorType=1, ext={EN=AuthorExt(id=1329461283394531451, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461283306451065, language=EN, stringName=Fei Wu, firstName=Fei, middleName=null, lastName=Wu, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=*, address=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013, bio={"content":"

born in 1973. PhD, professor. Senior member of CCF. His main research interests include artificial intelligence, cross-media computing, and multimedia analysis and retrieval

"}, bioImg=null, bioContent=

born in 1973. PhD, professor. Senior member of CCF. His main research interests include artificial intelligence, cross-media computing, and multimedia analysis and retrieval

, aboutCorrespAuthor=null), CN=AuthorExt(id=1329461283474223228, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461283306451065, language=CN, stringName=吴飞, firstName=null, middleName=null, lastName=null, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=*, address=浙江大学计算机科学与技术学院 杭州 310013, bio={"img":"WfDVXY3r+wWql8FmFHPTkQ==","content":"

1973年生. 博士,教授. CCF高级会员. 主要研究方向为人工智能、跨媒体计算、多媒体分析与检索

"}, bioImg=WfDVXY3r+wWql8FmFHPTkQ==, bioContent=

1973年生. 博士,教授. CCF高级会员. 主要研究方向为人工智能、跨媒体计算、多媒体分析与检索

, aboutCorrespAuthor=null)}, companyList=[AuthorCompany(id=1329461282304012385, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, xref=null, ext=[AuthorCompanyExt(id=1329461282308206690, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=EN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013), AuthorCompanyExt(id=1329461282350149731, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=CN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=浙江大学计算机科学与技术学院 杭州 310013)])])], keywords=[Keyword(id=1329461283570692221, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, orderNo=1, keyword=artificial intelligence), Keyword(id=1329461283700715646, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, orderNo=2, keyword=research hotspots), Keyword(id=1329461283755241599, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, orderNo=3, keyword=keyword), Keyword(id=1329461283822350464, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, orderNo=4, keyword=statistical analysis), Keyword(id=1329461283889459329, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, orderNo=5, keyword=data mining), Keyword(id=1329461283948179586, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, orderNo=1, keyword=人工智能), Keyword(id=1329461284015288451, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, orderNo=2, keyword=研究热点), Keyword(id=1329461284082397316, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, orderNo=3, keyword=关键词), Keyword(id=1329461284136923269, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, orderNo=4, keyword=统计分析), Keyword(id=1329461284195643526, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, orderNo=5, keyword=数据挖掘)], refs=[Reference(id=1329461287504949406, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=1, rfOrder=0, authorNames=null, journalName=null, refType=null, unstructuredReference=Niu Shuteng, Liu M, Liu Yongxin, et al. Distant domain transfer learning for medical imaging[J]. IEEE Journal of Biomedical and Health Informatics, 2021, 25(10): 3784−3793, articleTitle=null, refAbstract=null), Reference(id=1329461287563669663, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=2, rfOrder=1, authorNames=null, journalName=null, refType=null, unstructuredReference=Abbas A, Jain S, Gour M, et al. Tomato plant disease detection using transfer learning with C-GAN synthetic images[J]. Computers and Electronics in Agriculture, 2021, 187: 106279, articleTitle=null, refAbstract=null), Reference(id=1329461287643361440, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=3, rfOrder=2, authorNames=null, journalName=null, refType=null, unstructuredReference=Xu Runxin, Luo Fuli, Zhang Zhiyuan, et al. Raise a child in large language model: Towards effective and generalizable fine-tuning [C] //Proc of the 2021 Conf on Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2021: 9514−9528, articleTitle=null, refAbstract=null), Reference(id=1329461287735636129, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=4, rfOrder=3, authorNames=null, journalName=null, refType=null, unstructuredReference=Lester B, Al-Rfou R, Constant N. The power of scale for parameter-efficient prompt tuning [C] //Proc of the 2021 Conf on Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2021: 3045−3059, articleTitle=null, refAbstract=null), Reference(id=1329461287815327906, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=5, rfOrder=4, authorNames=null, journalName=null, refType=null, unstructuredReference=Gutiérrez O, López-Neri E. Cognitive computing: A brief survey and open research challenges [C] //Proc of the 3rd Int Conf on Applied Computing and Information Technology/2nd Int Conf on Computational Science and Intelligence. Piscataway, NJ: IEEE, 2015: 328−333, articleTitle=null, refAbstract=null), Reference(id=1329461287882436771, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=6, rfOrder=5, authorNames=null, journalName=null, refType=null, unstructuredReference=Kumar P, Chandra R, Bansal C, et al. Micro-climate prediction-multi scale encoder-decoder based deep learning framework [C] //Proc of the 27th ACM SIGKDD Conf on Knowledge Discovery & Data Mining. New York: ACM, 2021: 3128−3138, articleTitle=null, refAbstract=null), Reference(id=1329461287953739940, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=7, rfOrder=6, authorNames=null, journalName=null, refType=null, unstructuredReference=Ji Shaoxiong, Pan Shirui, Cambria E, et al. A survey on knowledge graphs: Representation, acquisition, and applications[J]. IEEE Transactions on Neural Networks and Learning Systems, 2020, 33(2): 494−514, articleTitle=null, refAbstract=null), Reference(id=1329461288025043109, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=8, rfOrder=7, authorNames=null, journalName=null, refType=null, unstructuredReference=Galushka M, Swain C, Browne F, et al. Prediction of chemical compounds properties using a deep learning model[J]. Neural Computing and Applications, 2021, 33(20): 13345−13366, articleTitle=null, refAbstract=null), Reference(id=1329461288129900710, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=9, rfOrder=8, authorNames=null, journalName=null, refType=null, unstructuredReference=Ata S K, Wu Min, Fang Yuan, et al. Recent advances in network-based methods for disease gene prediction[J]. Briefings in Bioinformatics, 2021, 22(4): bbaa303, articleTitle=null, refAbstract=null), Reference(id=1329461288197009575, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=10, rfOrder=9, authorNames=null, journalName=null, refType=null, unstructuredReference=Wang C Y, Bochkovskiy A, Liao H Y M. YOLOv7: Trainable bag-of-freebies sets new state-of-the-art for real-time object detectors [C] // Proc of IEEE/CVF Conf on Computer Vision and Pattern Recognition. Piscataway, NJ: IEEE, 2023: 7464−7475, articleTitle=null, refAbstract=null), Reference(id=1329461288255729832, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=11, rfOrder=10, authorNames=null, journalName=null, refType=null, unstructuredReference=Huang C W, Lim J H, Courville A C. A variational perspective on diffusion-based generative models and score matching [C/OL]// Advances in Neural Information Processing Systems. 2021: 21696−21707. [2023-11-20]. https://arxiv.org/pdf/2106.02808.pdf, articleTitle=null, refAbstract=null), Reference(id=1329461288314450089, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=12, rfOrder=11, authorNames=null, journalName=null, refType=null, unstructuredReference=Hariri R H, Fredericks E M, Bowers K M. Uncertainty in big data analytics: Survey, opportunities, and challenges[J]. Journal of Big Data, 2019, 6: 1−16, articleTitle=null, refAbstract=null), Reference(id=1329461288377364650, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=13, rfOrder=12, authorNames=null, journalName=null, refType=null, unstructuredReference=Wang Yuntao, Su Zhou, Zhang Ning, et al. A survey on metaverse: Fundamentals, security and privacy[J]. IEEE Communications Surveys and Tutorials, 2023, 25(1): 319−352, articleTitle=null, refAbstract=null), Reference(id=1329461288431890603, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=14, rfOrder=13, authorNames=null, journalName=null, refType=null, unstructuredReference=Nour M, Cömert Z, Polat K. A novel medical diagnosis model for COVID-19 infection detection based on deep features and Bayesian optimization [J]. Applied Soft Computing, 2020, 97(Part A): 106580, articleTitle=null, refAbstract=null), Reference(id=1329461288503193772, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=15, rfOrder=14, authorNames=null, journalName=null, refType=null, unstructuredReference=Gao Yue, Cai Guangyao, Fang Wei, et al. Machine learning based early warning system enables accurate mortality risk prediction for COVID-19[J/OL]. Nature Communications, 2020, 11(1): 5033. [2023-10-29]. https://www.nature.com/articles/s41467-020-18684-2, articleTitle=null, refAbstract=null), Reference(id=1329461288612245677, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=16, rfOrder=15, authorNames=null, journalName=null, refType=null, unstructuredReference=Kaur H, Ashaan S U, Alankar B, et al. A proposed sentiment analysis deep learning algorithm for analyzing COVID-19 tweets[J]. Information Systems Frontiers, 2021, 23(6): 1417−1429, articleTitle=null, refAbstract=null), Reference(id=1329461288696131759, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=17, rfOrder=16, authorNames=null, journalName=null, refType=null, unstructuredReference=Minaee S, Cambria E, Gao Jianfeng, et al. Deep learning--based text classification: A comprehensive review [J]. ACM Computing Surveys, 2021, 54(3): 1−40, articleTitle=null, refAbstract=null), Reference(id=1329461288754852016, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=18, rfOrder=17, authorNames=null, journalName=null, refType=null, unstructuredReference=Tian Yingjie, Zhang Yuqi. A comprehensive survey of regularization strategies in machine learning[J]. Information Fusion, 2022, 80: 146−166, articleTitle=null, refAbstract=null), Reference(id=1329461288834543793, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=19, rfOrder=18, authorNames=null, journalName=null, refType=null, unstructuredReference=Jeon J, Lee S, Choe H. Beyond ChatGPT: A conceptual framework and systematic review of speech-recognition chatbots for language learning[J]. Computers & Education, 2023, 206: 104898, articleTitle=null, refAbstract=null), Reference(id=1329461288901652658, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=20, rfOrder=19, authorNames=null, journalName=null, refType=null, unstructuredReference=Sweller J, van Merriënboer J V, Paas F. Cognitive architecture and instructional design: 20 years later[J]. Educational Psychology Review, 2019, 31: 261−292, articleTitle=null, refAbstract=null), Reference(id=1329461288964567219, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=21, rfOrder=20, authorNames=null, journalName=null, refType=null, unstructuredReference=Kotseruba I, Tsotsos J K. 40 years of cognitive architectures: Core cognitive abilities and practical applications[J]. Artificial Intelligence Review, 2020, 53(1): 17−94, articleTitle=null, refAbstract=null), Reference(id=1329461289027481780, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=22, rfOrder=21, authorNames=null, journalName=null, refType=null, unstructuredReference=Rai A. Explainable AI: From black box to glass box[J]. Journal of the Academy of Marketing Science, 2019, 48: 137−141, articleTitle=null, refAbstract=null), Reference(id=1329461289086202037, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=23, rfOrder=22, authorNames=null, journalName=null, refType=null, unstructuredReference=Hofmann P, Samp C, Urbach N. Robotic process automation [J]. Electronic Markets: 2020, 30: 99−106, articleTitle=null, refAbstract=null), Reference(id=1329461289144922294, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=24, rfOrder=23, authorNames=null, journalName=null, refType=null, unstructuredReference=Sreedevi A G, Harshitha T, Sugumaran V, et al. Application of cognitive computing in healthcare, cybersecurity, big data and IoT: A literature review[J]. Information Processing & Management, 2022, 59: 102888, articleTitle=null, refAbstract=null), Reference(id=1329461289203642551, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=25, rfOrder=24, authorNames=null, journalName=null, refType=null, unstructuredReference=Niu Zhaoyang, Zhong Guoqiang, Yu Hui. A review on the attention mechanism of deep learning [J]. Neurocomputing, 2021, 45: 48−62, articleTitle=null, refAbstract=null), Reference(id=1329461289270751416, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=26, rfOrder=25, authorNames=null, journalName=null, refType=null, unstructuredReference=Touvron H, Lavril T, Lample G, et al. LLaMA: Open and efficient foundation language models [J]. arXiv preprint, arXiv: 2302.13971, 2023, articleTitle=null, refAbstract=null), Reference(id=1329461289342054585, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=27, rfOrder=26, authorNames=null, journalName=null, refType=null, unstructuredReference=Varádi M, Anyango S, Izacard G, et al. AlphaFold protein structure database: Massively expanding the structural coverage of protein-sequence space with high-accuracy models[J]. Nucleic Acids Research, 2021, 50: D439−D444, articleTitle=null, refAbstract=null), Reference(id=1329461290944278716, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=28, rfOrder=27, authorNames=null, journalName=null, refType=null, unstructuredReference=Mahajan P. Applications of pattern recognition algorithm in health and medicine: A review [J/OL]. International Journal of Engineering and Computer Science, 2016. [2023-11-06]. https://doi.org/10.18535/IJECS%2FV5I5.41, articleTitle=null, refAbstract=null), Reference(id=1329461291044942013, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=29, rfOrder=28, authorNames=null, journalName=null, refType=null, unstructuredReference=Li Weihua, Huang Ruyi, Li Jipu, et al. A perspective survey on deep transfer learning for fault diagnosis in industrial scenarios: Theories, applications and challenges [J]. Mechanical Systems and Signal Processing: 2022, 167: 1084−1087, articleTitle=null, refAbstract=null), Reference(id=1329461291107856574, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=30, rfOrder=29, authorNames=null, journalName=null, refType=null, unstructuredReference=Maghdid H S, Asaad A T, Ghafoor K, et al. Diagnosing COVID-19 pneumonia from X-ray and CT images using deep learning and transfer learning algorithms [C/OL] // Proc of Multimodal Image Exploitation and Learning. [2023-10-29]. https://arxiv.org/ftp/arxiv/papers/2004/2004.00038.pdf, articleTitle=null, refAbstract=null), Reference(id=1329461291208519871, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=31, rfOrder=30, authorNames=null, journalName=null, refType=null, unstructuredReference=Wang Haochun, Liu Chiliang, Xi Nuwa, et al. Huatuo: Tuning LLaMA model with chinese medical knowledge [J]. arXiv preprint, arXiv: 2304.06975, 2023, articleTitle=null, refAbstract=null), Reference(id=1329461291275628736, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=32, rfOrder=31, authorNames=null, journalName=null, refType=null, unstructuredReference=Bi Zhen, Zhang Ningyu, Xue Yida, et al. OceanGPT: A large language model for ocean science tasks [J]. arXiv preprint, arXiv: 2310.02031, 2023, articleTitle=null, refAbstract=null), Reference(id=1329461291342737601, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=33, rfOrder=32, authorNames=null, journalName=null, refType=null, unstructuredReference=Sohn K, Lee H, Yan Xinchen. Learning structured output representation using deep conditional generative models [C] // Proc of Annual Conf on Nerual Information Processing Systems. Quebec, Canada: NIPS, 2015: 3483−3491, articleTitle=null, refAbstract=null), Reference(id=1329461291405652162, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=34, rfOrder=33, authorNames=null, journalName=null, refType=null, unstructuredReference=Mirza M, Osindero S. Conditional generative adversarial nets [J]. arXiv preprint, arXiv: 1411.1784, 2014, articleTitle=null, refAbstract=null), Reference(id=1329461291455983811, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=35, rfOrder=34, authorNames=null, journalName=null, refType=null, unstructuredReference=Karras T, Laine S, Aittala M, et al. Analyzing and improving the image quality of StyleGAN [C] // Proc of 2020 IEEE/CVF Conf on Computer Vision and Pattern Recognition. Piscataway, NJ: IEEE, 2020: 8107−8116, articleTitle=null, refAbstract=null), Reference(id=1329461291518898372, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=36, rfOrder=35, authorNames=null, journalName=null, refType=null, unstructuredReference=Mescheder L, Nowozin S, Geiger A. Adversarial variational Bayes: Unifying variational autoencoders and generative adversarial networks [C] // Proc of the 34th Int Conf on Machine Learning. Sydney: ICML, 2017: 2391−2400, articleTitle=null, refAbstract=null), Reference(id=1329461291581812933, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=37, rfOrder=36, authorNames=null, journalName=null, refType=null, unstructuredReference=Rombach R, Blattmann A, Lorenz D, et al. High-resolution image synthesis with latent diffusion models [C]//Proc of the IEEE/CVF Conf on Computer Vision and Pattern Recognition. Piscataway, NJ: IEEE, 2022: 10674−10685, articleTitle=null, refAbstract=null), Reference(id=1329461291644727494, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, doi=null, pmid=null, pmcid=null, year=null, volume=null, issue=null, pageStart=null, pageEnd=null, url=null, language=null, rfNumber=38, rfOrder=37, authorNames=null, journalName=null, refType=null, unstructuredReference=Memarian B, Doleck T. Embodied AI in education: A review on the body, environment, and mind [J]. Education and Information Technologies, 2023, 29: 895−916, articleTitle=null, refAbstract=null)], funds=null, companyList=[AuthorCompany(id=1329461282304012385, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, xref=null, ext=[AuthorCompanyExt(id=1329461282308206690, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=EN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013), AuthorCompanyExt(id=1329461282350149731, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=CN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=浙江大学计算机科学与技术学院 杭州 310013)])], figs=[ArticleFig(id=1329461284334055559, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, label=Figure 1, caption=Relative frequency for high frequency keywords of the papers over 2021—2023, figureFileSmall=sRs7p0q0Z/xUjOVT1+n4bQ==, figureFileBig=T300XfjxHPjoa6yWzLjwbg==, tableContent=null), ArticleFig(id=1329461284401164424, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, label=图1, caption=2021—2023 年度论文高频关键词相对频数, figureFileSmall=sRs7p0q0Z/xUjOVT1+n4bQ==, figureFileBig=T300XfjxHPjoa6yWzLjwbg==, tableContent=null), ArticleFig(id=1329461284560547977, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, label=Figure 2, caption=Relative frequency for high citation-weighted-frequency keywords of the papers over 2021—2023, figureFileSmall=gstbIS8Eg4IdEwDEB/QyPQ==, figureFileBig=yFP74QUMVM1kyHFppoxzbw==, tableContent=null), ArticleFig(id=1329461284657016970, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, label=图2, caption=2021—2023 年度论文引用量加权高频关键词相对频数, figureFileSmall=gstbIS8Eg4IdEwDEB/QyPQ==, figureFileBig=yFP74QUMVM1kyHFppoxzbw==, tableContent=null), ArticleFig(id=1329461284728320139, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, label=Figure 3, caption=High frequency keywords relative with LLM, figureFileSmall=u4Unx2YqsjAGPzz112CL4Q==, figureFileBig=B9ojrqE8GVPkqyftFYCfNQ==, tableContent=null), ArticleFig(id=1329461284795429004, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, label=图3, caption=与大语言模型相关的高频关键词, figureFileSmall=u4Unx2YqsjAGPzz112CL4Q==, figureFileBig=B9ojrqE8GVPkqyftFYCfNQ==, tableContent=null), ArticleFig(id=1329461284854149261, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, label=Figure 4, caption=High frequency keywords relative with AI for Science, figureFileSmall=1URQu4WpeThKMWmYgN7cGQ==, figureFileBig=3t8FVqDrsr3qOiNLyKx3vA==, tableContent=null), ArticleFig(id=1329461286494122127, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, label=图4, caption=与AI for Science 相关的高频关键词, figureFileSmall=1URQu4WpeThKMWmYgN7cGQ==, figureFileBig=3t8FVqDrsr3qOiNLyKx3vA==, tableContent=null), ArticleFig(id=1329461286557036688, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, label=Figure 5, caption=High frequency keywords relative with visual generation, figureFileSmall=7WdUydlzb5U0rpdaYNRWIA==, figureFileBig=ofhuJ1nEdchDQbB0Yofe9g==, tableContent=null), ArticleFig(id=1329461286619951249, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, label=图5, caption=与视觉生成相关的高频关键词, figureFileSmall=7WdUydlzb5U0rpdaYNRWIA==, figureFileBig=ofhuJ1nEdchDQbB0Yofe9g==, tableContent=null), ArticleFig(id=1329461286703837330, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, label=Table 1, caption=

High Frequency-Increment Keywords in 2022

, figureFileSmall=null, figureFileBig=null, tableContent=
排名关键词频数
1数据增强417
2生成模型335
3优化算法232
4随机梯度下降(SGD)220
5生成对抗网络(GAN)198
6目标识别185
7马尔可夫决策过程181
8图像分割174
9正则化172
10凸优化163
), ArticleFig(id=1329461286787723411, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, label=表1, caption=

2022 年度高频新增关键词

, figureFileSmall=null, figureFileBig=null, tableContent=
排名关键词频数
1数据增强417
2生成模型335
3优化算法232
4随机梯度下降(SGD)220
5生成对抗网络(GAN)198
6目标识别185
7马尔可夫决策过程181
8图像分割174
9正则化172
10凸优化163
), ArticleFig(id=1329461286854832276, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, label=Table 2, caption=

High Frequency-Increment Keywords in 2023

, figureFileSmall=null, figureFileBig=null, tableContent=
排名关键词频数
1知识表示587
2文本分类483
3语音识别376
4认知架构370
5信息检索320
6决策树264
7语义分析198
8聊天机器人168
9计算语言学162
10通用AI152
), ArticleFig(id=1329461286921941141, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, label=表2, caption=

2023 年度高频新增关键词

, figureFileSmall=null, figureFileBig=null, tableContent=
排名关键词频数
1知识表示587
2文本分类483
3语音识别376
4认知架构370
5信息检索320
6决策树264
7语义分析198
8聊天机器人168
9计算语言学162
10通用AI152
), ArticleFig(id=1329461286989050006, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, label=Table 3, caption=

High Frequency Keyword Pairs in 2021

, figureFileSmall=null, figureFileBig=null, tableContent=
关键词1关键词2频数
自然语言处理(NLP)数据挖掘111
计算机视觉(CV)数据挖掘96
自然语言处理(NLP)强化学习91
计算机视觉(CV)模式识别85
自然语言处理(NLP)知识表示84
计算机视觉(CV)强化学习75
自然语言处理(NLP)认知计算70
计算机视觉(CV)知识表示67
机器人技术知识表示64
计算机视觉(CV)认知计算61
), ArticleFig(id=1329461287047770263, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, label=表3, caption=

2021 年度高频关键词对

, figureFileSmall=null, figureFileBig=null, tableContent=
关键词1关键词2频数
自然语言处理(NLP)数据挖掘111
计算机视觉(CV)数据挖掘96
自然语言处理(NLP)强化学习91
计算机视觉(CV)模式识别85
自然语言处理(NLP)知识表示84
计算机视觉(CV)强化学习75
自然语言处理(NLP)认知计算70
计算机视觉(CV)知识表示67
机器人技术知识表示64
计算机视觉(CV)认知计算61
), ArticleFig(id=1329461287110684824, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, label=Table 4, caption=

High Frequency Keyword Pairs in 2022

, figureFileSmall=null, figureFileBig=null, tableContent=
关键词1关键词2频数
自然语言处理(NLP)强化学习828
计算机视觉(CV)强化学习718
自然语言处理(NLP)机器人技术544
计算机视觉(CV)机器人技术532
迁移学习强化学习520
计算机视觉(CV)图像处理518
计算机视觉(CV)模式识别495
计算机视觉(CV)迁移学习481
自然语言处理(NLP)迁移学习426
自然语言处理(NLP)数据挖掘398
), ArticleFig(id=1329461287173599385, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, label=表4, caption=

2022 年度高频关键词对

, figureFileSmall=null, figureFileBig=null, tableContent=
关键词1关键词2频数
自然语言处理(NLP)强化学习828
计算机视觉(CV)强化学习718
自然语言处理(NLP)机器人技术544
计算机视觉(CV)机器人技术532
迁移学习强化学习520
计算机视觉(CV)图像处理518
计算机视觉(CV)模式识别495
计算机视觉(CV)迁移学习481
自然语言处理(NLP)迁移学习426
自然语言处理(NLP)数据挖掘398
), ArticleFig(id=1329461287240708250, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, label=Table 5, caption=

High Frequency Keyword Pairs in 2023

, figureFileSmall=null, figureFileBig=null, tableContent=
关键词1关键词2频数
自然语言处理(NLP)机器人技术258
自然语言处理(NLP)强化学习231
计算机视觉(CV)强化学习189
计算机视觉(CV)机器人技术168
迁移学习强化学习160
自然语言处理(NLP)数据挖掘150
计算机视觉(CV)数据挖掘126
自然语言处理(NLP)认知计算122
计算机视觉(CV)模式识别115
计算机视觉(CV)认知计算108
), ArticleFig(id=1329461287295234203, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, label=表5, caption=

2023 年度高频关键词对

, figureFileSmall=null, figureFileBig=null, tableContent=
关键词1关键词2频数
自然语言处理(NLP)机器人技术258
自然语言处理(NLP)强化学习231
计算机视觉(CV)强化学习189
计算机视觉(CV)机器人技术168
迁移学习强化学习160
自然语言处理(NLP)数据挖掘150
计算机视觉(CV)数据挖掘126
自然语言处理(NLP)认知计算122
计算机视觉(CV)模式识别115
计算机视觉(CV)认知计算108
), ArticleFig(id=1329461287349760156, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=EN, label=Table 6, caption=

High Frequency Keywords for Latest Projects Relative with AI in 2023

, figureFileSmall=null, figureFileBig=null, tableContent=
排名关键词频数
1STEM教育体系40
2交叉学科研究25
3网络基础设施14
4增材制造13
5教育技术12
6边缘计算11
7网络安全10
8高性能计算(HPC)10
9多信使天体物理学9
10材料基因组计划(MGI)9
), ArticleFig(id=1329461287408480413, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, language=CN, label=表6, caption=

2023 年与人工智能相关的新兴项目高频关键词

, figureFileSmall=null, figureFileBig=null, tableContent=
排名关键词频数
1STEM教育体系40
2交叉学科研究25
3网络基础设施14
4增材制造13
5教育技术12
6边缘计算11
7网络安全10
8高性能计算(HPC)10
9多信使天体物理学9
10材料基因组计划(MGI)9
)], attaches=null, journal=Journal(id=1324759606947315908, delFlag=0, nameCn=计算机研究与发展, nameEn=Journal of Computer Research and Development, nameHistory1=null, nameHistory2=null, issn=1000-1239, eissn=null, cn=11-1777/TP, coden=null, periodic=0, language=CN, oaType=null, ccby=null, superviseOffice=null, ownerOffice=null, pubOffice=null, editorOffice=null, officeType=null, aims=null, clcCode=null, officeProv=null, officeCity=null, officeAddr=null, officeZip=null, officeEmail=null, officePhone=null, editDirector=null, officeDirector=null, officeDirectorPhone=null, officeStaffNum=null, officeEmpNum=null, coverPicUrl=k2l8zgqwstuxxevFX2qxVA==, journalPrice=null, startedYear=null, abbrevIsoEn=Journal of Computer Research and Development, journalRemark=null, publicationField=null, createdTime=1793776903141, updatedTime=1793850698612, createdBy=18614031015, updatedBy=13701087609, firstLetterCn=J, firstLetterEn=J, subjectCode=Electronic Information, subjectName=null, subjectCodeEn=Electronic Information, subjectNameEn=null, picCn=k2l8zgqwstuxxevFX2qxVA==, picEn=r6k0Ry+RD+c/VXj5QarmDw==, jcr=null, cjcr=null, exts=[JournalExt(id=1325069127710286688, language=CN, name=计算机研究与发展, nameHistory1=null, nameHistory2=null, managedBy=, sponsoredBy=, publishedBy=, editorOffice=, officeProv=null, officeCity=null, officeAddr=, officeZip=, editDirector=, officeDirector=null, officePhone=null, coverPicUrl=null, journalRemark=, submitArticleUrl=null, websiteUrl=, createdTime=1793850698640, updatedTime=1793850698640, createdBy=13701087609, updatedBy=13701087609, submissionGuidelinesUrl=, submissionAuthorUrl=https://crad.ict.ac.cn/journalx/authorLogOn.action, submissionEditorUrl=https://crad.ict.ac.cn/journalx/editorLogOn.action, submissionReviewUrl=https://crad.ict.ac.cn/journalx/expertLogOn.action, submissionCeEditorUrl=https://crad.ict.ac.cn/journalx/editorInChiefLogOn.action, submissionAeEditorUrl=, option={"copyright":""}), JournalExt(id=1325069127777395553, language=EN, name=Journal of Computer Research and Development, nameHistory1=null, nameHistory2=null, managedBy=, sponsoredBy=, publishedBy=, editorOffice=, officeProv=null, officeCity=null, officeAddr=, officeZip=, editDirector=, officeDirector=null, officePhone=null, coverPicUrl=null, journalRemark=, submitArticleUrl=null, websiteUrl=, createdTime=1793850698656, updatedTime=1793850698656, createdBy=13701087609, updatedBy=13701087609, submissionGuidelinesUrl=, submissionAuthorUrl=https://crad.ict.ac.cn/journalx/authorLogOn.action, submissionEditorUrl=https://crad.ict.ac.cn/journalx/editorLogOn.action, submissionReviewUrl=https://crad.ict.ac.cn/journalx/expertLogOn.action, submissionCeEditorUrl=https://crad.ict.ac.cn/journalx/editorInChiefLogOn.action, submissionAeEditorUrl=, option={"copyright":""})], databaseList=null, tenantJournalId=1324759914146529478, websiteList=[Website(id=1325070300139892771, webName=null, webTitle=null, webDomain=null, webCopyrigh=null, webIpcNo=null, seoTitle=null, seoKeywords=null, seoDescription=null, tenantJournalId=null, journalId=1324759914146529478, journalNameCn=null, journalNameEn=null, grayFlag=null, tenantId=1146029695717560320, platformId=null, journalGroupId=null, journalGroupNameCn=null, journalGroupNameEn=null, type=1, domain=https://castjournals.cast.org.cn/joweb/jsjyjyfz/CN, language=CN, createTime=1793850978169, createBy=18614031015, updateTime=1793851040259, updateBy=18614031015, name=计算机研究与发展-中文, tplId=1146099689490845704, title=计算机研究与发展, delFlag=0, indexPage=/home, props=[WebsiteProps(id=1325070893751349360, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300139892771, code=articleTextType, value=kx, createTime=1793851119697, updateTime=1793851119697, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070893730377837, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300139892771, code=banner, value=null, createTime=1793851119692, updateTime=1793851119692, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070893772320883, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300139892771, code=grayFlag, value=0, createTime=1793851119702, updateTime=1793851119702, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070893721989228, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300139892771, code=logo, value=https://castjournals.cast.org.cn/joweb/jsjyjyfz/CN/file/pic?fileId=U27tDsy717YF7XSPA+Vwdw==, createTime=1793851119690, updateTime=1793851119690, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070893784903797, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300139892771, code=minRunFlag, value=0, createTime=1793851119705, updateTime=1793851119705, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070893742960751, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300139892771, code=picServerUrl, value=https://castjournals.cast.org.cn/joweb/jsjyjyfz/CN/file/pic, createTime=1793851119695, updateTime=1793851119695, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070893780709492, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300139892771, code=silenceFlag, value=0, createTime=1793851119704, updateTime=1793851119704, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070893738766446, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300139892771, code=staticResourcePath, value=https://castjournals.cast.org.cn/joweb/cast_kjdb_cn_619/, createTime=1793851119694, updateTime=1793851119694, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070893755543665, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300139892771, code=themeColor, value=null, createTime=1793851119698, updateTime=1793851119698, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070893763932274, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300139892771, code=themeStyle, value=null, createTime=1793851119700, updateTime=1793851119700, creator=18614031015, updator=18614031015)]), Website(id=1325070300580294698, webName=null, webTitle=null, webDomain=null, webCopyrigh=null, webIpcNo=null, seoTitle=null, seoKeywords=null, seoDescription=null, tenantJournalId=null, journalId=1324759914146529478, journalNameCn=null, journalNameEn=null, grayFlag=null, tenantId=1146029695717560320, platformId=null, journalGroupId=null, journalGroupNameCn=null, journalGroupNameEn=null, type=1, domain=https://castjournals.cast.org.cn/joweb/jsjyjyfz/EN, language=EN, createTime=1793850978274, createBy=18614031015, updateTime=1793851036638, updateBy=18614031015, name=计算机研究与发展-英文, tplId=1146101810881728533, title=Journal of Computer Research and Development, delFlag=0, indexPage=/home, props=[WebsiteProps(id=1325070925288321148, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300580294698, code=articleTextType, value=kx, createTime=1793851127216, updateTime=1793851127216, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070925263155321, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300580294698, code=banner, value=null, createTime=1793851127210, updateTime=1793851127210, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070925309292671, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300580294698, code=grayFlag, value=0, createTime=1793851127221, updateTime=1793851127221, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070925254766712, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300580294698, code=logo, value=https://castjournals.cast.org.cn/joweb/jsjyjyfz/EN/file/pic?fileId=U27tDsy717YF7XSPA+Vwdw==, createTime=1793851127208, updateTime=1793851127208, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070925326069889, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300580294698, code=minRunFlag, value=0, createTime=1793851127225, updateTime=1793851127225, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070925279932539, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300580294698, code=picServerUrl, value=https://castjournals.cast.org.cn/joweb/jsjyjyfz/EN/file/pic, createTime=1793851127214, updateTime=1793851127214, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070925317681280, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300580294698, code=silenceFlag, value=0, createTime=1793851127223, updateTime=1793851127223, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070925271543930, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300580294698, code=staticResourcePath, value=https://castjournals.cast.org.cn/joweb/cast_kjdb_en_623/, createTime=1793851127212, updateTime=1793851127212, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070925292515453, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300580294698, code=themeColor, value=null, createTime=1793851127217, updateTime=1793851127217, creator=18614031015, updator=18614031015), WebsiteProps(id=1325070925300904062, tenantId=1146029695717560320, journalId=null, journalGroupId=null, siteId=1325070300580294698, code=themeStyle, value=null, createTime=1793851127219, updateTime=1793851127219, creator=18614031015, updator=18614031015)])], journalTitle=计算机研究与发展, weixinUrl=null, journalUrl=https://crad.ict.ac.cn/, iacademicId=null, status=1, seqNo=null, journalTitleEn=Journal of Computer Research and Development, journalPhotoCn=k2l8zgqwstuxxevFX2qxVA==, journalPhotoEn=r6k0Ry+RD+c/VXj5QarmDw==, journalFirstLetter=J, journalRecommend=null, journalNew=null, journalCollection=null, jcrJf=null, cjcrJf=null, jcrJfStr=null, cjcrJfStr=null, submissionFirstDecision=null, sciSubjectClassification=null, casSubjectClassification=null, citeScore=null, totalCitationFrequency=null, icpCode=null, psCode=null, advertisingLicenseCode=null, copyrightInformation=null, country=null, option=, provinceCode=null, provinceName=null, collectFlag=false, interPubPlatform=, interPubPlatformUrl=null), detailUrlCn=https://castjournals.cast.org.cn/joweb/jsjyjyfz/CN/10.7544/issn1000-1239.202440063, detailUrlEn=https://castjournals.cast.org.cn/joweb/jsjyjyfz/EN/10.7544/issn1000-1239.202440063, pdfUrlCn=https://castjournals.cast.org.cn/joweb/jsjyjyfz/CN/PDF/10.7544/issn1000-1239.202440063, pdfUrlEn=https://castjournals.cast.org.cn/joweb/jsjyjyfz/EN/PDF/10.7544/issn1000-1239.202440063, aliStartDate=0, aliEndDate=0, collectionFlag=false, citedCount=null, citedUrl=null, previewStatus=0, delFlag=0, hasFullText=1, orderTime=1714492800000, fullTextJson=null, articleText=null, reference=null)
收藏切换
2021至2023年人工智能领域研究热点分析述评与展望
魏子舒 , 韩越 , 刘思浩 , 张圣宇 , 吴飞 *
计算机研究与发展 | 人工智能 2024,61(5): 1261-1275
收起
收藏切换
计算机研究与发展 |人工智能 2024 , 61 (5) : 1261 -1275
2021至2023年人工智能领域研究热点分析述评与展望
全屏
[Author(id=1329461282417258597, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, orderNo=0, firstName=null, middleName=null, lastName=null, nameCn=null, orcid=null, stid=null, country=null, authorPic=null, dead=0, email=weizishu@zju.edu.cn, emailSecond=null, emailThird=null, correspondingAuthor=0, authorType=1, ext={EN=AuthorExt(id=1329461282488561767, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461282417258597, language=EN, stringName=Zishu Wei, firstName=Zishu, middleName=null, lastName=Wei, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013, bio={"content":"

born in 2002. Undergraduate. His main research interest includes large-small models’ synergy

"}, bioImg=null, bioContent=

born in 2002. Undergraduate. His main research interest includes large-small models’ synergy

, aboutCorrespAuthor=null), CN=AuthorExt(id=1329461282551476328, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461282417258597, language=CN, stringName=魏子舒, firstName=null, middleName=null, lastName=null, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=浙江大学计算机科学与技术学院 杭州 310013, bio={"img":"ITcL0bf1LWsv9vi2S0dj9Q==","content":"

2002年生. 本科生. 主要研究方向为大小模型协同

"}, bioImg=ITcL0bf1LWsv9vi2S0dj9Q==, bioContent=

2002年生. 本科生. 主要研究方向为大小模型协同

, aboutCorrespAuthor=null)}, companyList=[AuthorCompany(id=1329461282304012385, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, xref=null, ext=[AuthorCompanyExt(id=1329461282308206690, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=EN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013), AuthorCompanyExt(id=1329461282350149731, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=CN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=浙江大学计算机科学与技术学院 杭州 310013)])]), Author(id=1329461282618585194, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, orderNo=1, firstName=null, middleName=null, lastName=null, nameCn=null, orcid=null, stid=null, country=null, authorPic=null, dead=0, email=zjhanyue@zju.edu.cn, emailSecond=null, emailThird=null, correspondingAuthor=0, authorType=1, ext={EN=AuthorExt(id=1329461282740220012, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461282618585194, language=EN, stringName=Yue Han, firstName=Yue, middleName=null, lastName=Han, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013, bio={"content":"

born in 2004. Undergraduate. Her main research interest includes AI agent. ()

"}, bioImg=null, bioContent=

born in 2004. Undergraduate. Her main research interest includes AI agent. ()

, aboutCorrespAuthor=null), CN=AuthorExt(id=1329461282794745965, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461282618585194, language=CN, stringName=韩越, firstName=null, middleName=null, lastName=null, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=浙江大学计算机科学与技术学院 杭州 310013, bio={"img":"KORi+ECV3qnUliYcGab+wA==","content":"

2004年生. 本科生. 主要研究方向为人工智能代理

"}, bioImg=KORi+ECV3qnUliYcGab+wA==, bioContent=

2004年生. 本科生. 主要研究方向为人工智能代理

, aboutCorrespAuthor=null)}, companyList=[AuthorCompany(id=1329461282304012385, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, xref=null, ext=[AuthorCompanyExt(id=1329461282308206690, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=EN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013), AuthorCompanyExt(id=1329461282350149731, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=CN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=浙江大学计算机科学与技术学院 杭州 310013)])]), Author(id=1329461282853466223, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, orderNo=2, firstName=null, middleName=null, lastName=null, nameCn=null, orcid=null, stid=null, country=null, authorPic=null, dead=0, email=illyasviel123@qq.com, emailSecond=null, emailThird=null, correspondingAuthor=0, authorType=1, ext={EN=AuthorExt(id=1329461282928963697, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461282853466223, language=EN, stringName=Sihao Liu, firstName=Sihao, middleName=null, lastName=Liu, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013, bio={"content":"

born in 2001. Undergraduate. His main research interest includes graph network. ( )

"}, bioImg=null, bioContent=

born in 2001. Undergraduate. His main research interest includes graph network. ( )

, aboutCorrespAuthor=null), CN=AuthorExt(id=1329461283000266866, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461282853466223, language=CN, stringName=刘思浩, firstName=null, middleName=null, lastName=null, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=浙江大学计算机科学与技术学院 杭州 310013, bio={"img":"RQ0QXZZp2mal4aNPeSju0A==","content":"

2001年生. 本科生. 主要研究方向为图网络

"}, bioImg=RQ0QXZZp2mal4aNPeSju0A==, bioContent=

2001年生. 本科生. 主要研究方向为图网络

, aboutCorrespAuthor=null)}, companyList=[AuthorCompany(id=1329461282304012385, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, xref=null, ext=[AuthorCompanyExt(id=1329461282308206690, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=EN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013), AuthorCompanyExt(id=1329461282350149731, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=CN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=浙江大学计算机科学与技术学院 杭州 310013)])]), Author(id=1329461283058987124, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, orderNo=3, firstName=null, middleName=null, lastName=null, nameCn=null, orcid=null, stid=null, country=null, authorPic=null, dead=0, email=sy_zhang@zju.edu.cn, emailSecond=null, emailThird=null, correspondingAuthor=0, authorType=1, ext={EN=AuthorExt(id=1329461283147067510, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461283058987124, language=EN, stringName=Shengyu Zhang, firstName=Shengyu, middleName=null, lastName=Zhang, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013, bio={"content":"

born in 1997. PhD, assistant professor. Member of CCF. His main research interests include device-cloud and large-small models’ synergy computing, and multimedia computing and recommendation systems. ()

"}, bioImg=null, bioContent=

born in 1997. PhD, assistant professor. Member of CCF. His main research interests include device-cloud and large-small models’ synergy computing, and multimedia computing and recommendation systems. ()

, aboutCorrespAuthor=null), CN=AuthorExt(id=1329461283214176375, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461283058987124, language=CN, stringName=张圣宇, firstName=null, middleName=null, lastName=null, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=浙江大学计算机科学与技术学院 杭州 310013, bio={"img":"6G6R+dn0FPvWP9qV0AEWNA==","content":"

1997年生. 博士,研究员. CCF会员. 主要研究方向为端云大小模型协同计算、多媒体计算与推荐系统

"}, bioImg=6G6R+dn0FPvWP9qV0AEWNA==, bioContent=

1997年生. 博士,研究员. CCF会员. 主要研究方向为端云大小模型协同计算、多媒体计算与推荐系统

, aboutCorrespAuthor=null)}, companyList=[AuthorCompany(id=1329461282304012385, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, xref=null, ext=[AuthorCompanyExt(id=1329461282308206690, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=EN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013), AuthorCompanyExt(id=1329461282350149731, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=CN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=浙江大学计算机科学与技术学院 杭州 310013)])]), Author(id=1329461283306451065, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, orderNo=4, firstName=null, middleName=null, lastName=null, nameCn=null, orcid=null, stid=null, country=null, authorPic=null, dead=0, email=wufei@zju.edu.cn, emailSecond=null, emailThird=null, correspondingAuthor=1, authorType=1, ext={EN=AuthorExt(id=1329461283394531451, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461283306451065, language=EN, stringName=Fei Wu, firstName=Fei, middleName=null, lastName=Wu, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=*, address=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013, bio={"content":"

born in 1973. PhD, professor. Senior member of CCF. His main research interests include artificial intelligence, cross-media computing, and multimedia analysis and retrieval

"}, bioImg=null, bioContent=

born in 1973. PhD, professor. Senior member of CCF. His main research interests include artificial intelligence, cross-media computing, and multimedia analysis and retrieval

, aboutCorrespAuthor=null), CN=AuthorExt(id=1329461283474223228, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, authorId=1329461283306451065, language=CN, stringName=吴飞, firstName=null, middleName=null, lastName=null, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=*, address=浙江大学计算机科学与技术学院 杭州 310013, bio={"img":"WfDVXY3r+wWql8FmFHPTkQ==","content":"

1973年生. 博士,教授. CCF高级会员. 主要研究方向为人工智能、跨媒体计算、多媒体分析与检索

"}, bioImg=WfDVXY3r+wWql8FmFHPTkQ==, bioContent=

1973年生. 博士,教授. CCF高级会员. 主要研究方向为人工智能、跨媒体计算、多媒体分析与检索

, aboutCorrespAuthor=null)}, companyList=[AuthorCompany(id=1329461282304012385, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, xref=null, ext=[AuthorCompanyExt(id=1329461282308206690, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=EN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=College of Computer Science and Technology,Zhejiang University, Hangzhou 310013), AuthorCompanyExt(id=1329461282350149731, tenantId=1146029695717560320, journalId=1324759914146529478, articleId=1329461275056255050, companyId=1329461282304012385, language=CN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=浙江大学计算机科学与技术学院 杭州 310013)])])]
魏子舒 , 韩越 , 刘思浩 , 张圣宇 , 吴飞*
作者信息
  • 浙江大学计算机科学与技术学院 杭州 310013
通讯作者:
吴飞()
作者简介:

2002年生. 本科生. 主要研究方向为大小模型协同

2004年生. 本科生. 主要研究方向为人工智能代理

2001年生. 本科生. 主要研究方向为图网络

1997年生. 博士,研究员. CCF会员. 主要研究方向为端云大小模型协同计算、多媒体计算与推荐系统

1973年生. 博士,教授. CCF高级会员. 主要研究方向为人工智能、跨媒体计算、多媒体分析与检索

Lookahead Analysis and Discussion of Research Hotspots in Artificial Intelligence from 2021 to 2023
Zishu Wei , Yue Han , Sihao Liu , Shengyu Zhang , Fei Wu*
Affiliations
  • College of Computer Science and Technology,Zhejiang University, Hangzhou 310013
  • born in 2002. Undergraduate. His main research interest includes large-small models’ synergy

    born in 2004. Undergraduate. Her main research interest includes AI agent. ()

    born in 2001. Undergraduate. His main research interest includes graph network. ( )

    born in 1997. PhD, assistant professor. Member of CCF. His main research interests include device-cloud and large-small models’ synergy computing, and multimedia computing and recommendation systems. ()

    born in 1973. PhD, professor. Senior member of CCF. His main research interests include artificial intelligence, cross-media computing, and multimedia analysis and retrieval

出版时间: 2024-05-01 doi: 10.7544/issn1000-1239.202440063
文章导航
收藏切换

在当今数字化和智能化的时代背景下,人工智能(artificial intelligence,AI)已成为科技创新的重要引擎,总结探讨AI研究的最新趋势和未来发展方向具有重要的研究和现实意义. 为此,对 2021—2023年间在中国计算机学会(CCF)推荐的AI领域CCF-A类国际会议和期刊所发表论文的研究成果进行收集,并在此基础上采用文献计量学的方法论来通过关键词对研究热点进行分析,进行基于高频关键词分析研究热点、基于新增关键词分析研究趋势、基于引用量加权的关键词分析高影响力研究,可以梳理AI研究的主流方向、发现AI主要研究方向的相互联系和交叉融合的特点. 此外,对当前研究热点如大语言模型(large language model,LLM)、AI驱动的科学研究(AI for Science)和视觉生成相关论文的关联热点进行分析,可以挖掘技术路径和方法论的演变,展现技术创新背后的科学理论和应用前景,从而进一步揭示AI研究的最新趋势和发展前景.

人工智能  /  研究热点  /  关键词  /  统计分析  /  数据挖掘

In current era, marked by advancements and achievements made in digital and intelligent fields, artificial intelligence (AI) has emerged as a pivotal engine driving technological innovation, which indicates encapsulating and examining the latest trends and future trajectories in AI research makes sense on the development of future AI research. This can be implemented by collecting the research outcomes during recent three years from top-tier international conferences and journals in the field of AI that are recommended by the China Computer Federation (CCF-A category), introducing keyword-centric analyses based on a bibliometric methodologies, and analyzing research hotspots based on high-frequency keywords, discerning emerging trends through newly-added keywords, identifying high-impact studies using citation-weighted keyword analysis. The result of these analyses, which contains significant information about trends in AI research, can enable the principal directions of AI research to be delineated and the interconnections and integrative fusion within mainstream AI research directions to be unveiled. Moreover, an in-depth exploration of the current hot topics, such as large language models (LLMs), AI-driven scientific research (AI for Science) and visual generation technologies, would help us reveal the underlying scientific theories and application prospects behind these technological innovations, thereby the latest trends and future trajectories in AI field get demonstrated more adequately and concretely.

artificial intelligence  /  research hotspots  /  keyword  /  statistical analysis  /  data mining
魏子舒, 韩越, 刘思浩, 张圣宇, 吴飞. 2021至2023年人工智能领域研究热点分析述评与展望. 计算机研究与发展, 2024 , 61 (5) : 1261 -1275 . DOI: 10.7544/issn1000-1239.202440063
Zishu Wei, Yue Han, Sihao Liu, Shengyu Zhang, Fei Wu. Lookahead Analysis and Discussion of Research Hotspots in Artificial Intelligence from 2021 to 2023[J]. Journal of Computer Research and Development, 2024 , 61 (5) : 1261 -1275 . DOI: 10.7544/issn1000-1239.202440063
人工智能(artificial intelligence,AI)具有增强任何领域技术的潜力,是类似于内燃机或电力的一种通用目的使能技术,被广泛应用于其他众多领域. 2017年7月,国务院印发《新一代AI发展规划》,这是本世纪以来中国发布的第一个AI系统性战略规划,这一规划提出了面向2030年我国新一代AI发展的指导思想、战略目标、重点任务和保障措施,推动了AI发展.
由于AI技术研发和落地应用的复杂性,亟须对世界范围AI前沿研究近年来的发展状况和研究特性进行总结梳理. 因此,本文采用定性分析与定量研究相结合的研究方法,对2021—2023年间,中国计算机学会推荐的CCF-A中AI国际会议和期刊论文研究成果进行深入分析. 本文从多维度解读AI的最新趋势,涵盖基于高频关键词分析研究热点、基于新增关键词分析研究趋势、基于引用量加权的关键词分析高影响力研究等,以期为学术界和产业界揭示AI最新发展,为政策制定和行业应用提供参考和依据.
具体而言,本文收集了2021—2023年的AAAI,ACL,ACM Multimedia,CVPR,ICCV,ICML,ICLR,IJCAI,NeurIPS等CCF-A类国际学术会议的论文集中的论文以及2021—2023年的AI,IJCV,JMLR,TIP,TPAMI,TVCG等CCF-A类国际学术期刊发表的论文,一共36748篇,其中会议论文30101篇、期刊论文6647篇,在2021年、2022年、2023年发表的论文分别为12482篇、12761篇、11505篇.
学术论文中的关键词是对论文研究主题和方法的高度概括,也是对所解决问题和使用手段的精准总结. 因此,本文研究以关键词为热点分析原子,构建多重分析维度以解释研究者们的主要关注点,进而提炼AI领域的核心研究热点. 本文从3个方面进行关键词分析:1)统计每年的高频关键词揭示年度研究焦点;2)新增关键词的分析有助于识别当年学术探索的新趋势;3)鉴于单个关键词难以全面反映研究内容,本文综合分析了每年的关键词对以分析主流方向的相互联系和交叉融合.
在高频关键词的统计分析中,考虑到不同论文的影响力存在差异,本文引入了论文引用量指标,通过结合引用量加权的方法,进一步深化了对高频关键词的分析和理解. 综合考虑年度高频关键词分析、引用量加权的关键词分析以及新增关键词和关键词对的分析提升了AI领域的研究动态和未来趋势分析的系统性.
本文研究进一步深入探讨了当前研究的核心热点,大语言模型(large language model,LLM)、AI驱动的科学研究(AI for Science)以及视觉生成的相关技术,并按时间进行统计分析,揭示其关键技术发展路径和方法论的演变,为理解技术创新背后的科学原理和把握未来应用前景提供了新的视角.
结合3年数据分析,由图1和图2可以发现,迁移学习(transfer learning)、认知计算(cognitive computing)这2个关键词在高频关键词和引用量加权高频关键词统计结果中均排名靠前.
迁移学习利用数据和任务的相似性,将旧领域的问题迁移到新领域,解决目标域数据集稀疏问题,极大减少模型训练,尤其是大语言模型训练所需的计算资源和时间. 大语言模型借助强大的参数量和计算能力,能够学习到更为复杂的模式和规律,迁移学习可以显著地提升这一过程的效率,因此成为研究热点. 通过迁移学习,研究人员可以将一个领域学习到的知识应用迁移到其他相关的科研领域,这使得迁移学习广泛地应用于医学[1]、生物学[2]等研究样本较难获取的领域. 大语言模型强大的泛化能力和表达能力、在通用任务上的优越表现以及在零样本环境下表现出的出色的学习能力,使得面向特定领域应用的大语言模型迁移学习研究成为热门,催生出微调(fine-tuning)工程[3]、提示(prompt)工程[4]等一系列在少量数据集的基础上对大语言模型进行微调来适应目标领域特定数据、完成目标领域特定任务的方法,使大语言模型强大的能力逐渐渗透到各个领域.
认知计算主要是通过模拟人类认知过程的计算方法来使计算机系统具备感知和理解能力[5],从而对包含文字、图像、音频等多种模态的数据联合进行处理,实现更为复杂、多样化的任务. 通过对认知计算的研究,可以使人类和AI更好地理解和解释复杂的科学现象,如实现气候变化等物理现象的模拟和分析[6]等;对认知计算进行研究,也可以帮助大语言模型从自然语言处理(natural language processing, NLP)领域向多模态领域拓展,从而进一步提升大语言模型的知识量,在一定程度上解决大语言模型在特定领域的应用中无法提供高度精确的解决方案的问题,为大语言模型的发展提供新的思路、带来新的机遇.
AI在科研领域的广泛应用,同时带动了知识表示(knowledge representation)、特征提取(feature extraction)等成为研究热门. 知识表示旨在以计算机可理解的方式存储和处理信息,主要是将科学数据和现象转化为计算机可理解的形式,从而使AI系统能够解决复杂问题的技术[7]. 对知识表示进行研究,可以促进大语言模型和知识库、知识图谱的深度融合,为大语言模型在特定领域应用中难以提供高度精确的解决方法这一问题提供新的解决思路. 特征提取是指从大量高维度原始科学数据中提取有用信息的过程,这一过程可以帮助预测模型理解数据的内在规律和模式,从而解决科学研究中如化学反应预测[8]、基因表达分析[9]等难以解决的关键问题.AI系统在这些问题上的成功应用,展现出了知识表示和特征提取等技术的进步在推动传统科学领域发展上的巨大潜力.
分析统计数据还可以发现,多种经典计算机视觉任务焕发新春,出现在近3年的热点关键词中. 在2021年研究论文中高频关键词排名中图像分割(image segmentation)和图像识别(image recognition)分别占据第5名和第10名的重要地位,YOLOv7[10]、扩散模型[11]等技术革新为研究者提供新的思路和方向,因此具有更高的论文质量和学术影响力;在2022年的研究高频关键词排名中图像处理(image processing)和目标检测(object detection)分别占据第1名和第6名的重要地位,这一趋势与物联网的高速发展密切相关. 以智能汽车为例,各类L2级别的自动驾驶车辆开始走出封闭空间的测试场,走向真实世界的复杂道路环境,接受更为严峻的挑战. 自动驾驶的普及和应用需要依靠高精度的图像分割和图像识别技术. 在真实世界的复杂道路环境中,自动驾驶车辆需要能够快速准确地识别和分割出道路、车辆、行人、交通标志等对象,以便做出正确的驾驶决策. 同时,语音识别(speech recognition)和智能汽车的结合,可以为车载系统带来革命性的变革,用户可以更加方便地与智能系统进行交互,实现更加智能化的工作和生活方式.
大数据(big data)由于在金融等领域广泛应用的商业价值以及云计算、分布式存储、数据挖掘等技术的突破,仍然保持着高频关键词的地位. 同时,大数据技术实现的对海量数据的快速处理与分析,可以优化大规模数据集的处理性能;而大语言模型的训练和调优都依赖于大规模数据集,因此大数据技术能够为大语言模型的训练提供稳定、高效的数据支撑. 值得一提的是,大数据虽然仍然作为高频关键词,但是在高引用论文中出现次数却相对较少.[12]主要是由于云计算和大数据技术体系趋于成熟,从研究突破阶段逐步转为大面积落地应用阶段.
元宇宙概念热潮的兴起引发了AIGC在2022年的高光时刻. 一方面,如Stable Diffusion,DALL-E 2等扩散模型和生成对抗网络等模型在生成高质量虚拟内容等方面的应用成为这个阶段生成模型(generative model)的主要研究进展. 另一方面,元宇宙概念热潮的兴起带动了新兴社交媒体的高速发展,使人们可以在虚拟现实世界中进行包含娱乐、工作、学习等不同的社交活动. 信息世界产生的海量的以数字形式记录的社交、评论、观点等非结构化数据,使人类情感以数字化形式被记录,[13]这为情感系统(sentiment system)提供了全面的数据来源. 情感系统是指基于自然文本分析用户情感信息的系统,随着元宇宙概念的兴起逐步成为自然语言处理领域最活跃的研究领域之一. 同时,语音识别、目标检测等相关技术的研究,提供了连接虚拟世界和现实世界的桥梁,极大提高了用户与元宇宙虚拟场景交互的沉浸感和真实感.
由于新冠病毒(COVID-19)的爆发,AI被逐渐推广到新冠病毒的预防和治疗工作中,具有高度可解释性和可集成性的机器学习模型在新冠疫情期间发挥不可或缺的重要作用. 贝叶斯网络(Bayesian network)是一种基于变量间概率依赖关系进行变量推断和预测的系统,可以辅助进行复杂系统中的决策,在疫情中被用于新冠病毒检测与医学诊断[14]等场景中. 决策树(decision tree)作为可解释智能的重要研究领域,可以更好地确保决策的公平性,在疫情中被用于基于新冠病毒临床数据的死亡风险预测[15]等场景中. 此外,由于新冠病毒对于公众情绪和社会心理带来的影响,情感系统在新冠病毒舆情研究[16]中被管理学和社会学等多个领域应用,基于社交媒体、公共态度、疫情信息等的公众心理健康研究逐渐成为情感系统的研究重点之一.
对高频关键词的分析揭示了当前的计算机研究的热点话题和趋势,基于这一趋势我们可以更好地把握未来的发展方向和机遇. 对高引用论文关键词进行分析则可以揭示当前计算机研究的重要影响力方向和论文价值,从而帮助研究人员了解研究重心和关注点. 2021—2023年期间迁移学习、认知计算在高频关键词和高引用论文高频关键词中频数明显增强,说明AI研究方向正在朝向智能化和自适应算法进行开发. 知识表示和情感系统等关键词的增长,也说明了计算机系统逐渐重视提供更加人性化和自然化的交互体验,更注重融合知识和情感信息来理解用户意图和需求. 同时,计算机视觉任务仍然是计算机领域最重要的研究方向之一. 从2021年的图像识别、目标检测到2023年图像处理、图像分割,计算机视觉在高频关键词和高引用论文高频关键词均有相应的高频领域,这得益于计算机视觉在自动驾驶、医学影像等众多领域广泛的应用场景. 但是相比于2022年,2023年的研究更加注重与自然语言处理方向的开发,如2022年最为热门的图像处理在2023年下降到了第6位,而2023年情感系统、文本分类等自然语言处理领域的研究分支的频数则较前一年大幅度上涨. 另外,对比2022年和2023年的数据可以发现,传统的模型驱动的方法,如决策树、贝叶斯网络等的频数有所下降,而数据驱动的方法,如迁移学习、生成模型等的频数逐渐增加. 同时知识表示、情感分析等关键词的增加,表明计算机领域正与其他学科,如心理学、语言学等进行更紧密的交叉融合. 这种趋势不仅有助于解决不同学科领域复杂的问题,也为跨学科的合作和交流提供了更多的机会.
分析近3年数据统计结果可以发现,计算机研究领域出现了许多新的热点和趋势. 首先,随着大数据时代的到来,数据规模呈现爆炸式增长. 为了从这些海量数据中提取有价值的信息,数据处理和数据分析成为计算机领域研究和应用的重要方向,大数据、知识表示等相关关键词成为高频关键词重要的组成部分. 其次,人们对人机交互体验的需求升级,使得计算机应用逐步向着智能化、自然化的目标发展,认知计算、情感分析等研究领域成为向着高度智能化方向发展的关键驱动力. 再者,元宇宙、物联网等概念的兴起,带动了应用驱动AI的发展,使得AI被广泛应用于智能驾驶、AR/VR等场景,为语音识别、目标检测等传统研究分支带来更广阔的应用场景. 然后,大语言模型、扩散模型等新兴技术的崛起,在AI领域引发了前所未有的变革,多模态和交叉化成为AI研究前沿的重要趋势. 最后,传统机器学习研究如决策树、贝叶斯网络等技术由于其高度可集成性和稳定性,在金融、医疗等领域都得到广泛的应用,成为AI研究领域的热点.
表1是比较2021年、2022年这2年关键词数据后得出的2022年前10位新增关键词数据,表2是比较2022年、2023年这2年关键词数据后得出的2023年前10位新增关键词数据.
分析表1~2中的数据可见,生成模型、文本分类(text classification)、语音识别是这2年的新增关键词中最靠前的3个. 其中,生成模型这个关键词代表AI在各个方面的研究探索的逐渐深入,而文本分类和语音识别2个关键词则反映AI领域的研究探索方向逐渐由计算机视觉方向转向自然语言处理方向. 生成模型旨在学习数据分布并生成新的数据样本. 2022年,生成对抗网络(generative adversarial network, GAN)、扩散模型、CLIP等技术的累计融合,催生了 Imagen和DALL-E 2等生成模型应用落地,带动了数字人、元宇宙产业高速发展,生成模型进入了全新的时代. 其中,GAN是一个重要的新兴分支,在2022年的新增关键词中排名第4. GAN通过训练生成器和判别器2个神经网络模型来达到任务要求,其中生成器试图生成看起来像真实样本的数据,而判别器则试图区分真实数据和生成器生成的数据. 这2个网络相互对抗,生成器不断改进以欺骗判别器,而判别器不断改进以更好地区分真实数据和生成的数据. 最终,生成器能够生成逼真的数据,而判别器能够准确地区分真实数据和生成的数据. 这样的训练方式使得GAN可以生成细节充足而十分逼真的数据.GAN作为生成模型的代表,推动了图像生成、风格迁移等领域的研究,对GAN的改进和应用进一步促进了生成模型领域的创新. 文本分类是指将文本分配到预定义的类别中的任务[17]. 随着数字文档的数据量指数级增长,如何使从海量数据中提取文本数据具备表现力特征成为自然语言处理处理领域新的挑战,对于文本分类这一自然语言处理领域基础任务的深入研究可以更好地解决这一问题,进而推动对自然语言处理领域其他任务的研究. 语音识别是指通过识别和理解语音信号,将语音转换为相应的命令的过程. 语音识别能够有效提高人机交互水平,为物联网的发展提供助力. 这2个新增关键词都代表自然语言处理领域的任务,且位列2023年新增关键词的前3名,体现着研究热点向自然语言处理方向发展的趋势.
同时,还有一系列2022年高频新增关键词如优化算法(optimization algorithm)、随机梯度下降(stochastic gradient descent, SGD)、正则化(regularization)、凸优化(convex optimization)、数据降维(data dimensionality reduction)、模型选择(model selection)等. 这些新增关键词反映了提升AI模型性能的研究趋势. 其中,优化算法旨在高效地优化模型以提升性能,包括对传统优化算法的改进,以及针对启发式算法和深度学习等复杂模型的新型优化策略的研究. SGD是深度学习中常用的优化算法,对于SGD的优化可以提高训练效率和模型性能. 正则化则是防止模型过拟合的重要手段,有助于提高模型的泛化能力和稳定性,在深度学习中得到广泛应用[18]. 凸优化是指在给定约束条件下求凸函数最小值的问题. 针对凸优化进行深入研究,可以提高训练效率. 模型选择是指在机器学习中,从多个候选模型中选择最佳模型的过程,在数据量增大、AI模型的应用场景增多而导致数据集的分布更加多样的前提下,针对未探明的数据集进行模型选择就成为更加重要的热点. 数据降维是指通过保留数据关键特征的方式,将高维数据映射到低维空间的过程. 这个过程可以在保留数据的关键信息的同时减少数据的复杂性和噪音的影响. 数据降维可以用于可视化、数据压缩和特征提取等任务,从而降低数据的处理难度. 这些热点趋势关键词,反映了学术界和工业界在模型训练、生成能力、优化效率等方面的探索,在大语言模型兴起、训练数据量骤然增大的背景下,对这些问题的研究为AI技术的不断进步提供了有力支持.
此外,语义分析(semantic analysis)、聊天机器人(chatbots)、计算语言学(computational linguistics)、对话系统(dialogue system)等2023年的热点趋势关键词,体现了ChatGPT的发布对AI领域的研究的影响.ChatGPT的兴起为构建全新通用化对话系统带来全新机遇,使得聊天机器人的性能不再局限于机械、生硬的对话. 在ChatGPT的影响下,对话系统产生的对话变得更加流畅、自然,聊天机器人的用户体验也大幅度提升[19];另一方面,得益于日益优秀的上下文和多轮对话理解能力,聊天机器人和对话系统的应用逐渐扩展到如医学、教育等专业领域,并被用于解决这些专业领域的问题. 计算语言学和语义分析就是旨在开发计算机程序和算法,以便处理、分析和理解人类语言的研究分支. 语义分析关注文本、语音等信息的语义理解,对于提高机器对信息的深层次理解至关重要. 计算语言学和语义分析的发展可以加速自然语言处理领域的创新,推动智能对话、信息抽取等技术的进步. 这些热点趋势关键词,反映了在ChatGPT影响下自然语言处理领域的新的研究趋势.
最后是认知架构(cognitive architecture)、信息检索(information retrieval)、通用AI(artificial general intelligence, AGI)、可解释性(explainability)等4个余下的关键词. 认知架构研究AI系统如何模拟人类认知过程,为实现具有自主学习能力的AI系统打开新的可能性[20]. 一方面,认知架构通过结合神经科学和AI的研究成果,被广泛用于自适应优化网络防御、识别欺诈性信号等场景中;另一方面,由于认知架构贴近真实人类思维架构,被广泛应用于教育、医疗等依赖高度情感智能的领域[21]. 认知架构这一高频新增关键词体现了认知计算领域的快速发展. 信息检索是指从大规模数据集中检索出与用户信息需求相关的信息的过程,对信息检索的研究进一步推动了搜索引擎、推荐系统等领域的发展,为用户提供更精准的信息服务;同时,如何从多模态、不同领域的知识中检测需求的知识也是2023年信息检索领域的研究重点. 可解释性指的是模型的决策过程和预测结果能够被理解和解释的能力. 一方面,在医疗和金融之类的涉及到决策的关键领域中,可解释性是确保模型可信度和可接受性的关键因素[22];另一方面,面对日益增大的数据量和愈发繁杂的数据集分布,提升模型的可解释性也对提升模型应对不同数据分布时的性能有很大的帮助. AGI是指完全具备等同人类的智能能力的AI,是AI领域的终极目标. 这些关键词,反映了大语言模型兴起之后,人们对AI领域进一步发展的真实需求,也是目前AI领域发展的深层次趋势.
结合2022年和2023年的全部热点趋势关键词可以看出,ChatGPT的发布对AI领域的研究热点趋势产生了深刻的影响.2022年的热点趋势关键词主要聚焦于生成模型方面以及模型训练性能优化方面. 由于数据量的增大、数据处理难度的升高,在这些方面进行研究,可以使得AI模型更加充分地利用计算资源和数据资源,得到更好的性能.ChatGPT发布后,2023年的热点趋势关键词主要聚焦于自然语言处理方面,利用大语言模型进行自然语言处理,使得自然语言处理领域的研究更加易于展开;同时,可解释性、AGI等热点趋势关键词也反映了在大语言模型兴起的条件下,AI领域进一步的发展方向,这些方向可能会成为未来AI领域发展的深层次趋势,对整个AI领域产生长远的影响.
单个关键词虽然可以直观反映AI领域的研究热点和发展新趋势,但是有时难以全面反映研究内容. 部分关键词包含的内容非常广泛,也因此难以明确研究的焦点所在. 而针对关键词对的研究则可以弥补部分研究分析的空缺. 对2021—2023这3年的热点关键词对的梳理和整合,能够从关键词对中发现热点的关联,以及部分热点之间内在的联系和衔接,更全面地分析不同领域之间的当下发展境况和未来发展方向.
基于3年的热点关键词对的数据,如表3~5所示,整体而言,较多热点关键词对由热点关键词的两两组合构成,对于不同领域的技术的融合以完成综合性的应用的趋势逐渐明显. 在2021年,AI技术进入了快速发展阶段,在大语言模型人机交互和训练数据集方面有深入研究. 自然语言处理(NLP)、计算机视觉(computer vitsion,CV)和数据挖掘较多地出现在热点关键词对中,体现出这些技术在具体应用中的深度融合. 2022年,强化学习(reinforce learning)的热度上升. 随着新的强化学习算法被提出并广泛应用、强化学习预训练模型研究技术发展,新型计算智能体接连被提出,强化学习和自然语言处理、计算机视觉等经典领域的结合成为该时间段的热点趋势. 2022年底,ChatGPT聊天机器人的横空出世让AI在数字世界中得到了更多的关注. 相比于2021年,2022年热点关键词的总体频数大幅度上升,热点研究聚焦于通过综合应用多方面的AI知识,构建具备较完备功能的智能体. 2023年,热点关键词对综合并延续了2021—2022年的情况,同时诸多大语言模型涌现, AGI和生成式AI(artificial intelligence generated content,AIGC)等相关方面的应用需求大幅度增长,AI领域大踏步向前发展. 机器人技术(robotics)应用方面和其他领域的融合日益紧密.
2021年占比最大的关键词对是自然语言处理、计算机视觉和数据挖掘的组合. 这3个关键词均在较多的热点关键词对中,它们虽然是独立的技术领域,各自有不同的研究方法和应用场景,但是都依赖于大规模数据的处理进行研究. 随着AI领域和信息数据处理的发展,如何处理和应用海量数据以得到知识成为AI领域研究的重点问题之一. 将自然语言处理领域的核心算法应用到数据处理中,有助于更好地理解和发现隐藏的规律、关系和模式等. 数据挖掘的分类、回归、特征分析、聚类分析、异常检测等重要环节和计算机视觉中的相应任务之间有紧密的联系,在算法、评估准则等方面有一定的互鉴意义. 同时,自然语言处理能够给予计算机视觉的图片数据建立结构化和语义化的结构;将自然语言处理中的知识库和图像数据结合,可以得到兼顾图像特征和文本特征的系统. 简言之,这3个领域无论是算法还是应用方面都有着较好的交叉前景.
2022年,OpenAI推出了大型自然语言处理模型——ChatGPT,引发广泛讨论和热议. 自然语言处理相关研究领域延续其热点态势,对于其理论研究和应用探索也层出不穷. 自然语言处理和迁移学习、数据挖掘等方向的结合也形成热点.
除此之外,其他的高频关键词对主要体现在强化学习、知识表示和认知计算在自然语言处理、计算机视觉、机器人技术这3个领域的应用. 强化学习是以与交互对象的互动以及奖惩机制为依据对模型的决策进行优化的训练方式. 在计算机视觉领域,使用强化学习能够很好地解决目标定位与追踪、视频分析等任务;在自然语言处理领域,强化学习可以较好地应用于对话系统、文本摘要提取等易于得到反馈的场景. 近年来,强化学习的研究更为深入,将特定问题的细节精细化,往往能提高模型的准确度,在应用领域也有诸多构想提出和实践实现. 因此,强化学习与自然语言处理的结合成为2022年热点关键词对的第1位. 随着强化学习的越发进步和成熟以及数据处理和计算能力的提升,强化学习的应用领域正变得越来越广泛,多智能体、自动化交易、聊天机器人等基于强化学习的应用也逐渐涌现. 另外,强化学习和迁移学习的结合也成为主要研究方向之一. 对于知识迁移和模型泛化能力的研究越发深入,将强化学习和迁移学习方法引入AI系统,可以提升模型的理解和决策能力.
在2023年,机器人技术和其他领域的交叉结合成为热点. 随着深度学习等技术的进步,机器人越来越多地整合了AI和机器学习技术,能够越来越好地感知环境、学习和适应不同任务,在处理复杂任务上的表现也越来越优秀. [23]其中,自然语言处理与机器人技术这一关键词对占据首位,表明研究具有较完备人机交互功能的智能机器人成为热点之一. 自然语言处理作为热门的机器学习技术,能够帮助机器人处理和理解人类语言,并通过自然语言的方式与人类交流. 自然语言处理在机器人中的应用能够使其更好地理解人类需求. 在计算机视觉方面,计算机视觉的应用能够提升机器人的感知技术,使得机器人更精确地感知和理解周围环境,从而具备更好的性能. 总体上来说,在AI技术的帮助下,机器人能够适应不同情境,并基于感知到的信息做出智能决策,更好地与人类协同工作.
整体上看,相较于2021年关键词对中呈现出专业领域的组合和学科交叉的趋势,在2022年统计的热点关键词对的频数和比率大幅度上升,关键词之间相互的关联性逐渐受到重视,融合性研究趋势更为明显. 相比之下,2021年AI在各个专业领域的应用成为热点,而2022年AI技术用于解决实际问题的研究则更受关注,这是由于AI领域逐渐拓宽,跨学科交叉融合研究成为热点并推动AI技术在多领域的发展应用.2023年,机器人技术和其他技术的结合更深入,机器拥有“智能”的诸多成功应用引发了相关方面的热潮.
另一方面,在大数据时代的背景下,对于数据挖掘的研究也有所增加. 数据挖掘是指在相对较大型的数据集中发现模式的过程. 虽然在2021年,自然语言处理和计算机视觉与数据挖掘的结合有明显的热点趋势,但是2022年,相关研究整体更为关注新兴的算法和应用. 而2023年,大型训练数据集依次推出,数据挖掘作为大数据时代AI领域非常重要的一部分,重新得到更多重视. 数据挖掘可以捕捉大量数据中的关键信息,自然语言处理、计算机视觉方面的算法能给它带来很大的启发. 同时,数据挖掘中的新发现也能够为自然语言处理和计算机视觉的预测建模、关联分析等步骤打下坚实的基础.
在分析每年热点基础上,本文还针对近期广受各界关注的话题进行AI领域研究热点的分析. 针对这些热点话题进行分析时,首先通过论文的标题和摘要将本文的数据集中和这些热点话题相关的论文筛选出来,随后统计出这些论文的高频关键词,并依据这些关键词进行热点分析.
本文选择了大语言模型、AI for Science以及视觉生成3个主要的话题进行分析.
大语言模型通常指的是参数规模较大的机器学习模型,这些模型在训练时通常包含数亿乃至数百亿个参数,需要庞大的计算资源和数据集来进行有效的训练.
从图3所示的3年数据来看,知识表示、数据增强(data augmentation)、认知计算、信息检索在大语言模型相关研究中一直占据重要地位. 大语言模型通过学习大量数据统计规律生成高质量自然语言文本,但是如何将生成高质量文本和精确领域专业知识结合来回答用户需求往往是大语言模型迫切需要解决的问题. 知识表示通过结构化表示描述现实世界知识,目标是构建全面一致的知识库,帮助大语言模型理解和推理自然文本问题. 因此,借助知识表示形成大规模结构化知识库、构建知识图谱与大语言模型之间的结合被广泛研究. 同时,由于大语言模型包含数以万计的模型参数,如何在数亿规模的信息流中实现高效的信息检索成为大语言模型研究热门领域. 此外,由于多模态研究领域爆火,处理图像、视频等复杂数据也逐渐成为信息检索关注的重点领域. 另一方面,如何构建高质量数据集来组建知识库也是大语言模型研究领域的重点之一,借助数据增强可以在数据稀疏的专家领域有效构建特定下游任务数据集合,数据增强对增强模型泛化能力和鲁棒性起到至关重要的作用. 随着大语言模型不断发展,大语言模型任务不仅局限于自然语言任务,结合多模态知识也是大语言模型通向通用AI领域的必经之路,认知计算通过将认知科学和传统音频、文字、图像等多模态信息处理机制相结合,持续整合知识丰富的数据,使得大语言模型具有解决几乎所有现实领域问题的能力[24].
2021年,随着T5,GPT-3等大语言模型问世,国内外大语言模型进入高速发展时期. 这一阶段大语言模型相关研究主要集中于大语言模型知识表示和学习机理研究,如何增强大语言模型知识表示能力以及获取高质量大规模文本学习数据集成为这个阶段的研究重点. 2022年,随着提示学习(prompt-based learning)被提出,微调逐步成为研究热门. 同时,随着Stable Diffusion,DALL-E 2等多种基于自然语言创建图像和艺术形式的大语言模型推出,AIGC时代被开启,生成式AI快速发展,各种算法、预训练模型层出不穷. 2022年末,随着OpenAI发布的ChatGPT展现出惊人的与人类对话的能力,大语言模型相关论文出现显著增加.2023年,大语言模型相关研究呈现爆发式增长. 同时,通用AI相关研究成为热门. 由于实际应用场景的需求在大语言模型优化(optimization)和语义分析上的研究非常广泛,这是近3年大语言模型发展的主要趋势.
2021年,大语言模型开始进入快速发展阶段,尤其是在增强大语言模型自身表达能力和大语言模型训练数据集方面的研究较为深入,因此数据增强等数据集相关研究占据重要地位. 目的识别(intent recognition)根据用户输入的自然语言文本理解客户特定需求,大语言模型通过在大规模文本上进行预训练,为目的识别任务的解决提供全新思路,因此,本时期大语言模型研究在自然语言处理领域具有显著影响力. 同时,词嵌入(word embedding)通过数字向量建模语言特征,使得具有相似含义的单词具有相似的特征向量表示,词嵌入相关的研究提升了大语言模型处理自然语言的性能和效率,大语言模型相关研究中词嵌入也成为热点词.
2022年,为使下游任务的目标与预训练目标对齐,提示学习方向的研究成为热门,微调也成为研究热点. 提示将给定句子转化为部分缺失的模板句,通过模型补全缺失部分内容来完成预测任务,实质上是将自然语言处理任务统一为预训练语言模型所擅长的掩码语言模型(masked language model, MLM) 任务. 微调主要研究在大量原始文本上进行预训练得到大语言模型后,通过定义提示、执行少样本学习(few-shot learning)范式,解决大语言模型转向稀疏数据的下游任务时所面临的挑战,并大大缩短训练时间. 同时,随着Stable Diffusion,DALL-E 2等大语言模型问世,AI生成的创意性、艺术性内容开始深受大众欢迎. 注意力机制(attention mechanism)允许神经网络在处理输入数据时集中注意力于相关部分,自动地学习选择性关注输入信息中的重要部分[25]. 得益于注意力机制在基础模型联合训练的优秀表现,它在2022上半年成为研究热点,在高引用论文中出现大量计算机视觉中的注意力机制相关的研究.
随着2022年末OpenAI发布ChatGPT,2023年大语言模型领域研究迎来高潮,成为整个AI领域的热点. 一方面与大语言模型基础密切相关知识表示、数据增强、信息检索等研究的热度飞速增长,另一方面AGI相关研究随着大语言模型性能的提高逐渐成为2023上半年的热门研究. AGI的目标是完全人类智能行为,它是能够执行人类智能活动的计算机系统,具备自主感知和认知、学习、决策、执行等能力. 大语言模型发展逐渐拉开了AGI发展的序幕. 此外,语义分析在2023年下半年发展也十分迅速,语义分析目的是对文本的意义和语境进行深入的分析. 涉及到对短语、词汇、句子和结构进行更高层次的理解,以捕捉其中所包含的意义和信息. 随着LLaMA等开源大语言模型[26]的发布,模型具备了从公开数据集和模型架构进行预训练从而获取通用语义分析数据的能力;同时,LLaMA的发布也推动了全球研究者基于开源大语言模型对多任务语义分析应用以及对不同类型的下游任务进一步创新和优化. 因此优化和语义分析成为2023上半年和下半年的关键词.
AI for Science是指采用AI技术,解决复杂推演计算问题、加快基础科学和应用科学的发现和验证的研究.AlphaFold[27]在预测蛋白质结构任务的优秀表现揭示了AI在科研领域的无限潜力.
如图4所示,结合2021—2023年数据来看,数据挖掘、自然语言处理、模式识别(pattern recognition)、认知计算是这3年AI for Science相关研究的常驻热门关键词. 这段时间,随着大数据爆炸式增长,数据挖掘和模式识别在处理和分析大量数据方面发挥着关键作用,数据挖掘负责从大量数据中提取有价值的信息和知识,模式识别则是学习隐藏在这些大规模数据中的模式和特征,从而结合数据挖掘技术实现更明智的决策辅助. 在生物医学领域,数据挖掘被广泛应用于发现疾病特征和规律,模式识别可以辅助发现新的药物靶点和治疗策略,为药物研发提供全新思路[28]. 自然语言处理旨在研究如何让计算机理解自然语言,包含词法分析、句法分析、语义理解、信息抽取等多领域研究和应用. 自然语言处理在科研领域具有广泛的应用前景和市场潜力. 一方面,自然语言处理能够自动化识别科学文献关键词和核心内容,提高文献检索准确性和效率;另一方面,自然语言处理能够高效地将非结构化的实验信息转化为结构化数据,方便后续的数据处理和分析. 认知计算是指通过模拟人脑认知过程进行感知和推理,帮助决策者从大规模非结构化数据中发现知识,实现不确定性推理的过程. 相比于传统计算方式,认知计算能够实现自我优化和深度学习,从而有效解决各类难题. 下面本文将依据时间分析其他高频关键词信息以及变化趋势.
整体来看,2021年以前,数据挖掘、自然语言处理、模式识别和认知计算等方向成为AI for Science的热点. 到2021年,随着AI技术的快速发展,构建高质量科学知识库成为热点话题,知识表示相关领域为之提供了巨大帮助.2022年,迁移学习的热度上升,它允许在不同领域任务间共享预训练的数据源,在生物医学、工业故障检测等领域表现出色.2022年下半年至2023年,ChatGPT模型的发布使得自然语言处理的相关研究得到了爆炸式的增长,通用预训练语言模型的发展不仅提高了AI在不确定性领域的推理能力,还促进了大语言模型与专业科学知识结合的研究. “AI+X”的模式兴起. 在相关算法和处理模式发展的基础上,随着专业知识库的构建日臻完善,AI技术在各专业领域的研究诊断、侦测探查等方面也越发深入.
根据2021年统计数据来看,知识表示占据重要地位,知识表示主要是指将人类知识以计算机能够理解的形式进行存储和表示. 在AI for Science领域如何将具体领域的科学规律和专业知识转换为高质量的知识库是知识表示的核心内容之一.
根据2022年的统计数据来看,迁移学习热度逐渐升高. 迁移学习允许将预训练丰富的数据源领域任务应用到目标领域任务,从而减少对所需大量目标域的数据依赖,节省模型训练时间和成本. 在AI for Science领域,迁移学习能够有效利用生物医学等领域的相似研究之间的共通性质,弥补在特定研究的实验数据缺失问题,帮助快速适应新兴的科学难题,在工业故障检测[29]、医学诊断[30]领域均有不错的表现.
2022年下半年OpenAI发布的ChatGPT展现出惊人的与人类对话能力,拉开通向AGI的序幕,从2022年下半年到2023年下半年自然语言处理相关领域研究得到爆发式增长. 通用预训练语言模型的发展为提高AI for Science在不确定性领域的推理能力带来有效的解决方案,从而引导大语言模型与专业科学结合飞速发展,利用大语言模型在大规模与语料库学习到的通用能力,结合生物医学、材料物理等多方面科学领域知识库构建专用领域大语言模型逐渐成为自然语言处理的研究热点,如医学诊断大语言模型[31]、海洋侦测大语言模型等[32]. 另一方面,认知计算通过模拟人脑思维和决策过程,有助于人们更好地理解和解释AI系统的行为,实现可控的推理和决策过程,提高AI在辅助科学仿真和科学实验的可靠性和可用性.
生成模型是基于训练数据生成与训练数据分布相似的新数据的模型. 图像生成作为AI领域的经典任务,很长一段时间以来都是AI领域的研究热点;同时,随着计算机视觉的发展,视频合成也逐渐成为研究热点,成为视觉生成的重要领域.
如图5所示,根据2021—2023年视觉生成相关高频关键词,变分自编码器(variational autoencoder ,VAE)、GAN和扩散模型(diffusion model)是视觉生成领域的热门方向. VAE的主要思路是通过引入潜变量和变分推断来学习训练数据集的分布,通过损失函数的设计使得模型对于噪声具有一定的鲁棒性,这使得VAE在生成任务方面表现出色;之后出现的VAE的各种变体如CVAE[33],HVAE等,都使得VAE在生成方面的表现更加优秀. GAN也在生成领域有很出色的表现,它的主要思路是通过并发地训练生成器和辨别器使生成器和辨别器协同进化,最终得到生成样本与真实数据分布高度相似的生成模型. 随后的CGAN[34]、StyleGAN[35]等GAN的变体使得用户可以指定GAN生成何种图片,让GAN在生成任务方面具有更加优秀的性能. 又如结合了VAE和GAN思想的AVB[36](adversarial variational Bayes)等模型,可以进一步提升生成样本的逼真度和多样性. 扩散模型的主要思路是通过向图片中加入高斯噪声来对训练数据的分布产生扰动,随后通过反向扩散过程让模型习得训练数据分布,这种训练方式让扩散模型具有很强的捕捉图像中细节特征的能力,进而使得扩散模型具有出色的图像生成能力.VAE、GAN和扩散模型都在视觉生成领域占据重要地位,是视觉生成领域的研究热点.
还有一个热门的关键词是语义分割(semantic segmentation). 语义分割是指识别图像中存在的内容及属于该内容的像素的任务,对语义分割进行研究,可以协助AI模型更好地识别图像中的内容、理解图像中各个内容之间的上下文关系,进而更好地学习到图像的更深层的特征;同时,语义分割所产生的输出也可以作为其他视觉相关模型,尤其是视觉生成模型的训练数据,使视觉生成模型能够生成更加多样、细节更加丰富的图片或视频. 因此,语义分割成为视觉生成领域的热点关键词. 聚类(clustering)、三维重建(3D reconstruction)和图像恢复(image restoration)等任务也在2021—2022年的热点关键词中出现,在生成领域具有和语义分割相类似的作用.
值得注意的是,2023年视频合成(video synthesis)出现在热点关键词中. 2023年,如LDM(latent diffusion model)[37]、Stable Diffusion等模型被用于视频生成任务之中,诸如Runaway,Pika,Sora等视频生成模型的发布,并且为各个领域所应用. 2023年,视频合成这个领域真正地被探索,并成为了视觉生成领域全新的发展方向.
从2021年到2023年,研究的主体从文本内容处理转移到视觉内容处理. Vision Transformer(ViT)将标准的Transformer迁移至图像领域;U-Net将卷积神经网络应用到生物医学图像分割领域,精准地进行视觉内容的特征提取和采样分析. 在生成式模型方面,也从文本合成到视觉合成进行过渡. 视觉所需要的多维编码需要比文本使用更多的细节对齐,同时也有更广泛的应用空间. 在扩散模型的基础上,增加隐空间(latent space),将高维度的数据映射到低纬度的数据空间,从而将形式更加复杂的原始数据转化为更简单的数据表示. 比如,用Transformer替代扩散模型中U-Net主干网络,从而得到Diffusion Transformers(DiTs)的模型架构,既完成优化,也能够保证可扩展性和效率. 从文本走向视觉领域,各种模型的能力被不断挖掘和创新.
近几年,AI领域在诸多方向上都取得了很大的进步. 在这一基础上,分析AI领域的发展趋势,可以让我们对AI领域的研究热点有更加完整的认识. 为此,本文收集了包含美国国家科学基金会投资项目在内的部分AI相关的热点科研项目,提取了这些项目的关键词,并针对其中的高频关键词进行分析,以得出AI领域未来一段时间的发展趋势.
如表6所示,基于这些AI相关项目的关键词数据,排名最靠前的是STEM教育(STEM education)体系和交叉学科研究(interdisciplinary research),且相比其他关键词的热点优势较大. 可见这2个领域和AI的融合正在逐渐深入且有广阔前景. 教育和AI的深度结合已成为大势所趋.
STEM教育和教育技术(educational technology)均为Top10高频关键词.STEM是一种新型教育模式,也是受到世界公认和欢迎的人才培养方案. STEM的4个字母分别指代科学(science)、技术(technology)、工程(engineering)和数学(mathematics)这4个类别,强调要将这4类学科内容有机组合成为整体,培养学生的实践能力和创新精神. 这4个领域和AI均有着深刻的联系,不仅是让学生接受AI相关内容的学习,更是运用AI技术于教学、管理、评价等各方面[38].
交叉学科研究也是投资项目中非常热门的关键词. 由于大学学科的专精性质,跨学科研究给人类研究人员带来了巨大的研究挑战,包括学科之间的认知分歧、评价机制的差异等. AI的“强人工跨学科性”,以其强大的学习速度和整合能力,在跨学科领域研究中大显身手,如在数据集偏差透明度、模型决策的可解释性、评估方法和监管等方向上,仍然需要继续发展改进.
作为信息门类的学科,AI在计算机科学和其他信息相关领域的应用非常广泛. 在网络基础设施(cyberinfrastructure)领域,AI算法能够加速数据处理、发现隐藏在海量数据中的模式和趋势、优化网络流量;在边缘计算(edge computing)上,应用实时数据处理,进行智能感知和识别,能够优化管理和决策等;在网络安全(cybersecurity)方面,AI算法能够检测异常行为、实时分析威胁并及早发现和阻止;AI算法为高性能计算(high performance computing, HPC)提供新思路,优化系统计算能力,对于HPC的应用有着深远的影响.
AI因其强大的预测能力和分析能力,在许多其他领域中也有巨大的潜力. 增材制造(additive manufacturing)作为新兴的制造技术,和AI的结合促进制造业生产流程的变革. 多信使天体物理学(multi-messenger astrophysics)中,AI根据引力、弱力、强力等天体物理宇宙的信息,尝试归纳和预测未知天体物理的相关线索. 又例如材料基因组计划(materials genome initiative, MGI),利用算法解码材料的不同组成成分和性能的对应关系,预测新材料的合成,改变传统材料的发展方式.
综上可以看出,AI领域未来的发展,将会主要聚焦于AI在科学研究方面和民生方面的应用,如何产出能够适应愈发广泛的应用场景的模型,将成为AI领域一段时间内的重要课题;同时,随着人们对AI模型的要求和期望逐渐升高,AI模型训练效率的提升也会成为AI领域在未来一段时间内的重要课题.
在未来的AI领域,数据和知识的双轮驱动配合越发得当,大语言模型在大数据驱动的基础上,添加专家系统、知识图谱等知识计算引擎,将大语言模型在垂直领域细化,并提高其泛化能力,能够协助研究人员完成科研问题,提高研究效率,给予科研人员启发与思考. 在功能增进上,大语言模型智能体在感知环境、记忆、规划等与人协同的部分也将持续完善发展.
作者贡献声明:魏子舒提出了分析思路,负责数据统计和统计结果分析;韩越负责数据统计和统计结果分析;刘思浩负责统计结果分析;张圣宇提出分析思路、指导意见并修改论文;吴飞提出了分析思路、指导意见并修改论文.

参考文献 引证文献
排序方式:
1
Niu Shuteng, Liu M, Liu Yongxin, et al. Distant domain transfer learning for medical imaging[J]. IEEE Journal of Biomedical and Health Informatics, 2021, 25(10): 3784−3793
2
Abbas A, Jain S, Gour M, et al. Tomato plant disease detection using transfer learning with C-GAN synthetic images[J]. Computers and Electronics in Agriculture, 2021, 187: 106279
3
Xu Runxin, Luo Fuli, Zhang Zhiyuan, et al. Raise a child in large language model: Towards effective and generalizable fine-tuning [C] //Proc of the 2021 Conf on Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2021: 9514−9528
4
Lester B, Al-Rfou R, Constant N. The power of scale for parameter-efficient prompt tuning [C] //Proc of the 2021 Conf on Empirical Methods in Natural Language Processing. Stroudsburg, PA: ACL, 2021: 3045−3059
5
Gutiérrez O, López-Neri E. Cognitive computing: A brief survey and open research challenges [C] //Proc of the 3rd Int Conf on Applied Computing and Information Technology/2nd Int Conf on Computational Science and Intelligence. Piscataway, NJ: IEEE, 2015: 328−333
6
Kumar P, Chandra R, Bansal C, et al. Micro-climate prediction-multi scale encoder-decoder based deep learning framework [C] //Proc of the 27th ACM SIGKDD Conf on Knowledge Discovery & Data Mining. New York: ACM, 2021: 3128−3138
7
Ji Shaoxiong, Pan Shirui, Cambria E, et al. A survey on knowledge graphs: Representation, acquisition, and applications[J]. IEEE Transactions on Neural Networks and Learning Systems, 2020, 33(2): 494−514
8
Galushka M, Swain C, Browne F, et al. Prediction of chemical compounds properties using a deep learning model[J]. Neural Computing and Applications, 2021, 33(20): 13345−13366
9
Ata S K, Wu Min, Fang Yuan, et al. Recent advances in network-based methods for disease gene prediction[J]. Briefings in Bioinformatics, 2021, 22(4): bbaa303
10
Wang C Y, Bochkovskiy A, Liao H Y M. YOLOv7: Trainable bag-of-freebies sets new state-of-the-art for real-time object detectors [C] // Proc of IEEE/CVF Conf on Computer Vision and Pattern Recognition. Piscataway, NJ: IEEE, 2023: 7464−7475
11
Huang C W, Lim J H, Courville A C. A variational perspective on diffusion-based generative models and score matching [C/OL]// Advances in Neural Information Processing Systems. 2021: 21696−21707. [2023-11-20]. https://arxiv.org/pdf/2106.02808.pdf
12
Hariri R H, Fredericks E M, Bowers K M. Uncertainty in big data analytics: Survey, opportunities, and challenges[J]. Journal of Big Data, 2019, 6: 1−16
13
Wang Yuntao, Su Zhou, Zhang Ning, et al. A survey on metaverse: Fundamentals, security and privacy[J]. IEEE Communications Surveys and Tutorials, 2023, 25(1): 319−352
14
Nour M, Cömert Z, Polat K. A novel medical diagnosis model for COVID-19 infection detection based on deep features and Bayesian optimization [J]. Applied Soft Computing, 2020, 97(Part A): 106580
15
Gao Yue, Cai Guangyao, Fang Wei, et al. Machine learning based early warning system enables accurate mortality risk prediction for COVID-19[J/OL]. Nature Communications, 2020, 11(1): 5033. [2023-10-29]. https://www.nature.com/articles/s41467-020-18684-2
16
Kaur H, Ashaan S U, Alankar B, et al. A proposed sentiment analysis deep learning algorithm for analyzing COVID-19 tweets[J]. Information Systems Frontiers, 2021, 23(6): 1417−1429
17
Minaee S, Cambria E, Gao Jianfeng, et al. Deep learning--based text classification: A comprehensive review [J]. ACM Computing Surveys, 2021, 54(3): 1−40
18
Tian Yingjie, Zhang Yuqi. A comprehensive survey of regularization strategies in machine learning[J]. Information Fusion, 2022, 80: 146−166
19
Jeon J, Lee S, Choe H. Beyond ChatGPT: A conceptual framework and systematic review of speech-recognition chatbots for language learning[J]. Computers & Education, 2023, 206: 104898
20
Sweller J, van Merriënboer J V, Paas F. Cognitive architecture and instructional design: 20 years later[J]. Educational Psychology Review, 2019, 31: 261−292
21
Kotseruba I, Tsotsos J K. 40 years of cognitive architectures: Core cognitive abilities and practical applications[J]. Artificial Intelligence Review, 2020, 53(1): 17−94
22
Rai A. Explainable AI: From black box to glass box[J]. Journal of the Academy of Marketing Science, 2019, 48: 137−141
23
Hofmann P, Samp C, Urbach N. Robotic process automation [J]. Electronic Markets: 2020, 30: 99−106
24
Sreedevi A G, Harshitha T, Sugumaran V, et al. Application of cognitive computing in healthcare, cybersecurity, big data and IoT: A literature review[J]. Information Processing & Management, 2022, 59: 102888
25
Niu Zhaoyang, Zhong Guoqiang, Yu Hui. A review on the attention mechanism of deep learning [J]. Neurocomputing, 2021, 45: 48−62
26
Touvron H, Lavril T, Lample G, et al. LLaMA: Open and efficient foundation language models [J]. arXiv preprint, arXiv: 2302.13971, 2023
27
Varádi M, Anyango S, Izacard G, et al. AlphaFold protein structure database: Massively expanding the structural coverage of protein-sequence space with high-accuracy models[J]. Nucleic Acids Research, 2021, 50: D439−D444
28
Mahajan P. Applications of pattern recognition algorithm in health and medicine: A review [J/OL]. International Journal of Engineering and Computer Science, 2016. [2023-11-06]. https://doi.org/10.18535/IJECS%2FV5I5.41
29
Li Weihua, Huang Ruyi, Li Jipu, et al. A perspective survey on deep transfer learning for fault diagnosis in industrial scenarios: Theories, applications and challenges [J]. Mechanical Systems and Signal Processing: 2022, 167: 1084−1087
30
Maghdid H S, Asaad A T, Ghafoor K, et al. Diagnosing COVID-19 pneumonia from X-ray and CT images using deep learning and transfer learning algorithms [C/OL] // Proc of Multimodal Image Exploitation and Learning. [2023-10-29]. https://arxiv.org/ftp/arxiv/papers/2004/2004.00038.pdf
31
Wang Haochun, Liu Chiliang, Xi Nuwa, et al. Huatuo: Tuning LLaMA model with chinese medical knowledge [J]. arXiv preprint, arXiv: 2304.06975, 2023
32
Bi Zhen, Zhang Ningyu, Xue Yida, et al. OceanGPT: A large language model for ocean science tasks [J]. arXiv preprint, arXiv: 2310.02031, 2023
33
Sohn K, Lee H, Yan Xinchen. Learning structured output representation using deep conditional generative models [C] // Proc of Annual Conf on Nerual Information Processing Systems. Quebec, Canada: NIPS, 2015: 3483−3491
34
Mirza M, Osindero S. Conditional generative adversarial nets [J]. arXiv preprint, arXiv: 1411.1784, 2014
35
Karras T, Laine S, Aittala M, et al. Analyzing and improving the image quality of StyleGAN [C] // Proc of 2020 IEEE/CVF Conf on Computer Vision and Pattern Recognition. Piscataway, NJ: IEEE, 2020: 8107−8116
36
Mescheder L, Nowozin S, Geiger A. Adversarial variational Bayes: Unifying variational autoencoders and generative adversarial networks [C] // Proc of the 34th Int Conf on Machine Learning. Sydney: ICML, 2017: 2391−2400
37
Rombach R, Blattmann A, Lorenz D, et al. High-resolution image synthesis with latent diffusion models [C]//Proc of the IEEE/CVF Conf on Computer Vision and Pattern Recognition. Piscataway, NJ: IEEE, 2022: 10674−10685
38
Memarian B, Doleck T. Embodied AI in education: A review on the body, environment, and mind [J]. Education and Information Technologies, 2023, 29: 895−916
2024年第61卷第5期
69
33
0
引用本文
BibTeX
文章信息
doi: 10.7544/issn1000-1239.202440063
  • 接收时间:2024-01-29
  • 首发时间:2026-11-17
  • 出版时间:2024-05-01
补充材料
相关文章
文章信息
作者
出版历史
  • 收稿日期:2024-01-29
  • 修回日期:2024-03-29
基金
作者信息
    浙江大学计算机科学与技术学院 杭州 310013

通讯作者:

吴飞()
参考文献
分享链接
https://castjournals.cast.org.cn/joweb/jsjyjyfz/CN/10.7544/issn1000-1239.202440063
分享至
全文二维码

扫描看全文

引用本文
BibTeX
本文的引用情况
2种不同金属材料的力学参数
科
Family
属数
Number of
genus
种数
Number of
species
占总种数比例
Percentage of
total species (%)
属
Genus
种数
Number of
species
占总种数比例
Percentage of total
species (%)
鹅膏菌科Amanitaceae 2 11 5.26 鹅膏菌属 Amanita 10 4.78
小菇科 Mycenaceae 2 12 5.74 丝盖伞属 Inocybe 5 2.39
多孔菌科 Polyporaceae 8 14 6.70 蜡蘑属 Laccaria 5 2.39
红菇科 Russulaceae 3 23 11.00 小皮伞属 Marasmius 6 2.87
小菇属 Mycena 11 5.26
光柄菇属 Pluteus 5 2.39
红菇属 Russula 17 8.13
栓菌属 Trametes 5 2.39
关闭全屏