【北航师说】刘艾杉:立志做人工智能背后最坚实的“盾”

点击数:    |    加入时间:2023-02-11

在北航,有这样一位青年教师,他发表30余篇高水平论文,主持多个国家级科研项目,担任模式识别著名期刊客座编辑,担当国内外顶级会议论坛主席,助力科研成果“重明”产业落地,出任士谔书院小班班主任,他就是计算机学院刘艾杉。

1.jpg

刘艾杉,助理教授,硕导,2021年12月入职北京航空航天大学计算机学院,主要研究方向为人工智能安全和鲁棒深度学习,已在国际权威学术期刊和顶级会议等发表论文30余篇,申请专利10余项,担任模式识别著名期刊Pattern Recognition的客座编辑、并多次担当国际顶级会议workshop主席,作为主持人负责多个课题项目,相关成果荣获省部级科技进步二等奖1项。

学术先行 引领国际

刘艾杉牢记党的二十大报告中对科技人才“以国家战略需求为导向”、“坚决打赢关键核心技术攻坚战”的嘱托,面向国家在重点领域智能化应用的高安全性战略需求,他重点开展安全可靠可信深度学习技术的研究,致力于促进可靠深度学习在高安全风险场景下的健康发展。

在导师李未院士和刘祥龙教授的指导下,刘艾杉从智能模型安全性机理、安全性评测和对抗攻防等角度出发进行了深入的探索,形成了独立自主的体系化智能安全理论技术研究框架,并在国际权威学术期刊和顶级会议上发表论文30余篇。

相关研究成果被人民网、中国搜索等权威媒体专门报道,收录于多项可信赖人工智能白皮书、专著书籍及标准文件中,并被图灵奖获得者John Hopcroft作为领域经典工作进行讨论,得到了广泛的关注,被业内专家认为具有重要研究意义。

刘艾杉还十分注重相关领域内的学术交流与专业讨论等学术服务工作。他担任模式识别经典期刊Pattern Recognition的客座编辑,并率先组织智能鲁棒主题的SCI专刊,与此同时多次担任CVPR、AAAI、PRCV在内的国内外顶级会议的论坛主席并组织近十次“智能安全”相关主题研讨班和论坛,分享科研前沿成果,助力鲁棒智能技术发展。

服务国家 产业落地

作为一名科研工作者,刘艾杉最大的梦想就是自己的研究成果能够服务国家战略、解决社会需求、实现技术转化和产业落地。

面对智能算法在开放复杂的真实环境中广泛应用但安全性和稳定性不足的现状,刘艾杉和团队积极探索研究技术的行业应用与落地。围绕航空航天、智能制造、自动驾驶等领域复杂系统的安全性和可靠性及日益严峻挑战的信息安全问题,他和团队提出了安全关键智能算法的安全性评测和验证分析方法,并研发了集评测、分析、优化一体的全要素、全周期人工智能安全评测平台“重明”。

目前,相关技术已成功地集成到启智新一代人工智能开源社区启智社区,支持我国自主可控开源社区的算法质量评估,是国际上第一套在开源社区形成算法安全评测能力的平台;服务科技部新一代人工智能重大项目中期择优评估;支撑人工智能国际顶会上的算法安全评测全球大赛;指导工业级深度学习模型鲁棒性评测和构建。

近日,团队还完成了近20家企业的600余种国产智能深度学习模型算法和系统的安全性验证和评测,有效提升了国产智能算法的安全可靠性。

回馈奉献 厚德育人

“传道、授业、解惑”,这是刘艾杉作为一名老师收获的最大的幸福感。

2022年高考结束后,刘艾杉作为计算机学院招生组的一员赴湖南进行高考招生宣讲工作。面对学生和家长的疑惑,刘艾杉结合自己在北航多年的学习生活经历,设身处地为他们分析和答疑。6月骄阳似火的“火炉”长沙,更映衬出他和小伙伴似火的工作热情。最终,湖南招生组在整体扩招的挑战与压力下,全面出击,文理科招生均稳中有进,为母校北航又迎来了一批优秀的青年学子。

刘艾杉(右)赴湖南进行高考招生

转眼间来到了金秋9月,新学期伊始,刘艾杉成为了士谔书院227318小班的班主任和学业导师。作为“老学长”,他向青涩懵懂的新生们分享自己的学习心得,为新生们开展了全覆盖一对一谈心交流。作为老师,他讲授了“极简人工智能综述”讲座,带同学们了解了学科前沿知识。

刘艾杉向新生分享学习心得

刘艾杉时常对同学们说:“要做一个不被定义的自己”,鼓励大家既要“仰望星空”,勇于探索未知;也要“脚踏实地”,学好专业知识。渐渐地,同学们适应了高中到大学的人生转变,整个18小班也拧成了一股绳,更在近日士谔书院优秀主题团日评选答辩中获得二等奖。

团队协作 砥砺前行

智能软件是新一代信息技术的灵魂,是数字经济发展的重要基础,智能软件能力的建立和持续创新正成为国家核心的竞争能力。

刘艾杉所在的安全可靠智能创新团队依托于复杂关键软件环境全国重点实验室,围绕国家战略需求和信息科学前沿,开拓了安全可靠复杂智能系统、群体智能、智能安全评测等新领地。

实验室长期从事安全关键软件测试验证工作,首任主任李未院士在上世纪七十年代在安全可靠并发语言领域做出了开创性工作,并在九十年代创新逻辑推理进行软件测试验证和错误修正的研究思路。

在李未院士和现任实验室主任郑志明院士的带领下,实验室在安全关键软件的基础理论、开发方法和软件环境进行了深入研究及广泛探索,承担一系列国家重大/重点科研项目,产生了一系列基础理论和关键技术创新成果,在探月、星载、航母、北斗、指控系统等国家重大任务的型号软件研制中发挥了重要作用。

安全可靠智能创新团队科研项目

安全可靠智能创新团队传承了实验室“空天报国”的奋斗精神和“安全可靠”的研究基因,立志在智能时代探索创新关键智能软件环境的安全基础理论与方法、突破重点领域关键软件的安全可靠的核心技术。

团队发力研究安全关键系统的设计开发、验证与测试等关键技术,系统地构建了面向安全关键智能系统的安全可靠智能计算环境,也将在实现基础理论创新的基础上进一步助力人工智能技术在高安全风险的场景下的安全可靠应用和发展。

在未来的道路上,刘艾杉也将继续和志同道合的小伙伴们一道,做人工智能背后最坚实的“盾”,为人工智能安全可靠保驾护航!

(来源:计算机学院)

(审核:李建伟)

编辑:贾爱平


打印
分享
更多新闻
10 月
14
北航举行第61届师生运动会

点击数:
加入时间:2023-10-14
10 月
16
10 月
16
10 月
13
10 月
13
10 月
13
10 月
13
西班牙塞维利亚大学代表团访问北航

点击数:
加入时间:2023-10-13
10 月
13