

为进一步加强学术交流、活跃科研氛围,2026年4月20日上午,信息科学与技术学院在东校区综合楼408会议室成功举办“人工智能安全:研究进展、关键威胁与未来方向”主题学术沙龙。学院院长贾遂民、省数据安全和可信计算工程技术中心主任贾志娟、学院B类以上博士和研究所全体师生参加,沙龙由王利朋博士主持。
崔驰博士作为主讲嘉宾,围绕“人工智能安全:研究进展、关键威胁与未来方向”展开分享,其研究聚焦人工智能安全领域,重点讨论四个层面的内容。第一,为什么AI安全现在变得格外重要。第二,目前最值得关注的几类安全与隐私威胁是什么。第三,多模态与智能体带来的新攻击面我们应该如何理解。第四,当前的防御思路。报告中,崔驰博士系统介绍了人工智能安全的研究背景及其重要意义,梳理了当前该类模型面临的核心难点,并从三大核心威胁:投毒攻击与供应链问题,越狱与提示注入以及隐私泄露逐一出发进行了深入解析。在此基础上,崔驰博士指出随着多模态模型的发展,AI的安全问题不再局限于文字,而可能包括图像、音频、视频、传感器数据,甚至进一步连接机器人和物理设备。这意味着人工智能安全的边界正在向更复杂的方向演化。
贾遂民院长首先高度肯定崔驰博士报告的创新性,强调学术沙龙作为激发科研活力的重要载体,对推动信息安全与人工智能等学科交叉研究具有关键意义。贾志娟教授从国家社会需求出发,认为该研究为人工智能安全的发展提供全新思路,并结合省数据安全工程技术中心实践,与崔驰博士探讨了人工智能安全多层次防御机制的构建体系。王利朋博士从人工智能安全的边界正在从纯文本对话,扩展到感知、决策和执行的一体化链条中提出独到见解,现场师生围绕跨学科问题展开深度研讨,形成多维度学术碰撞。
本次沙龙系统呈现了人工智能安全从研究进展、关键威胁到未来方向的发展路径,通过多学科交叉研讨,为解决多层次、跨模态的安全构建提供新思路。未来,信息科学与技术学院将持续开展系列学术活动,助力学科交叉融合与科研创新突破。