近日，软件学院举办“智能・软件・未来”论坛第12期：视频压缩与理解系列讲座第1期，邀请北京航空航天大学人工智能学院教授韦星星作题为“多模态大模型可信度评估与增强”的学术报告。

随着多模态大模型在各领域的广泛应用，其可信度已成为影响技术落地的核心问题。当前主流多模态大模型在实际应用中，常面临事实性偏差、安全性漏洞、鲁棒性不足、公平性缺失及隐私泄露等挑战，亟需一套系统的评估体系与有效的增强方法。报告围绕多模态大模型可信度展开，重点从“评估”与“增强”两大维度深入剖析：在可信度评估层面，韦星星教授团队针对事实性、安全性、鲁棒性、公平性和隐私性五个核心维度，设计了详尽的评测实例与工具，对现有主流多模态大模型进行全面评估与性能排序，并基于此提出MultiTrust可信度评估框架，实现了对不同模型在各维度表现的量化分析与横向比较；在可信度增强层面，团队通过深入探究模型可信度缺失的内在原因，发现当前多模态大模型依赖的视觉-语言预训练模块在鲁棒性与安全性上存在明显短板，进而提出一种基于特征一致性的视觉语言预训练模型增强方法，通过强化不同模态间表征学习的一致性，有效优化多模态模型的可信度，为解决多模态大模型“不可靠”难题提供了创新思路与技术路径。

韦星星，北京航空航天大学教授、博士生导师，在TPAMI、IJCV等人工智能领域顶级期刊以及CVPR、ICCV等国际顶会发表学术论文80余篇，其中TPAMI/IJCV论文11篇、ESI高被引论文5篇，授权发明专利20余项。主持科技部“新一代人工智能”重大项目课题、国家自然科学基金面上项目、军兵种预研项目及华为/腾讯校企合作项目等多个重要科研任务，曾获国防技术发明一等奖（排名3/6），在国际顶会举办的重要竞赛中斩获冠亚军5项、优秀奖5项，相关研究成果被CCTV、环球网等权威媒体报道。

（文/图：高艳博 责任编辑：刘士军）