7月6日-8日,由上海交通大学安泰经济与管理学院主办、上海财经大学信息管理与工程学院协办的首届智能计算与决策研讨会在上海举办。上海市有关部门领导、上海交通大学领导、国内外专家学者和高校师生等汇聚一堂,共同探讨了智能计算领域的最新前沿和发展趋势。
7月7日上午,研讨会开幕式暨上海交通大学智能计算研究院揭牌成立仪式举行。上海市委组织部部务委员、市人才局副局长谭朴珍,上海市经济和信息化委员会副主任张宏韬,上海市人才局规划研究处副处长吴能武,斯坦福大学讲席教授、上海交通大学访问讲席教授叶荫宇,耶鲁大学教授、美国艺术与科学学院院士陈晓红,北京大学讲席教授、欧洲科学院外籍院士邓小铁,纽约大学斯特恩商学院Andre Meyer冠名终身教授陈溪,普林斯顿大学电子计算机工程系终身副教授王梦迪,上海交通大学校长、中国科学院院士丁奎岭,校务委员会专职副主任顾锋,文科建设处处长吴文锋,安泰经济与管理学院院长陈方若,党委书记姜文宁,副院长、中银科技金融学院执行院长刘少轩,党委副书记郭非,副院长朱庆华,特聘教授、智能计算研究院院长葛冬冬,特聘教授何斯迈,国内外专家学者和高校师生等出席开幕式。
谭朴珍在致辞中表示,人工智能要实现跨越发展,关键在人才。上海始终将发展人工智能作为优先战略,通过举办世界人工智能大会、实施积极和开放的人才政策,瞄准高价值科技工作,助力全球人工智能人才聚集发展。他指出,智能计算研究院是上海交通大学深化人工智能领域研究、吸引集聚高层次人才的重要载体,期待研究院加快建成世界一流智能优化算法研究中心和产学研示范基地,为上海人工智能产业发展和人才集聚提供强有力支撑。他表示,市委组织部、市人才工作局将一如既往支持人工智能领域人才经济融合发展,为广大优秀人才提供全方位的贴心服务和高品质的发展环境。
顾锋代表上海交通大学致辞。他介绍了学校“人才强校”主战略,希望通过打造智能计算研究院这一平台聚集优化算法领域的领袖级学者和青年才俊,充分发挥在人工智能领域具有的学科、人才和区位优势,更好地服务对接国家战略需求和上海三大先导产业发展任务。他希望智能计算研究院一一是心怀“国之大者”,继续攻坚克难,为实现我国在人工智能领域的高水平科技自立自强做出更大贡献;二是加强资源整合,积极与兄弟学院和机构开展合作,加强向基础研究机构汲取力量,主动服务不同学科的交叉研究,高效利用各类资源;三是促进国际交流,保持和发扬研究院开放合作的研究态势,扩大国际科技交流合作,为我国构建形成具有全球竞争力的开放创新生态贡献力量。
陈方若代表上海交通大学安泰经济与管理学院致辞。他强调了大数据、人工智能作为第四次工业革命的核心,对社会和经济产生了深远的影响。他表示,生产力特别是新质生产力的概念中不只有技术、也应有管理,只有两者结合,才能发挥更大作用。他强调,人工智能是学校重要的发展方向之一,希望智能计算研究院加强和人工智能学院等单位的深度合作,推动取得更多研究成果。此外,他介绍了学院“纵横交错、知行合一”的发展战略,表示将持续服务国家重大战略,积极做出自身贡献,争取早日实现成为一所扎根中国的世界级商学院建设愿景。
叶荫宇作主题为“Classical Mathematical Optimization Methods Could Help AI Training”的演讲。他指出,随着大语言模型(LLMs)的不断发展,快速微调模型以适应不同任务成为亟待解决的问题。尽管常用的Adam算法表现良好,但其需要占用大量内存和显卡资源。受坐标下降法启发提出的BAdam算法,在保持性能的同时可以显著降低内存使用,使得在单枚消费级GPU上微调大模型成为可能。此外,一种仅使用少量学习率参数进行预处理的Adam-mini算法,可以减少50%的内存使用和33%的模型训练时间,特别适用于降低预训练(pre-training)任务的资源消耗。这些新算法在提升大模型训练效率和资源利用率方面展现出巨大的潜力。
陈晓红作主题为“STEEL: Singularity-aware Reinforcement Learning”的演讲。她指出,在离线强化学习中,离线数据集生成过程和目标策略之间的分布可能存在显著差异,特别是在状态和动作空间连续的情况下。提出的算法STEEL在贝尔曼完备性和分布鲁棒性假设下,通过最小化Bellman误差,利用最大均值差异(MMD)来控制奇异性。数值试验表现证明了该算法在实际数据和模拟环境中的优异性能,并提供了有限样本遗憾保证,证明了STEEL算法在应对离线强化学习分布失配问题中的有效性。
陈溪作主题为“Proof of Learning via Incentive-Security”的演讲。他表示,随着深度学习的发展,模型和参数的规模不断扩大,分布式训练成为必要的解决方案。与此同时,确保模型分布式训练过程的公平性和可信度变得越来越重要。学习证明(Proof-of-Learning)通过激励机制和安全措施,随机选择和验证训练过程中的某些阶段,防止作弊行为的发生。为了确保验证者的诚实行为,这一方法引入了“捕捉旗帜”(Capture-the-Flag)的概念,即在训练过程中设置随机标志,并激励验证者去寻找这些标志,从而提升验证的效率和安全性。
王梦迪作主题为“大模型时代——控制与智能”的演讲。她表示,随着大语言模型的发展,确保AI系统的可控性成为关键问题。基于人类反馈的强化学习(RLHF)虽然可以对齐大模型但面临着奖励黑客等问题。双层强化学习算法通过同时对齐数据分布和策略,实现了63%的性能提升。Maxmin-RLHF和SPAC等方法则通过多目标对齐和自我对抗机制,显著提升了模型的泛化能力和推理速度。此外,生成式AI通过预训练大数据和梯度引导直接生成新目标函数的最优解,在高维复杂优化问题上展现了巨大的潜力。可控大模型是实现通用人工智能(AGI)的关键,对未来AI发展具有重要意义。
开幕式上,上海交通大学智能计算研究院正式揭牌成立。丁奎岭和叶荫宇共同为研究院揭牌,谭朴珍、顾锋、吴能武、陈方若、姜文宁、刘少轩、郭非、朱庆华、葛冬冬、何斯迈等共同见证。随后,丁奎岭向葛冬冬颁发研究院院长聘书。上海交通大学智能计算研究院应时代发展所需成立,挂靠安泰经济与管理学院建设,以推动我国关键工业软件、管理软件国产化、类CUDA库函数生态建设和为国家重大项目智能计算提供全国产化的技术替代方案为目标,旨在培养顶尖智能计算人才,推动智能计算技术的发展与应用。
葛冬冬作任职表态发言。他首先代表研究院,对上海市、上海交通大学、安泰经济与管理学院等各级领导对研究院成立给予的关心、支持和帮助表示感谢,同时对从全球各地赶来参会的专家和师生表示崇高的敬意,并表态将充分利用研究院和研讨会的平台,在决策与优化的基石性工具和优化算法的建设方面,努力把团队发展成为引领智能计算领域发展的风向标。此外,他特别表达了对导师叶荫宇几十年如一日专注科研事业、关心培养年轻力量的感恩和崇敬之情。最后,他希望本次论坛能够通过思维火花的碰撞,产出有效的科研成果,产生真正的学术影响力。
开幕式由吴文锋、朱庆华共同主持。
7月7日下午的主题研讨会由何斯迈主持。北卡罗来纳大学教堂山分校助理教授陈冠廷、弗罗里达大学副教授刘泓成、中国人民大学副教授祁琦、康奈尔大学助理教授朱睿豪、英属哥伦比亚大学助理教授巴闻嘉、佐治亚理工学院助理教授朱明西等先后作主旨演讲。
7月8日全天的主题研讨会由葛冬冬主持。香港中文大学(深圳)教授王子卓、英属哥伦比亚大学副教授Christopher Thomas Ryan、伦敦大学学院助理教授张孟珍钰、纽约大学助理教授付润姗、香港城市大学助理教授李梦龙、英属哥伦比亚大学助理教授李佳锦、新加坡国立大学助理教授冯一凡、上海交通大学副教授邓琪、副教授刘慧康、北京大学助理教授李彤阳、上海财经大学助理教授郭加熠等先后作主旨演讲。
在上海交通大学安泰经济与管理学院纪念管理学院恢复建院40周年之际,首届智能计算与决策研讨会的举行和上海交通大学智能计算研究院的成立,标志着学院在加强经管理论与人工智能、大数据等数字技术的连接方面又迈出了坚实的一步。研究院将以智能计算赋能数字转型,聚安泰智慧开启崭新篇章,努力实现在优化算法的研究和应用方面取得突破性进展,并力争在2030年左右建成世界一流的智能优化算法研究中心和产学研示范基地,助力学院建设成为扎根中国的世界级商学院,助力上海建设智能计算领域的领头羊和人工智能的国际高地。
来源:上海交通大学