华中科技大学计算机科学与技术学院与微软亚洲研究院联合研讨会成功举行

作者:编辑:赵娜发布:2023-04-13点击量:

2023年4月12日上午,华中科技大学计算机学院与微软亚洲研究院联合研讨会成功举办。本次活动由计算机科学与技术学院主办,霍普克罗夫特计算科学研究中心何琨教授和计算机学院数据所胡龙副教授主持,全校近百名师生参与。

计算机学院院长冯丹在研讨会的开幕式上热情欢迎各位学者和人才的到来。她指出,此次研讨会的举办将有助于加深计算机学院与微软亚洲研究院之间的合作关系,促进双方更加紧密的学术交流。她希望这次交流能够促进双方在学术研讨上的深入合作,让更多的学者和学生从学术交流中受益,激发创新灵感。

微软亚洲研究院高级研究员杨凡以“具有稀疏属性的张量实现端到端的深度学习模型稀疏化“为主题,详细介绍了其产生背景与发展,即在深度学习的训练过程中,网络的许多参数的权重都是0,这表明深度学习模型是具有稀疏化性质的。为了提高张量的计算性能,杨凡研究员提出需要对90%以上的稀疏张量进行剪枝,才能使计算性能有比较显著的开销。杨凡研究员在报告中分享了其研究过程中的宝贵经验,他们的框架在不同的操作系统上都有良好的通用性,有良好的发展潜力。

微软亚洲研究院高级研究员胡瀚报告的主题是“面向统一的视觉和语言建模与学习”。他从计算机视觉和自然语言处理两个角度,结合相关的工作类比物理学中四大经典力学的统一过程,生动透彻地对大模型的发展和统一过程进行了分析,并介绍了ViT的框架与结构。通过胡瀚高级研究员的报告,在场的同学对计算机视觉的大模型有了更加深入的了解和认识。

华中科技大学计算机学院副教授张腾报告的主题是“基于间隔分布优化的学习方法”。机器学习往往利用经验风险最小化来对模型进行优化,这是因为相对于VC维,样本数量巨大使得上界比较松散,从而得到有效的近似。张腾副教授介绍了宽间隔分布优化并利用详细的数学推导引出了最大间隔原则和最小范数假设,与我们认识的正则化约束巧妙的联系起来,让在场的同学听的兴趣满满。

接下来,华中科技大学计算机学院胡燏翀教授以“AI与Storage结合下的研究”为题,讲述了将硬件存储优化与AI相结合的方式,充分利用AI对需要读取的硬件进行预测,并采取一系列优化方法加速存取的速度,从而达到优化。

微软亚洲研究院主管研究员舒然以“基于硬件的存储解耦合”为题进行报告。舒然研究员介绍了当前硬件中存在耦合现象,并且对软件与硬件之间的延迟与矛盾做了展示。舒然研究员指出当前CPU对硬件的读取周期比较长,并对此类问题介绍了相关的研究和解决方法。

最后,微软亚洲研究院高级研究员葛涛以“大语言模型与通用人工智能”为题,介绍了大语言模型的发展过程,并详细介绍了GPT1、GPT2、GPT3、ChatGPT以及GPT4模型的差异和发展过程。大语言模型的训练逐渐从有监督训练转向无监督训练,并且在零样本、一样本和少样本上都有比较好的表现,并对大语言模型的发展有无限的期待和展望。

此次研讨会聚焦智能系统、计算机存储和人工智能等研究领域,促进了华中科技大学与微软亚洲研究院之间的学术交流与合作研究,扩宽了师生的国际视野,为后续计算机学院与微软亚研院之间的深度合作奠定了良好的基础。

Copyright © 2022 HUST SCHOOL of COMPUTER of SCIENCE and TECHNOLOGY , Powered By , All Rights Reservered Hust Cs