课题简介
本课题聚焦基于时间序列预测方法研究,并探索其在交通、电力、天气等领域的下游应用。随着深度学习技术的不断发展,尤其是大语言模型(LLM)在自然语言处理中的突破,Transformer架构也因其强大的序列建模能力而被广泛应用于时间序列数据分析。
传统的时间序列预测方法通常依赖于统计学模型或传统的机器学习方法,但这些方法在处理高维度、长时间跨度的复杂数据时往往效果有限。LLM与Transformer通过自注意力机制能够捕捉长时序依赖,尤其适用于时间序列预测中的复杂模式识别和多变量处理,此外还产生了多尺度预测模型、多专家混合模型、跨变量交互模型等多种预测范式。
本课题将围绕如何基于改进的最新的时间序列预测范式优化模型,如多尺度预测模型、多专家混合模型、跨变量交互模型,基于LLM的预测模型等,具体探讨其在以下应用场景中的潜力
导师介绍
【简介】互联网大厂AI Lab 算法专家。研究领域集中在少样本/零样本预测,通用时序表征学习等。
【科研论文/审稿人】在CCF-A类顶会顶刊发表过超10篇文章,并担任多个顶会审稿人。
【指导经验】指导深度之眼学员投稿1区论文数篇,并指导过多期科研论文小班。【学校/研究方向】互联网大厂AI Lab 算法专家。研究领域集中在少样本/零样本预测,多模态结合的时序大模型,以及电力预测等。
【科研论文/审稿人】在AAAI,ACM MM,TKDE等CCF-A类顶会顶刊发表过超10篇文章。并担任TITS,TNNLS等审稿人。
【指导经验】指导深度之眼学员投稿1区论文数篇。
可选创新点
(1)基于大语言模型的时间序列预测
(2)基于改进Transformer的时间序列预测
(3)基于多专家混合的时间序列预测方法
(4)基于跨变量的灵活多元变量建模方法
(5)基于多尺度的时间序列建模方法
课程亮点
1.时间序列预测基础知识,以及如何微调大语言模型进行预测,是当前比较火热的创新点;
2.学习故事驱动式的论文写作和设计,模型的架构等知识;
3.相关的训练代码和模块的构造代码及讲解,改造思路分享;
4.针对非计算机专业的同学,学习预测知识如何应用于自身的专业,并完成创新论文,包括但不限于交通、电力、天气等相关专业;
5.群里根据同学需求进行答疑,有难题时可根据具体问题简单的进行meeting沟通。
