基于Adaptor和GPT的时间序列多任务一体化大型模型

今天跟大家聊一聊大模型时间序列预测的最新工作，来自阿里巴巴达摩院，提出了一种基于adaptor的通用时间序列分析框架，在长周期预测、短周期预测、zero-shot、few-shot、异常检测、时间序列分类、时间序列填充等7项时间序列任务上都取得了显著的效果。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

论文标题：一刀切：使用预训练语言模型和特别设计的适配器进行通用时间序列分析

可下载链接：https://arxiv.org/pdf/2311.14782v1.pdf

1、背景

时间序列预测领域中，搭建大型模型的难点之一在于缺乏如NLP或CV领域那样的充足的训练数据。本文提出了一种解决方案，即以NLP或CV领域中训练好的大型模型为基础，并结合Adaptor技术，将其适配到时间序列中，以解决各种时间序列问题

Adaptor在NLP、CV等领域应用很广泛，尤其是最近大模型应用中，adaptor经常被用来进行大模型的轻量级finetune。Adaptor是一个轻量级网络，通过将其插入到大模型中的一些模块中，然后fix大模型参数，只更新adaptor的参数，就可以实现轻量级的大模型finetune。

图片

下面，给大家介绍阿里达摩院这篇工作中，是如何利用adaptor结合预训练的NLP、CV模型搭建统一时间序列模型的。

2、整体结构

本文提出的模型基于Freeze参数的预训练语言模型，结合4种类型的adaptor实现。整体模型结构如下图所示。

图片

首先，对于输入的时间序列，我们将使用RevIN的方法进行归一化。这意味着我们会从每个时间序列中减去均值，并除以方差。接下来，我们将使用PatchTST的方法，将时间序列通过滑动窗口切分成多个片段，生成片段嵌入。处理好的时间序列将被输入到一个NLP领域的预训练语言模型中。在整个训练过程中，语言模型的原始参数将保持不变，我们只会更新新增的4类适配器参数

3、Adaptor设计

本文介绍了四种类型的适配器，这些适配器可以插入到NLP和CV领域的大型模型的不同位置，以实现对时间序列进行适配的目标。这四种适配器分别是时间适配器、通道适配器、频率适配器和异常适配器

时间适配器：时间适配器是一个MLP网络，用于融合时间维度的信息。在文中，我们采用了瓶颈结构，先将时间维度或空间维度的高维信息映射到低维空间，然后再映射回高维空间。这样做的目的是在提取时序关系的过程中避免过拟合的风险

Channel Adaptor：channel adaptor的结构和temporal adaptor相似，区别在于在空间维度进行，用来提取多元序列各个变量之间的关系，也采用了bottlenect；

图片

Frequency Adaptor：frequency adaptor在频域进行时间序列的信息提取，这部分将时间序列映射到频域，在频域做MLP，然后再映射回时域，以此实现频域这种全局信息的提取。

Anomaly Adapter：这部分主要是实现了一种新的时间序列异常检测方法，这里利用了attention score矩阵，对于正常序列attention score矩阵呈现周期重复的特性，而异常序列则没有，因此文中使用一个高斯核作为anomaly adaptor，用attention的输出结果和其计算KL散度进行时间序列异常检测。

图片

另外，不同的数据会受到各个适配器的影响程度不同，因此，在文中采用了一个门控网络，以有选择地使用适配器

4、实验效果

对7种时间序列任务进行了效果对比，本文提出的时间序列统一大模型在各个任务中取得了超出业内各个SOTA模型的效果。以长周期预测任务为例，基于GPT2+Adaptor的统一模型表现最优

图片

# gpt  # channel  # nlp  # https  # 达摩  # 采用了  # 是一个  # 将其  # 提出了  # 这部  # 然后再  # 门控  # 过程中  # 是在 

相关栏目： 【 Google疑问12 】 【 Facebook疑问10 】 【 网络优化91478 】 【 技术知识72672 】 【 云计算0 】 【 GEO优化84317 】 【 优选文章0 】 【 营销推广36048 】 【 网络运营41350 】 【 案例网站102563 】 【 AI智能45237 】

相关推荐： Google AI Studio：免费AI视频生成器使用指南  Google Gemini 在跨时区团队管理中的应用技巧  Avokaado AI：简化合同管理和法律流程的终极指南  批改网ai检测工具怎么检测多语言作文_批改网ai检测工具多语言切换与检测支持【技巧】  探索泰勒·斯威夫特《August》的深层含义：歌词解析与情感分析  怎么用AI帮你解读复杂的学术论文？快速抓住核心论点和证据  3步教你用AI帮你把菜谱转换成详细的烹饪步骤视频脚本  告别噪音：使用Adobe Podcast提升录音质量  Hugging Face Transformers：文本分类的完整指南  教你用AI一键生成Excel VBA脚本，彻底告别重复操作  如何用AI帮你分析用户评论？3步挖掘用户真实需求  利用Gen AI和AI Agent进行软件测试：Ollama本地LLM实践  Midjourney怎样用参数调分辨率_Midjourney分辨率调整技巧【教程】  提升企业效率：QR Platform管理后台功能全面解析  实测效率提升超35%！科大讯飞星火AIPC开启AI办公新纪元  CanvaAI抠图能否保留透明图层_CanvaAI透明图层保留与导出设置【方法】  AI驱动的合同审查：Adobe Acrobat AI助手提升效率与准确性  Cred.ai信用卡深度评测：信用提升的秘密武器  Gemini怎么用新功能实时问答_Gemini实时问答使用【步骤】  Mootion AI视频生成器：一键创作动画故事！  DeepSeek V3 本地部署对硬件要求的详细说明  千问怎么使用插件功能_千问插件调用与功能扩展【教程】  2025数据科学学习指南：技能、工具和学习路线图  ATS优化：Euron ResumeAI打造高效求职简历  LTX Studio：AI电影制作平台深度评测与应用指南  面试必胜：五大面试技巧助你斩获Offer  7个简单高效的面部肌肉锻炼，改善面部不对称，塑造完美脸型  ChatGPT打造AI助手：10倍提升效率，掌控你的生活  讯飞星火怎么一键生成|直播|话术_讯飞星火话术生成与节奏把控【教程】  兔展AI排版如何批量生成多尺寸图_兔展AI排版多尺寸批量生成步骤【实操】  教你用AI帮你生成一份详细的搬家清单，告别手忙脚乱  教你用AI帮你写一份完整的用户调研报告，从数据到结论全搞定  135编辑器AI排版怎样快速上手_135编辑器AI排版新手入门与功能介绍【教程】  Feelin网页版在线使用 Feelin官网登录入口  tofai官网最新入口地址 tofai网页版免下载  Claude怎样用提示词控制输出长度_Claude输出长度设置【教程】  钉钉ai划词工具怎样查看划词历史_钉钉ai划词工具历史记录查询【指南】  EdrawMax全面评测：使用AI轻松绘制流程图和思维导图  Elon Musk会解决X平台上的机器人问题吗？塔罗牌预测  怎么用AI帮你写一份有说服力的加薪申请？  手相解析：生命线的形状与意义详解，预示健康、财富和命运  智行ai抢票能否抢下铺票_智行ai抢票下铺优先设置与成功率提升【技巧】  DeepSeek 辅助进行硬件描述语言 Verilog 调试  稿定AI智能设计怎样自动生成电商Banner_稿定AI智能设计Banner生成流程【步骤】  AI写作工具检测：学生如何避免学术不端行为  Apollo.io vs Instantly AI：深度测评与功能对比  暖心“小艺通话”：让语障人士告别沟通困境，拥抱平等生活  AI末日预言？智能聊天机器人真的能替代信仰吗？  AI视频播客制作终极指南：告别繁琐编辑，轻松发布！  百度ai助手怎么取消 百度ai助手取消显示设置 

 2023-12-15