400 128 6709

行业新闻

【Autoregressive】从0构造一个基于Paddle的自回归模型库

发布时间:2025-07-16点击次数:
本文展示基于Paddle构建自回归模型库PaddleAutoregressive的过程。先介绍自回归模型原理,说明其本质为线性模型组合。接着展示基础模块Autoregressive类的搭建,以此封装出AR模型,还介绍了数据读取、模型训练与预测的实现。最后说明将代码封装为库的方法,方便用户通过源码下载、PIP安装和导入使用。项目会持续更新,欢迎交流。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

【autoregressive】从0构造一个基于paddle的自回归模型库 -

PaddleAutoregressive 从0构造一个基于Paddle的自回归模型库

自回归是一个传统的时间序列方法,已经有很多开源框架集成提供了对应的使用方法。为了更加便利地使用Paddle进行开发,本项目目的是开发一个基于Paddle的自回归时间序列库。

关于Autoregressive

参考百度百科:“自回归模型(英语:Autoregressive model,简称AR模型),是统计上一种处理时间序列的方法,用同一变数例如x的之前各期,亦即x1至xt-1来预测本期xt的表现,并假设它们为一线性关系。因为这是从回归分析中的线性回归发展而来,只是不用x预测y,而是用x预测 x(自己);所以叫做自回归”。

简单来说,自回归模型本质是一种线性模型,即paddle.nn.Linear。迄今为止,自回归模型已经有很多派生,比如ARX、ARMA、ARARX等等,但这些模型仍然可以通过对Lienar进行组合实现。

关于本项目

本项目并非一个库的推广,而是构造一个库的过程的展示。整个内容会比较粗浅,欢迎大家一起学习交流。

PaddleAutoregressive会随着时间(我闲的没事的时候)而不断更新,维护地址为:https://github.com/Liyulingyue/PaddleAutoregressive,如果大家感兴趣欢迎前往提ISSUR或PR。也可以直接在本项目下评论~

内容介绍

本次介绍的内容如下:

  • 网络 Autoregressive
  • AR模型的实现与训练
  • 封装为库(Setup.py的攥写),通过这种方式可以简单的让大家通过“下载源码 - PIP - import”的方式使用代码

自回归模型

参考知乎页面,几个自回归模型的可以看做满足以下格式:

A(p)y(k)=B(q)u(k)+C(o)v(k)A(p)y(k)=B(q)u(k)+C(o)v(k)

其中:

  • A(p)y(k)=y(k)+a1y(k1)+a2y(k2)+...+apy(kp)A(p)y(k)=y(k)+a1y(k−1)+a2y(k−2)+...+apy(k−p),B(q)u(k)B(q)u(k)和C(o)v(k)C(o)v(k)类似。
  • yy是因变量
  • uu是自变量
  • vv是扰动项。

特别的,对于最基础的AR模型,可设BB和CC为0,即

A(p)y(k)=0A(p)y(k)=0

A(p)y(k)=y(k)+a1y(k1)+a2y(k2)+...+apy(kp)⇒A(p)y(k)=y(k)+a1y(k−1)+a2y(k−2)+...+apy(k−p)

y(k)=a1y(k1)a2y(k2)...apy(kp)⇒y(k)=−a1y(k−1)−a2y(k−2)−...−apy(k−p)

因而,我们可以实现一个通用的基础模块,并在这个基础模块的基础上不断封装从而实现AR、ARMA、FIR等时间预测模型。

简小派 简小派

简小派是一款AI原生求职工具,通过简历优化、岗位匹配、项目生成、模拟面试与智能投递,全链路提升求职成功率,帮助普通人更快拿到更好的 offer。

简小派 123 查看详情 简小派

代码

基础模块的搭建

显然,自回归模型是一些Linear层的组合。只需要设定各个输入的阶数,在网络中配置对应的Linear层即可。

In [1]
import paddleclass Autoregressive(paddle.nn.Layer):
    def __init__(self, y_features, x_features, e_features):
        # y_features 是一个整数,是因变量的阶数
        # x_features 是一个由整数组成的list,是自变量的阶数,例如有10个自变量,则list的长度为10,每个变量的阶数都可以有所不同
        # e_features 是一个整数,误差的阶数
        super(Autoregressive, self).__init__()

        self.y_features = y_features
        self.x_features = x_features
        self.e_features = e_features        # 构造一个linear_list用于动态构造Linear层
        linear_list = []        if y_features != 0:
            linear_list.append(paddle.nn.Linear(y_features, 1, bias_attr=True))        for _x in x_features:
            linear_list.append(paddle.nn.Linear(_x, 1, bias_attr=True))        if e_features != 0:
            linear_list.append(paddle.nn.Linear(e_features, 1, bias_attr=True))        
        # 将构造好的网络进行组合
        self.linear_list = paddle.nn.Sequential(*linear_list)    def forward(self, *inputs):
        # 自回归模型本质是各个Linear的加法,用0初始化输出变量
        output = paddle.to_tensor([0]).astype('float32')        # 逐个Linear计算
        for i in range(len(self.linear_list)):
            output += self.linear_list[i](inputs[i])            
        return output

如果我们想模拟FIR(Finite Impulse Response)滤波器,只需要对应的设置y_feature = 0,e_features = 0即可。下述代码建立了一个一阶FIR。

In [2]
model = Autoregressive(0, [1], 0)
x = paddle.to_tensor(1,dtype='float32').reshape([1,1])
model(x)
Tensor(shape=[1, 1], dtype=float32, place=Place(cpu), stop_gradient=False,
       [[0.52980936]])

基于Autoregressive构造AR

AR是自回归模型,即仅保留y_features为对应阶数,x_features 设为 [],e_features设为0即可。从用户的角度来说,他们只希望填入y_features,并不像更多的给x_features进行赋值。因而,我们可以进行适当的封装,仅留一个参数给用户输入即可。

In [4]
import paddleclass AR(paddle.nn.Layer):
    def __init__(self, y_features):
        super(AR, self).__init__()
        self.y_features = y_features
        self.Autoregressive = Autoregressive(y_features, [], 0)    def forward(self, *inputs):
        # 只有自回归变量y输入,传入inputs和传入inputs[0]都可以
        output = self.Autoregressive(inputs[0])        return output

这里也可以通过继承父类的方式实现,考虑到后续的扩展,例如预测隐变量(具体怎么使用Paddle做到还没考虑好),这里优先通过模型组网的方式实现。

In [5]
model = AR(5)
paddle.summary(model,(5,5))
----------------------------------------------------------------------------
  Layer (type)       Input Shape          Output Shape         Param #    
============================================================================
    Linear-2           [[5, 5]]              [5, 1]               6       
Autoregressive-2       [[5, 5]]              [5, 1]               0       
============================================================================
Total params: 6
Trainable params: 6
Non-trainable params: 0
----------------------------------------------------------------------------
Input size (MB): 0.00
Forward/backward pass size (MB): 0.00
Params size (MB): 0.00
Estimated Total Size (MB): 0.00
----------------------------------------------------------------------------
{'total_params': 6, 'trainable_params': 6}

模型使用

构造数据读取器

数据使用空气质量数据集。

In [9]
# 读取数据,复现时请到上述链接中下载文件,解压后,将csv文件放在aistudio目录中import pandas as pdimport numpy as np

df = pd.read_csv('AirQualityUCI.csv', sep=';')
df = df.dropna(how = 'all')
y = df.iloc[:,3].to_list()# 对y进行简单预处理,映射为均值为1的序列y = (np.array(y)/np.array(y).mean()).tolist()
In [10]
import paddleclass MyDateset(paddle.io.Dataset):
    def __init__(self, y_list = y, q = 100, mode = 'train'): # q是阶数
        super(MyDateset, self).__init__()

        self.mode = mode
        self.y = y
        self.q = q    def __getitem__(self, index):
        data = self.y[index:index+self.q]
        label = self.y[index + self.q]
        data = paddle.to_tensor(data, dtype='float32').reshape([self.q])
        label = paddle.to_tensor(label, dtype='float32')        return data,label    def __len__(self):
        return len(self.y)-self.qif 1:
    train_dataset=MyDateset(y, 100)

    train_dataloader = paddle.io.DataLoader(
        train_dataset,
        batch_size=16,
        shuffle=True,
        drop_last=False)    for step, data in enumerate(train_dataloader):
        data, label = data        print(step, data.shape, label.shape)        break
0 [16, 100] [16, 1]

模型训练

In [ ]
model = AR(100)
model.train()if 1:    try:        # 接续之前的模型重复训练
        param_dict = paddle.load('./model.pdparams')
        model.load_dict(param_dict)    except:        print('no such model file')

train_dataset=MyDateset(y, 100)
train_dataloader = paddle.io.DataLoader(
    train_dataset,
    batch_size=64,
    shuffle=True,
    drop_last=False)

max_epoch=100scheduler = paddle.optimizer.lr.CosineAnnealingDecay(learning_rate=0.00001, T_max=max_epoch)
opt = paddle.optimizer.Adam(learning_rate=scheduler, parameters=model.parameters())

now_step=0for epoch in range(max_epoch):    for step, data in enumerate(train_dataloader):
        now_step+=1

        img, label = data
        pre = model(img)
        loss = paddle.nn.functional.mse_loss(pre, label).mean()

        loss.backward()
        opt.step()
        opt.clear_gradients()        if now_step%100==0:            print("epoch: {}, batch: {}, loss is: {}".format(epoch, step, loss.mean().numpy()))

paddle.s*e(model.state_dict(), 'model.pdparams')

模型预测

训练好模型后,可以朝后预测。这里给出一个预测100个数据的demo。

In [ ]
data = y[-100:]for i in range(100):
    input_y = data[i:i+100]
    input_y = paddle.to_tensor(input_y).reshape([1,100])
    output_y = model(input_y)
    data.append(output_y.numpy()[0][0])

构造包

参考简书 - 编写 python package 中的 setup.py 文件

如果希望用户能够通过“pip - import”的方式使用编写后的代码,需要进行如下操作:

  1. 建立一个文件夹
  2. 将代码文件都塞到文件夹内
  3. 和文件夹同级目录下编写setup.py文件

本项目的文件夹路径如下

|- PaddleAutoregressive
   |- __init__.py # 留空即可
   |- AR.py # AR的模型声明,需要从Autoregressive.py中import Autoregressive,打包后import路径要从包名开始
   |- Autoregressive.py # 基础模型的声明|-setup.py

setup.py内容如下:

from setuptools import setup, find_packages

setup(    name='PaddleAutoregressive',    packages=find_packages()
)

上传至github后,即可让用户从拉取源码,pip install -e .,import的方式使用写好的代码啦~

从Git Clone开始使用Autoregressive

In [ ]
# 下载代码! git clone https://github.com/Liyulingyue/PaddleAutoregressive.git
%cd ~/PaddleAutoregressive# 安装! pip install -e .
In [ ]
%cd ~import PaddleAutoregressive.AR as ARimport paddle
model = AR.AR(5)
paddle.summary(model,(5,5))

接下来,就可以将AR模型和Paddle模型进行任意组网和训练啦~

以上就是【Autoregressive】从0构造一个基于Paddle的自回归模型库的详细内容,更多请关注其它相关文章!


# git  # 四川移动营销推广公司  # 前端网站建设和维护  # 白蕉镇网络营销推广  # seo每天更新几次合适  # 柳州靠谱网站建设推广  # seo总结ppt范文  # 这是  # 装出  # 官网  # 只需要  # 中文网  # 可以通过  # 有很多  # python  # ai  # 百度  # csv文件  # cos  # yy  # pip安装  # udio  # type  # 是一个  # 一言  # 设为  # 常州先进网站建设哪家好  # 新民网站建设制作  # 彩妆关键词排名大全图片  # 衡阳网站优化电池流程 


相关栏目: 【 行业新闻62819 】 【 科技资讯67470


相关推荐: 美图吴欣鸿:希望更多人用上AI时代的影像生产力工具  V社回应拒绝上架含 AI 生成内容的游戏:审核政策正在调整中  微软为 AI 初学者推出免费网课:为期 12 周,共 24 节课  “思享荟”沙龙热议AIGC与元宇宙 复旦大学赵星畅谈深度数字化  13万个注释神经元,5300万个突触,普林斯顿大学等发布首个完整「成年果蝇」大脑连接组  AI智能室内效果图设计软件效果,确实惊到我了!  微软商店 AI 摘要功能开启预览,帮助用户迅速了解应用评价  测试框架-安全和自动驾驶  陈根:ChatGPT和人类合作开发机器人  焊接协作机器人或将成为26届埃森展最大看点  泗洪:畅通城市“血管” ,管下机器人来帮忙  上海发布大模型政策 打造AI“模”都  Vision Pro 太贵,苹果基于 iPhone 的 VR 头显专利曝光  百亿量化私募:量化投资进入“精耕细作”时代 AI带来行业新变革  讯飞星火大模型实现升级 助力通用人工智能人才培养  AI会帮我们把活干完吗?  借力AI!PCB全球巨头,有爆发潜质吗?  兆讯传媒率先全面拥抱AI 数智广告内容焕发新生机  电力人工智能数据集目录首次发布  李开复官宣新公司「零一万物」,进军 AI 2.0  人工智能的变革之路:通过OpenAI的GPT-4漫游  Meta开源文本生成音乐大模型,我们用《七里香》歌词试了下  家电行业观察:AI加持下,全屋智能将成为智能家电未来?  央视报道车载人机交互技术!MWC上海魅族表现亮眼,现场热火朝天  AI成政客博弈工具,美国大选真假难辨,律师们的生意来了  上天下海登极,青岛与昇腾AI握手一起探索星辰大海  中国移动副总经理高同庆:打造人工智能时代的智能服务运营新范式  重磅! 捷通华声灵云AICC荣获第二届光合组织AI解决方案大赛二等奖  统信深度deepin成立 AI SIG 社区,共同提升 Linux 下 AI 体验  Moka发布AI原生HR SaaS产品“Moka Eva”,布局AGI时代  基于信息论的校准技术,CML让多模态机器学习更可靠  腾讯企点客服接待与营销分析能力升级!企业操作更高效、人机交互更智能  英特尔张宇:边缘计算在整个AI生态系统中扮演重要角色  Meta 推出 Quest 超级分辨率技术,让 VR 画面更清晰  揭示经济学论文写作中提高效率与质量的AI助手应用策略  令人震惊的特斯拉机器人  人工智能驱动智能建筑会是未来趋势吗?  首届亚太网络法实务大会召开 九位大咖探讨元宇宙与人工智能发展  “世界上最像人的机器人”接入 Stable Diffusion ,现场完成作画  软通动力多项AI创新产品及应用亮相2025世界人工智能大会  为AI而服务设计:构建以人为本的AI创新方法  Prompt解锁语音语言模型生成能力,SpeechGen实现语音翻译、修补多项任务  网友自制 AI 版《流浪地球 3》预告片,登上 CCTV6  Databricks 发布大数据分析平台 Spark 用 AI 模型 SDK:一键生成 SQL 及 FySpark 语言图表代码  实测 AI 建筑设计软件的自动生成效果图能力  日媒关注中国推进鸟类识别 AI 普及,除监测保护外还可预防传染性疾病  人工智能快速发展 打开就业新空间  WPS AI 官网上线:可申请体验官资格,支持 Windows、安卓端下载  如布AI口袋学习机S12 将亮相综艺节目《好样的!国货》  三个全球首创,青岛西海岸新区“海元宇宙”亮相世界人工智能大会 

400 128 6709
E-mail

contact@tlftec.cn

扫一扫,添加微信

©  云南淘乐房科技有限公司 版权所有  滇ICP备2025071560号  

云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司