神经网络在算法交易上的应用系列——简单时序预测

cyhbrilliant 2019-04-19

我们想从零实现只基于深度学习模型的交易系统，对于在研究过程中我们遇到的任何问题（价格预测，交易策略，风险管理）我们都将采用不同类型的人工神经网络（ANNS）来解决，同时也会检验它们在处理这些问题的效果到底如何。

在第一部分，我们想演示MLPs（多层感知机）,CNNs（卷积神经网络）和RNN（递归或循环神经网络）是如何应用到时间序列预测上的。这部分中，我们不准备使用任何特征工程。而只考虑S&P500指数价格变化的历史数据。我们有1950年到2016年每天的开、高、低、收和成交量数据。首先，我们尝试预测下一个交易日最后的收盘价，然后，尝试预测收益率（收到开）。从Yahoo Finance下载数据。

神经网络在算法交易上的应用系列——简单时序预测

链接：

https://finance.yahoo.com/quote/%5EGSPC/history?ltr=1

问题定义

我们把我们问题看作：

1、回归问题（预测具体的收盘价格或第二天的收益率）

2、二分类问题（价格上涨[1;0]或下跌[0;1]）

我们将使用Keras框架对NNs进行训练。

首先让我们准备训练数据。我们想根据N天前的信息来预测t+1的值。例如，有过去30天的行情数据，我们想预测明天，即第31天的价格是多少。

我们使用了90%的时间序列作为训练集（把它当作历史数据），剩下的10%作为模型评估的测试集。

这里是导入数据，将数据分成训练集和原始数据的预处理例子：

def load_snp_close():
 f = open('table.csv', 'rb').readlines()[1:]
 raw_data = []
 raw_dates = []
 for line in f:
 try:
 close_price = float(line.split(',')[4])
 raw_data.append(close_price)
 raw_dates.append(line.split(',')[0])
 except:
 continue
 return raw_data, raw_dates
def split_into_chunks(data, train, predict, step, binary=True, scale=True):
 X, Y = [], []
 for i in range(0, len(data), step):
 try:
 x_i = data[i:i+train]
 y_i = data[i+train+predict]
 if binary:
 if y_i > 0.:
 y_i = [1., 0.]
 else:
 y_i = [0., 1.]
 if scale: x_i = preprocessing.scale(x_i)
 else:
 timeseries = np.array(data[i:i+train+predict])
 if scale: timeseries = preprocessing.scale(timeseries)
 x_i = timeseries[:-1]
 y_i = timeseries[-1]
 except:
 break
 X.append(x_i)
 Y.append(y_i)
 return X, Y

回归问题 MLP

它只是含2个隐藏层的感知器。隐藏神经元的数量是根据经验选择的，我们将在下一个部分进行超参数的最优化。在两个隐藏层之间，我们添加一个退出层来防止过拟合。

编译器中重要的是Dense(1)，Activation(‘Linear’) 和 ‘mse’。我们想得到一个可以在任意范围内的输出结果（我们预测真实价格），损失函数定义成均方差。

model = Sequential()
model.add(Dense(500, input_shape = (TRAIN_SIZE, )))
model.add(Activation('relu'))
model.add(Dropout(0.25))
model.add(Dense(250))
model.add(Activation('relu'))
model.add(Dense(1))
model.add(Activation('linear'))
model.compile(optimizer='adam', loss='mse')

让我们看看如果我们仅输入20天的收盘价来预测第21天的价格结果会是什么样的。最终MSE= 46.3635263557，但它不是非常具有代表性的信息。下面是测试集前150个点的预测图，黑线是实际数据，蓝线是预测数据。我们可以清楚地看到，我们的算法甚至都不接近真实值，但可以学习到趋势。

predicted = model.predict(X_test)
try:
 fig = plt.figure(figsize=(width, height))
 plt.plot(Y_test[:150], color='black')
 plt.plot(predicted[:150], color='blue')
 plt.show()
except Exception as e:
 print str(e)

神经网络在算法交易上的应用系列——简单时序预测

让我们使用sklearn的方法 preprocessing.scale() 把时间序列数据标准化为均值为0，方差为1的序列。然后用同样的MLP来训练。现在我们有了MSE = 0.0040424330518（但是它是基于标准化的数据）。在下面的图中，你可以看到标准化的时间序列（黑色）和我们的预测值（蓝色）:

神经网络在算法交易上的应用系列——简单时序预测

实际中我们使用这个模型时，我们需要对时间序列进行去标准化。我们可以通过乘上用来预测的时间序列的20天标准差，然后加上它的均值来实现：

params = []
for xt in X_testp: 
 xt = np.array(xt)
 mean_ = xt.mean()
 scale_ = xt.std()
 params.append([mean_, scale_])
predicted = model.predict(X_test)
new_predicted = []
for pred, par in zip(predicted, params):
 a = pred*par[1]
 a += par[0]
 new_predicted.append(a)

这个例子中MSE等于937.963649937. 下图是还原的预测值（红色）和真实数据（绿色）：

神经网络在算法交易上的应用系列——简单时序预测

是不是还可以？ 但是，让我们尝试更加复杂的算法来解决这个问题。

回归问题 CNN

我们不打算深入讲解卷积神经网络理论，但你可以查看下列非常棒的资源：

1、Stanford CNNs for Computer Vision course

神经网络在算法交易上的应用系列——简单时序预测

链接：http://cs231n.github.io

2、Denny Britz的博客，内容真的超级棒！

神经网络在算法交易上的应用系列——简单时序预测

链接：http://www.wildml.com

让我们定义一个带一个全连接层的两层卷积神经网络（卷积层和池化层组合），输出和前面的相同：

model = Sequential()
model.add(Convolution1D(input_shape = (TRAIN_SIZE, EMB_SIZE), 
 nb_filter=64,
 filter_length=2,
 border_mode='valid',
 activation='relu',
 subsample_length=1))
model.add(MaxPooling1D(pool_length=2))
model.add(Convolution1D(input_shape = (TRAIN_SIZE, EMB_SIZE), 
 nb_filter=64,
 filter_length=2,
 border_mode='valid',
 activation='relu',
 subsample_length=1))
model.add(MaxPooling1D(pool_length=2))
model.add(Dropout(0.25))
model.add(Flatten())
model.add(Dense(250))
model.add(Dropout(0.25))
model.add(Activation('relu'))
model.add(Dense(1))
model.add(Activation('linear'))

检验我们的结果。标准化的和恢复的数据MSE分别是0.227074542433和935.520550172.如图所示：

神经网络在算法交易上的应用系列——简单时序预测

神经网络在算法交易上的应用系列——简单时序预测

即便是看标准化数据的MSE，这个神经网络学习效果更差。最有可能的是，更深层的架构需要更多的数据来训练，否则只是大量过滤或层数造成的过拟合。

回归问题 RNN

作为循环架构，我想去用两个堆叠的LSTM层。

更多关于LSTM信息读这里：

神经网络在算法交易上的应用系列——简单时序预测

链接：

http://colah.github.io/posts/2015-08-Understanding-LSTMs/

model = Sequential()
model.add(LSTM(input_shape = (EMB_SIZE,), input_dim=EMB_SIZE, output_dim=HIDDEN_RNN, return_sequences=True))
model.add(LSTM(input_shape = (EMB_SIZE,), input_dim=EMB_SIZE, output_dim=HIDDEN_RNN, return_sequences=False))
model.add(Dense(1))
model.add(Activation('linear'))

预测图如下：

MSEs=0.0246238639582,939.948636707

神经网络在算法交易上的应用系列——简单时序预测

RNN预测看起来更像移动平均模型，他不能学习和预测所有的波动。

所以，这是一个有点出乎意料的结果，但我们可以看到，对于这个时间序列的预测,MLPs工作得更好。让我们看看如果我们从回归转变到分类问题的结果。现在我们不用收盘价，而用每天收益（收盘到开盘），我们想基于过去20天的日收益率来预测收盘价比开盘价高还是低。

神经网络在算法交易上的应用系列——简单时序预测

分类问题 MLP

代码只做了微调，我们改变了最后的Dense 层，令结果为[0;1]或[1;0]，并增加逻辑回归使输出结果为期望概率。

为了得到二元输出，下面代码做修改：

split_into_chunks(timeseries, TRAIN_SIZE, TARGET_TIME, LAG_SIZE, binary=False, scale=True)
split_into_chunks(timeseries, TRAIN_SIZE, TARGET_TIME, LAG_SIZE, binary=True, scale=True)

同样，我们修改损失函数为二元交叉熵，并增加准确率指标。

model = Sequential()
model.add(Dense(500, input_shape = (TRAIN_SIZE, )))
model.add(Activation('relu'))
model.add(Dropout(0.25))
model.add(Dense(250))
model.add(Activation('relu'))
model.add(Dense(2))
model.add(Activation('softmax'))
model.compile(optimizer='adam', 
 loss='binary_crossentropy', 
 metrics=['accuracy'])

神经网络在算法交易上的应用系列——简单时序预测

不比随机猜测好到哪去（50%准确率），我们尝试些更好的。看看下面的结果。

分类问题CNN

model = Sequential()
model.add(Convolution1D(input_shape = (TRAIN_SIZE, EMB_SIZE), 
 nb_filter=64,
 filter_length=2,
 border_mode='valid',
 activation='relu',
 subsample_length=1))
model.add(MaxPooling1D(pool_length=2))
model.add(Convolution1D(input_shape = (TRAIN_SIZE, EMB_SIZE), 
 nb_filter=64,
 filter_length=2,
 border_mode='valid',
 activation='relu',
 subsample_length=1))
model.add(MaxPooling1D(pool_length=2))
model.add(Dropout(0.25))
model.add(Flatten())
model.add(Dense(250))
model.add(Dropout(0.25))
model.add(Activation('relu'))
model.add(Dense(2))
model.add(Activation('softmax'))
history = TrainingHistory()
model.compile(optimizer='adam', 
 loss='binary_crossentropy', 
 metrics=['accuracy'])

神经网络在算法交易上的应用系列——简单时序预测

分类问题CNN

model = Sequential()
model.add(LSTM(input_shape = (EMB_SIZE,), input_dim=EMB_SIZE, output_dim=HIDDEN_RNN, return_sequences=True))
model.add(LSTM(input_shape = (EMB_SIZE,), input_dim=EMB_SIZE, output_dim=HIDDEN_RNN, return_sequences=False))
model.add(Dense(2))
model.add(Activation('softmax'))
model.compile(optimizer='adam', 
 loss='binary_crossentropy', 
 metrics=['accuracy'])

神经网络在算法交易上的应用系列——简单时序预测

结论

我们可以看到，将时间序列预测作为回归问题对待的方法更好，它可以学习到序列的趋势并且预测价格和真实值接近。

令我们吃惊的是，MLPs处理序列数据的效果比被认为更擅长处理时间序列数据的CNNs和RNNs更好。我是用非常小的数据集（16K时间序列）和虚拟超参数选择来解释的。

你可以使用文中代码来重现结果和获得更好的结果。

我们认为可以在回归和分类上得到更好的结果，通过使用不同的特征（不仅仅是标准化的时间序列），像一些技术指标等。我们还可以尝试更高频率的数据，比如说分钟数据，可以获得更多的训练数据。

原文链接：

https://medium.com/@alexrachnog/neural-networks-for-algorithmic-trading-part-one-simple-time-series-forecasting-f992daa1045a

原文发布于微信公众号 - 量化投资与机器学习（Lhtz_Jqxx）

cyhbrilliant

cyhbrilliant

相关推荐

轻松构建算法交易机器：一点python基础＋一点运气

人工智能的新突破每天都成为头条新闻。在金融领域，因其具有深厚历史、清楚明了和结构化数据，机器学习广泛运用。最终，金融领域成为了“学习机器”的一个早期标志，在这个领域取得的巨大成功还在继续。下一步需要可以通过API递交免佣金交易的交易平台。这一步会用到Alp

bobbypollo / 0评论 2019-12-17

算法交易系统架构，此篇足矣！

算法交易是使用计算机算法自动做出交易决策，提交指令并在提交后管理那些指令。算法交易系统最好使用由三个组件组成的简单概念架构来理解，这些组件处理算法交易系统的不同方面，即数据处理程序、策略处理程序和交易执行处理程序。这些组件与上述算法交易的定义一一映射。在今

蜗牛慢爬的李成广 / 0评论 2019-12-11

搞了个机器学习交易系统，5000 美元投资变成了 20 万

最近，我开发了一个加密货币自动交易系统。因为有科研和软件工程方面的背景，我忽略了那些不是很科学的东西，比如市场营销。经过多次迭代，我开发的 ML 交易系统，在 12 个月内把 5 千美元的投资变成了 20 万，最好的战绩是连续 4 个月不亏损。虽然在一天的

lanviki0 / 0评论 2019-12-07

代码详解：基于均值-方差优化法的Python算法交易

本文旨在展示如何用马科维茨的投资组合优化法和现代资产组合理论来生成交易策略。如前所述，将使用zipline框架对它们进行回测。1952年，哈里·马科维茨发表了“投资组合理论”，其中介绍了现名为现代资产组合理论的投资理论。一个多月来，X的价格急剧上升，而Y的

从早忙到晚的闲人 / 0评论 2019-11-07

独家｜Python建立能源市场算法交易的机器学习框架（附链接）

本文约4200字，建议阅读14分钟。本文将基于机器学习运用Python对欧洲碳排放证书市场建立算法交易框架。在金融领域，机器学习的广泛运用和强大的应用，客户们并不了解。在一个完全有效的排放交易市场中，许可证的均衡价格将以最终减排单位的边际减排成本为基础，以

小白将 / 0评论 2018-09-01

如何使用Python在QuantConnect中实现基本交易算法

有没有想过如何将您的机器学习/数据科学技能应用于算法交易？如果您已经了解Python和数据科学的基本统计原理，那么您已经走在了前面。将机器学习模型转换为交易算法非常简单，只要您知道在这些环境中数据是如何处理和执行的。让我们看一下超级基本的机器学习模型。se

LITElric / 0评论 2018-10-19

深度｜用于能源市场算法交易的机器学习框架

与直接面向客户相比，机器学习在金融领域的应用鲜为人知。事实上，几乎没有哪个行业像金融业那样有那样多干净的、结构化的数据，这也是金融业成为机器学习"宠儿"的原因。大约三年前，作者参与开发了机器学习模型用于能源市场的价格预测和算法交易，特别

zhaorui0 / 0评论 2018-07-19

在Ubuntu下用Python搭建桌面算法交易研究环境

Pandas是专为数据“冲突”设计的，它可以高效地导入和清洗时间序列数据。NumPy/SciPy在底层运行，使得系统被很好的优化。scikit-learn可让我们将机器学习技术应用到我们的策略中，以进一步提高性能。现在，我们已经下载了Ubuntu ，接下来

Alibabalhl / 0评论 2013-11-09

如何在金融网站运用算法交易AI？

在这篇文章中，我们将重点关注bars：它们有什么问题？如何正确地处理以用于机器学习模型？在重新认识bars之后，你会发现几种从bars构建输入和输出的新方法。我们将会以统计和试验的方式来进行比较。我们习惯用所谓的“蜡烛图”来表示特定时间段的开盘价，最高价，

rioalian / 0评论 2019-03-17