Hexo
0%

vectorbt学习_46DMA之六滑窗网格参数优选

Posted on Edited on In ,

本文基于上一篇文章(vectorbt学习_17DMA之五滑窗网格参数优选)。
之前每个周期(训练集)的最佳参数，都是采用直接优选的方法。可能存在局部最优过拟合陷阱（某个参数效果很好，但是其邻居效果奇差）。

新增3种参数优选方法，一定程度上降低参数过拟合的可能。

v1:直接(简单最大值)优选法
选取，测试集合的最优参数作为验证集参数，如果sharp_ratio就最大，回撤就最小类似这样的简单优选策略。

v2:邻近域优选法
在上一个策略中，实际上是选取，测试集合的最优参数作为验证集参数。而有些情况下，测试集得到参数会突然发生较大变化，这可能偶发事件导致的，
比如：之前的双均线最佳参数一直是，（20，40），本期突然变成（80，160），显然不大合理，为了避免这种突变，让参数的变化也具有一定连贯性（当然，增加连贯性也一定程度降低过拟合风险）

v3:邻居权重优选法-均值
在评估一组参数是否最佳时，并不单纯观察此参数本身是否最优，而是综合考虑参数本以及参数的邻居表现。
比如：
0.5 0.7 0.5 0.2 0.2
0.8 0.7 0.6 0.9 0.2
0.5 0.7 0.5 0.2 0.2
按照基础的最大值法，则选择0.9，但是0.9的邻居表现均不佳。
定义：新取值=原值 + (邻居的平均值)
则可以综合考虑参数本身和参数邻居点的表现。

v4:邻居权重优选法-中位数
由于均值受极值影响较大，可以考虑用 median( 多个邻居)，代替上面”邻居的平均值”。

01,基础配置信息

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
#conda envs:vectorbt_env
import warnings
import vectorbt as vbt
import numpy as np
import pandas as pd
from datetime import datetime, timedelta
import pytz
from dateutil.parser import parse
import ipywidgets as widgets
from copy import deepcopy
from tqdm import tqdm
import imageio
from IPython import display
import plotly.graph_objects as go
import itertools
import dateparser
import gc
import math
from tools import dbtools 

warnings.filterwarnings("ignore")

pd.set_option('display.max_rows',500)
pd.set_option('display.max_columns',500)
pd.set_option('display.width',1000)

02,行情获取和可视化

a,时间交易参数配置

1
2
3
4
5
6
7
8
9
10
11
12
13
# Enter your parameters here
seed = 42
symbol = '002594.XSHE'
metric = 'total_return'

start_date = datetime(2020, 1, 1, tzinfo=pytz.utc)  # time period for analysis, must be timezone-aware
end_date = datetime(2023,1,1, tzinfo=pytz.utc)
time_buffer = timedelta(days=100)  # buffer before to pre-calculate SMA/EMA, best to set to max window
freq = '1D'

vbt.settings.portfolio['init_cash'] = 10000.  # 100$
vbt.settings.portfolio['fees'] = 0.0025  # 0.25%
vbt.settings.portfolio['slippage'] = 0.0025  # 0.25%

b,获取行情和行情mask

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
# Download data with time buffer
cols = ['Open', 'High', 'Low', 'Close', 'Volume']
# ohlcv_wbuf = vbt.YFData.download(symbol, start=start_date-time_buffer, end=end_date).get(cols)

ohlcv_wbuf=dbtools.MySQLData.download(symbol).get() # 自带工具类查询
assert(~ohlcv_wbuf.empty)
ohlcv_wbuf = ohlcv_wbuf.astype(np.float64)

print("ohlcv_wbuf.shape:",ohlcv_wbuf.shape)
print("ohlcv_wbuf.columns:",ohlcv_wbuf.columns)


# Create a copy of data without time buffer
wobuf_mask = (ohlcv_wbuf.index >= start_date) & (ohlcv_wbuf.index <= end_date) # mask without buffer

ohlcv = ohlcv_wbuf.loc[wobuf_mask, :]

print("ohlcv.shape:",ohlcv.shape)

# Plot the OHLC data
ohlcv.vbt.ohlcv.plot().show_svg() # 绘制蜡烛图
# remove show_svg() to display interactive chart!
ohlcv_wbuf.shape: (978, 5)
ohlcv_wbuf.columns: Index(['Open', 'High', 'Low', 'Close', 'Volume'], dtype='object')
ohlcv.shape: (728, 5)

svg

20,网格参数-指标计算和可视化

仅可视化第一列

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
fast_windows = np.arange(10, 50,5)
slow_multis = np.arange(1.5, 5.5, 0.5)
print("fast_windows:",fast_windows)
print("slow_multis:",slow_multis)

price_wbuf=ohlcv_wbuf['Close']
dualma = vbt.DualMA.run(price_wbuf, fast_window=fast_windows,slow_multi=slow_multis,param_product=True)
dualma = dualma[wobuf_mask]
# there should be no nans after removing time buffer
assert(~dualma.fast_ma.isnull().any().any())
assert(~dualma.slow_ma.isnull().any().any())


print()
print('dualma.fast_ma.head(3)')
print(dualma.fast_ma.head(3))
print('dualma.slow_ma.head(3)')
print(dualma.slow_ma.head(3))

print()
fig = ohlcv['Close'].vbt.plot(trace_kwargs=dict(name='Price'))
fig = dualma.fast_ma.iloc[:,0].vbt.plot(trace_kwargs=dict(name="Fast MA col %s"%str(dualma.fast_ma.iloc[:,0].name)), fig=fig)
fig = dualma.slow_ma.iloc[:,0].vbt.plot(trace_kwargs=dict(name="Slow MA col %s"%str(dualma.slow_ma.iloc[:,0].name)), fig=fig)
fig.show_svg()

fast_windows: [10 15 20 25 30 35 40 45]
slow_multis: [1.5 2.  2.5 3.  3.5 4.  4.5 5. ]

dualma.fast_ma.head(3)
dualma_fast_window             10                                                                 15                                                                                    20                                                                      25                                                                        30                                                                                      35                                                                                    40                                                                        45                                                                             
dualma_slow_multi             1.5     2.0     2.5     3.0     3.5     4.0     4.5     5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5        5.0      1.5      2.0      2.5      3.0      3.5      4.0      4.5      5.0      1.5      2.0      2.5      3.0      3.5      4.0      4.5      5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5        5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5        5.0      1.5      2.0      2.5      3.0      3.5      4.0      4.5      5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5        5.0
date                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             
2020-01-02 00:00:00+00:00  46.665  46.665  46.665  46.665  46.665  46.665  46.665  46.665  45.824667  45.824667  45.824667  45.824667  45.824667  45.824667  45.824667  45.824667  45.3025  45.3025  45.3025  45.3025  45.3025  45.3025  45.3025  45.3025  44.9476  44.9476  44.9476  44.9476  44.9476  44.9476  44.9476  44.9476  44.816667  44.816667  44.816667  44.816667  44.816667  44.816667  44.816667  44.816667  44.594571  44.594571  44.594571  44.594571  44.594571  44.594571  44.594571  44.594571  44.5425  44.5425  44.5425  44.5425  44.5425  44.5425  44.5425  44.5425  44.440222  44.440222  44.440222  44.440222  44.440222  44.440222  44.440222  44.440222
2020-01-03 00:00:00+00:00  46.972  46.972  46.972  46.972  46.972  46.972  46.972  46.972  46.128667  46.128667  46.128667  46.128667  46.128667  46.128667  46.128667  46.128667  45.5025  45.5025  45.5025  45.5025  45.5025  45.5025  45.5025  45.5025  45.1420  45.1420  45.1420  45.1420  45.1420  45.1420  45.1420  45.1420  44.964000  44.964000  44.964000  44.964000  44.964000  44.964000  44.964000  44.964000  44.723714  44.723714  44.723714  44.723714  44.723714  44.723714  44.723714  44.723714  44.6265  44.6265  44.6265  44.6265  44.6265  44.6265  44.6265  44.6265  44.555556  44.555556  44.555556  44.555556  44.555556  44.555556  44.555556  44.555556
2020-01-06 00:00:00+00:00  47.138  47.138  47.138  47.138  47.138  47.138  47.138  47.138  46.456000  46.456000  46.456000  46.456000  46.456000  46.456000  46.456000  46.456000  45.7310  45.7310  45.7310  45.7310  45.7310  45.7310  45.7310  45.7310  45.3376  45.3376  45.3376  45.3376  45.3376  45.3376  45.3376  45.3376  45.112667  45.112667  45.112667  45.112667  45.112667  45.112667  45.112667  45.112667  44.871143  44.871143  44.871143  44.871143  44.871143  44.871143  44.871143  44.871143  44.7115  44.7115  44.7115  44.7115  44.7115  44.7115  44.7115  44.7115  44.660222  44.660222  44.660222  44.660222  44.660222  44.660222  44.660222  44.660222
dualma.slow_ma.head(3)
dualma_fast_window                10                                                                              15                                                                                      20                                                                                25                                                                                 30                                                                                    35                                                                                      40                                                                                   45                                                                             
dualma_slow_multi                1.5      2.0      2.5        3.0        3.5      4.0        4.5      5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5        5.0        1.5      2.0      2.5        3.0        3.5        4.0        4.5      5.0        1.5      2.0        2.5        3.0        3.5      4.0        4.5       5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5      5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5        5.0        1.5        2.0      2.5        3.0        3.5        4.0        4.5       5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5        5.0
date                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             
2020-01-02 00:00:00+00:00  45.824667  45.3025  44.9476  44.816667  44.594571  44.5425  44.440222  44.6384  45.180455  44.816667  44.545676  44.440222  44.717692  45.135167  45.513134  46.025200  44.816667  44.5425  44.6384  45.135167  45.697429  46.307750  46.683111  47.0983  44.545676  44.6384  45.235806  46.025200  46.560460  47.0983  47.997679  48.61136  44.440222  45.135167  46.025200  46.683111  47.425238  48.410917  48.769630  48.8484  44.717692  45.697429  46.560460  47.425238  48.496066  48.803714  48.852357  49.430914  45.135167  46.307750  47.0983  48.410917  48.803714  48.892313  49.622778  50.14240  45.513134  46.683111  47.997679  48.769630  48.852357  49.622778  50.162574  50.375822
2020-01-03 00:00:00+00:00  46.128667  45.5025  45.1420  44.964000  44.723714  44.6265  44.555556  44.6660  45.373636  44.964000  44.652162  44.555556  44.741538  45.119167  45.485821  45.984267  44.964000  44.6265  44.6660  45.119167  45.666714  46.291125  46.643333  47.0707  44.652162  44.6660  45.229677  45.984267  46.549080  47.0707  47.936429  48.56848  44.555556  45.119167  45.984267  46.643333  47.349905  48.362083  48.758074  48.8320  44.741538  45.666714  46.549080  47.349905  48.460984  48.784357  48.838471  49.366457  45.119167  46.291125  47.0707  48.362083  48.784357  48.878875  49.584500  50.12260  45.485821  46.643333  47.936429  48.758074  48.838471  49.584500  50.141139  50.379778
2020-01-06 00:00:00+00:00  46.456000  45.7310  45.3376  45.112667  44.871143  44.7115  44.660222  44.6908  45.562273  45.112667  44.787297  44.660222  44.773846  45.116667  45.474478  45.950800  45.112667  44.7115  44.6908  45.116667  45.641143  46.267875  46.621889  47.0449  44.787297  44.6908  45.232742  45.950800  46.534598  47.0449  47.864554  48.52880  44.660222  45.116667  45.950800  46.621889  47.278952  48.320667  48.743185  48.8232  44.773846  45.641143  46.534598  47.278952  48.406803  48.770500  48.833885  49.298743  45.116667  46.267875  47.0449  48.320667  48.770500  48.860063  49.552222  50.09115  45.474478  46.621889  47.864554  48.743185  48.833885  49.552222  50.122772  50.388044

svg

21,网格参数-信号计算和可视化

仅可视化第一列

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
# 信号计算
dmac_size=dualma.fast_ma_above(dualma.slow_ma)
print('dmac_size.shape:',dmac_size.shape)
print()
print('dmac_size.iloc[:3,:3]:')
print(dmac_size.iloc[:3,:3])


# 行情-指标-信号可视化
fig = ohlcv['Close'].vbt.plot(trace_kwargs=dict(name='Price'))
fig = dualma.fast_ma.iloc[:,0].vbt.plot(trace_kwargs=dict(name='Fast MA'), fig=fig)
fig = dualma.slow_ma.iloc[:,0].vbt.plot(trace_kwargs=dict(name='Slow MA'), fig=fig)
fig = dmac_size.iloc[:,0].vbt.signals.plot_as_markers(ohlcv['Close'], fig=fig)
fig.show_svg()

# (单独)信号可视化
fig = dmac_size.iloc[:,0].vbt.signals.plot(trace_kwargs=dict(name='Entries'))
fig.show_svg()

# 信号的统计信息
dmac_size.vbt.signals.stats()
dmac_size.shape: (728, 64)

dmac_size.iloc[:3,:3]:
dualma_fast_window           10            
dualma_slow_multi           1.5   2.0   2.5
date                                       
2020-01-02 00:00:00+00:00  True  True  True
2020-01-03 00:00:00+00:00  True  True  True
2020-01-06 00:00:00+00:00  True  True  True

svg

svg

Start                       2020-01-02 00:00:00+00:00
End                         2022-12-30 00:00:00+00:00
Period                                            728
Total                                       474.03125
Rate [%]                                    65.114183
First Index                 2020-01-15 16:52:30+00:00
Last Index                  2022-11-07 20:15:00+00:00
Norm Avg Index [-1, 1]                      -0.159967
Distance: Min                                     1.0
Distance: Max                               82.734375
Distance: Mean                               1.464916
Distance: Std                                5.175417
Total Partitions                             6.671875
Partition Rate [%]                           1.510978
Partition Length: Min                       41.671875
Partition Length: Max                      211.171875
Partition Length: Mean                     110.468174
Partition Length: Std                       78.523847
Partition Distance: Min                      26.78125
Partition Distance: Max                     82.734375
Partition Distance: Mean                    51.365493
Partition Distance: Std                     28.015768
Name: agg_func_mean, dtype: object

22,行情,信号的滑窗处理

注意点：
01，训练集和验证集比例3：1，或者2：1，对应：window_len和set_lens为4:1(或3:1)，过大了历史包袱沉重，无法及时响应最新行情，过小了则容易参数跳变，形成类似过拟合效果

a,参数设置和效果预览

代码中

1
2
3
4
5
6
7
8
print(in_indexes[0][0])
print(in_indexes[1][0])
print(in_indexes[0][53:55])

2019-01-02 00:00:00+00:00
2019-03-25 00:00:00+00:00
DatetimeIndex(['2019-03-25 00:00:00+00:00', '2019-03-26 00:00:00+00:00'], dtype='datetime64[ns, UTC]', name='split_0', freq=None)
可见第二行第一个位于第一行第53个，不足设置的60,就是由于切分优先保证了数据的足量，但是数据间隔方面则可能有所重叠。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
# 滚动周期参数设置和大致效果可视化
start_end_days=ohlcv.shape[0]
bar_days= 80         # 训练，验证集时间长度，以此为单位
test_bar_num=2      # 训练集时间长度
verify_bar_num=1    # 验证集时间长度
verify_overlap=0 # 验证集重叠时间长度
pre_test_days=0    # 由于测试集一部分时间用于计算指标，导致实际训练时间不足，这个是一定程度补充的days周期
# n取值需要满足:确保验证集合收尾相接
# => (n-1)*(verify_bar_num-verify_overlap)+(verify_bar_num+test_bar_num)=start_end_days/bar_days
# => n=(start_end_days/bar_days-test_bar_num-verify_overlap)/(verify_bar_num-verify_overlap)
calc_n=(start_end_days/bar_days-test_bar_num-verify_overlap)/(verify_bar_num-verify_overlap)


split_kwargs = dict(
    n=int(calc_n), 
    window_len=int(bar_days*(test_bar_num+verify_bar_num)+pre_test_days), 
    set_lens=(int(bar_days*verify_bar_num),), 
    left_to_right=False
)  # 10 windows, each 2 years long, reserve 180 days for test
# 合理设置n，最好确保验证集，连续且无重复
pf_kwargs = dict(
    direction='longonly',  # long and short
    freq='d'
)
print('split_kwargs:',split_kwargs)

def roll_in_and_out_samples(price, **kwargs):
    return price.vbt.rolling_split(**kwargs)
price=ohlcv['Close']
# 验证：单列数据验证，橘黄色验证集连续且无重复
roll_in_and_out_samples(price, **split_kwargs, plot=True, trace_names=['in-sample', 'out-sample']).show_svg()


split_kwargs: {'n': 7, 'window_len': 240, 'set_lens': (80,), 'left_to_right': False}

svg

b,根据滑窗参数切分行情数据和信号

in_price.shape: (160, 7)
out_price.shape: (80, 7)

in_price.index: RangeIndex(start=0, stop=160, step=1)
in_price.columns: Int64Index([0, 1, 2, 3, 4, 5, 6], dtype='int64', name='split_idx')

in_price[0:3]:
split_idx      0      1      2       3       4       5       6
0          48.17  59.78  92.59  219.90  146.56  254.11  250.02
1          48.04  58.88  90.00  216.30  153.73  277.60  246.50
2          48.28  59.13  94.74  225.04  148.99  275.95  246.30

###############################
in_dmac_size.shape: (160, 448)
out_dmac_size.shape: (80, 448)

in_dmac_size.iloc[:5,:5]:
split_idx              0                        
dualma_fast_window    10                        
dualma_slow_multi    1.5   2.0   2.5   3.0   3.5
0                   True  True  True  True  True
1                   True  True  True  True  True
2                   True  True  True  True  True
3                   True  True  True  True  True
4                   True  True  True  True  True

23,滑窗的收益数据计算

a,持有参数收益

在此区间，基础标的物表现 

1
2
3
4
5
6
7
8
9
10
def simulate_holding(price, **kwargs):
    pf = vbt.Portfolio.from_holding(price, **kwargs)
    return pf.sharpe_ratio()

in_hold_sharpe = simulate_holding(in_price, **pf_kwargs)
print(in_hold_sharpe.head(5))

out_hold_sharpe = simulate_holding(out_price, **pf_kwargs)
print(out_hold_sharpe.head(5))

split_idx
0    2.315678
1    3.890261
2    1.812302
3    1.122310
4    2.388496
Name: sharpe_ratio, dtype: float64
split_idx
0    4.885519
1   -0.547754
2    4.538256
3   -0.039085
4   -0.527252
Name: sharpe_ratio, dtype: float64

b,网格参数收益(训练集和验证集)

in_sharpe.shape: (448,)

out_sharpe.shape: (448,)

c,训练集上的最佳参数用于验证集

大致思路：
01,获取各split_idx的最佳收益(sharp_radio)的参数组合idxmax,也就是fast_window,slow_window,split_idx，三维索引元组
02,按照split_idx进行聚类，取得各split_idx对应的最佳参数。实际含义就是各滑动窗口的最佳参数

v1:简单最大值优选法
选取，测试集合的最优参数作为验证集参数，如果sharp_ratio就最大，回撤就最小类似这样的简单优选策略。 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
def get_best_index(performance, higher_better=True):
    if higher_better:
        return performance[performance.groupby('split_idx').idxmax()].index
    return performance[performance.groupby('split_idx').idxmin()].index
in_best_index_basic = get_best_index(in_sharpe)

print('in_best_index[:5]')
print(in_best_index_basic[:5])

# 绘图：参数走势图
df_plot_tmp = in_best_index_basic.to_frame(index=False)
# 将split_idx设置为行索引，并按照split_idx从小到大排序
df_plot_tmp.set_index('split_idx', inplace=True)
df_plot_tmp.sort_index(inplace=True)
df_plot_tmp['dualma_slow_window'] = df_plot_tmp['dualma_fast_window']*df_plot_tmp['dualma_slow_multi']
df_plot_tmp[['dualma_fast_window','dualma_slow_window']].vbt.plot().show_svg()
in_best_index[:5]
MultiIndex([(40, 1.5, 0),
            (20, 3.0, 1),
            (10, 4.0, 2),
            (10, 4.0, 3),
            (40, 5.0, 4)],
           names=['dualma_fast_window', 'dualma_slow_multi', 'split_idx'])

svg

v2:邻近域优选法
有些情况下，测试集得到参数会突然发生较大变化，这可能偶发事件导致的，
比如：之前的双均线最佳参数一直是，（20，40），本期突然变成（80，160），显然不大合理，为了避免这种突变，让参数的变化也具有一定连贯性（当然，增加连贯性也一定程度降低过拟合风险） 

in_best_index[:5]
MultiIndex([(40, 1.5, 0),
            (40, 1.5, 1),
            (40, 2.0, 2),
            (30, 1.5, 3),
            (25, 1.5, 4)],
           names=['dualma_fast_window', 'dualma_slow_multi', 'split_idx'])

svg

v3:邻居权重优选法-均值
在评估一组参数是否最佳时，并不单纯观察此参数本身是否最优，而是综合考虑参数本以及参数的邻居表现。
比如：
0.5 0.7 0.5 0.2 0.2
0.8 0.7 0.6 0.9 0.2
0.5 0.7 0.5 0.2 0.2
按照基础的最大值法，则选择0.9，但是0.9的邻居表现均不佳。
定义：新取值=原值 + (邻居的平均值)
则可以综合考虑参数本身和参数邻居点的表现。 

in_best_index[:5]
MultiIndex([(10, 1.5, 0),
            (20, 3.0, 1),
            (10, 4.5, 2),
            (10, 4.5, 3),
            (45, 5.0, 4)],
           names=['dualma_fast_window', 'dualma_slow_multi', 'split_idx'])

svg

v4:邻居权重优选法-中位数
由于均值受极值影响较大，可以考虑用 median( 多个邻居)，代替上面”邻居的平均值”。 

in_best_index[:5]
MultiIndex([(10, 1.5, 0),
            (25, 2.5, 1),
            (10, 4.5, 2),
            (10, 4.5, 3),
            (45, 5.0, 4)],
           names=['dualma_fast_window', 'dualma_slow_multi', 'split_idx'])

svg

将滚动获取的最佳参数用于验证集，统计收益信息

out_dmac_size.shape: (80, 448)

out_dmac_size_reindexed[in_best_index_basic].shape: (80, 7)

dmac_pf_out.trades.records[:5]
   id  col        size  entry_idx  entry_price  entry_fees  exit_idx  exit_price  exit_fees           pnl    return  direction  status  parent_id
0   0    0  117.061022          0    85.212500   24.937656        79  187.930000   0.000000  11999.277880  1.202928          0       0          0
1   1    1   53.495628          0   186.465000   24.937656        46  181.225800  24.236970   -329.448922 -0.033027          0       1          1
2   2    2   56.480598         13   176.610425   24.937656        79  288.150000   0.000000   6274.884195  0.629057          0       0          2
3   3    3   35.921252          0   277.692500   24.937656         7  271.030725  24.339408   -288.576364 -0.028930          0       1          3
4   4    3   33.252058         29   291.326500   24.218014        64  300.038025  24.942204    240.515915  0.024828          0       1          4

out_test_sharpe.head(5)
dualma_fast_window  dualma_slow_multi  split_idx
40                  1.5                0            4.885519
20                  3.0                1            0.059796
10                  4.0                2            3.438258
                                       3            0.153046
40                  5.0                4           -1.016612
Name: sharpe_ratio, dtype: float64

24,sharp ratio的汇总可视化

basic为例的基础分析视图

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
cv_results_df = pd.DataFrame({
    'in_sample_hold': in_hold_sharpe.values,
    'in_sample_median': in_sharpe.groupby('split_idx').median().values,
    'in_sample_best': in_sharpe[in_best_index_basic].values,
    'out_sample_hold': out_hold_sharpe.values,
    'out_sample_median': out_sharpe.groupby('split_idx').median().values,
    'out_sample_test': out_test_sharpe_basic.values
})

color_schema = vbt.settings['plotting']['color_schema']

cv_results_df.vbt.plot(
    trace_kwargs=[
        dict(line_color=color_schema['blue']),
        dict(line_color=color_schema['blue'], line_dash='dash'),
        dict(line_color=color_schema['blue'], line_dash='dot'),
        dict(line_color=color_schema['orange']),
        dict(line_color=color_schema['orange'], line_dash='dash'),
        dict(line_color=color_schema['orange'], line_dash='dot')
    ]
).show_svg()

svg

关注点：

蓝色部分
正常排序是(从上到下)：点线，实现，线段，

橘色部分

实线对实线
说明测试集和验证集的周期收益情况，二者同时出现0轴同侧较好（同时上涨，同时下跌，保持行情的稳定性or延续性）

线段对线段
二者一方面随着各自颜色的实线趋势变化（受各自实线影响较大），其他应该无必然联系

点线对点线
蓝色点高于橘色点线，蓝色是训练集内最佳，橘色则是训练集得到最优参数用于验证集结果收益，大概率低于验证集。

测试，验证集时间长度差异，引入偏差
由于测试集一般是验证集的2-3倍（或更多），对于单边行情(假如上涨)，则(测试集的)实线收益。蓝色线大概率位于橘色线上方。
如果下跌，则相反。蓝色由于时间长，大概率位于橘色下方。

注意：
01，202406，对于当前case，y周取值为sharp ratio夏普比，而非收益率。所以数据点高低并不反映收益率。
所以，以上结论需要稍斟酌，并不完全准确。

4种优选方法的训练集夏普sharp ratio

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
cv_results_df = pd.DataFrame({
    'in_sample_hold': in_hold_sharpe.values,
    'in_sample_best_basic': in_sharpe[in_best_index_basic].values,
    'in_sample_best_coord': in_sharpe[in_best_index_nb_coord].values,
    'in_sample_best_mean': in_sharpe[in_best_index_nb_mean].values,
    'in_sample_best_median': in_sharpe[in_best_index_nb_median].values,
})


color_schema = vbt.settings['plotting']['color_schema']

cv_results_df.vbt.plot(
    trace_kwargs=[
        dict(line_color=color_schema['blue']),
        dict(line_color=color_schema['green']),
        dict(line_color=color_schema['red']),
        dict(line_color=color_schema['cyan']),
        dict(line_color=color_schema['orange'])
    ]
).show_svg()

svg

可见，训练集上，不论那种筛选方法，其sharp_ratio大致走势接近，均优于简单的持有策略。
对于本案例，本质上是因为行情本身基本维持上涨趋势，如果行情较高波动性，则可能会有分化。

4种优选方法的验证集夏普sharp ratio

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
cv_results_df = pd.DataFrame({
    'out_sample_hold': out_hold_sharpe.values,
    'out_sample_test_basic': out_test_sharpe_basic.values,
    'out_sample_test_coord': out_test_sharpe_coord.values,
    'out_sample_test_mean': out_test_sharpe_mean.values,
    'out_sample_test_median': out_test_sharpe_median.values
})

color_schema = vbt.settings['plotting']['color_schema']

cv_results_df.vbt.plot(
    trace_kwargs=[
         dict(line_color=color_schema['blue']),
        dict(line_color=color_schema['green']),
        dict(line_color=color_schema['red']),
        dict(line_color=color_schema['cyan']),
        dict(line_color=color_schema['orange'])
    ]
).show_svg()

svg

可见，验证集上，其sharp_ratio大致走势也接近。

25,滚动回测收益可视化

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
# 验证集：原始价格变动
out_price_org=out_price.iloc[-1, :]/out_price.iloc[0, :]
print('out_price_org shape:',out_price_org.shape)
print('out_price_org.head(5)')
print(out_price_org.head(5))

# # 验证集：持有收益率，  高度类似，out_price_org，略
# def simulate_holding(price, **kwargs):
#     pf = vbt.Portfolio.from_holding(price, **kwargs)
#     return pf.total_return()

# out_hold_return = simulate_holding(out_price, **pf_kwargs)
# print()
# print('out_hold_return shape:',out_hold_return.shape)
# print('out_hold_return.head(5) + 1')
# print(out_hold_return.head(5)+1)


print()
print('out_test_return_basic shape:',out_test_return_basic.shape)
print('out_test_return_basic.head(5) + 1')
print(out_test_return_basic.head(5)+1)

cv_results_df = pd.DataFrame({
    'out_price_org':  out_price_org.cumprod(),
    'out_test_return_basic': (out_test_return_basic.values+1).cumprod(),
    'out_test_return_coord': (out_test_return_coord.values+1).cumprod(),
    'out_test_return_mean': (out_test_return_mean.values+1).cumprod(),
    'out_test_return_median': (out_test_return_median.values+1).cumprod(),
})

color_dmac_pfschema = vbt.settings['plotting']['color_schema']


cv_results_df.vbt.plot(
    trace_kwargs=[
        dict(line_color=color_schema['blue']),
        dict(line_color=color_schema['green']),
        dict(line_color=color_schema['red']),
        dict(line_color=color_schema['cyan']),
        dict(line_color=color_schema['orange'])
    ]
).show_svg()
out_price_org shape: (7,)
out_price_org.head(5)
split_idx
0    2.210941
1    0.876075
2    2.001737
3    0.971119
4    0.902879
dtype: float64

out_test_return_basic shape: (7,)
out_test_return_basic.head(5) + 1
dualma_fast_window  dualma_slow_multi  split_idx
40                  1.5                0            2.199928
20                  3.0                1            0.967055
10                  4.0                2            1.627488
                                       3            0.995194
40                  5.0                4            0.897145
Name: total_return, dtype: float64

svg

上图可见，以上参数优选方法表现基本接近（也符合之前的sharp ratio接近的特征）。
最佳的效果是out_test_return_basic，也就是最简单的取得测试区间最大值表现的参数。

为何这种简单朴素的思路反而取得较好的效果？这一点乍一看有点不符常理。
猜测是由于策略并未陷入过拟合，由于均线时间设置合理，倍率步长也设置较为宽泛，所以本身就包含了一定的容错性。避免了过拟合。
上面的那几种优化思路，其本质都是针对过拟合的优化，均值，中位数，以及近邻选择都是避免陷入局部最优。但是如果网格参数设置较宽泛，其本身一定程度就避免了过拟合。
所以，基于以上在过拟合上的优化，可能并无效果。
网格参数宽泛，缺点在于未能有效捕捉行情蕴含信息，比如，均线探测，10，20，30，实际最佳结果为15，或者25，则容易跳过去。
如果非要吹毛求疵，不妨根据上面的图示，进一步减少步长，细化参数（此时大概率出现几条线同时向上走，basic到一定程度陷入局部最优后就会下降），直到basic效果接近优化思路的效果。此时大概率说明达到过拟合临界点。

26,计算正确性验证(略)

a,准备校验数据，数据展示
b,行情->指标 计算正确
c,指标->信号 计算正确
d,信号->交易 计算正确