vectorbt学习_49DMA之九滑窗网格参数优选

本文在上一篇文章(30DMA之八滑窗网格参数优选)基础上。
上一篇文章增加了止盈，止损，跟踪止损等参数，但实际效果看训练集上效果尚可，验证集上效果更差，怀疑过拟合导致。

故本篇文章增加几种避免过拟合的参数优选方法。之前文章方法类似。
差异在于：对本文而言，止损参数，止盈参数也是类似的，不止2个维度了，邻居采用立方体思路（对角点相接的也算作邻居，之前2维时是同边才算邻居，比如(1,3)，邻居是(2,3),(1,2),(1,4),新的规则会新增(2，2),(2，4)）

新增3种参数优选方法，一定程度上降低参数过拟合的可能。

v1:直接(简单最大值)优选法
选取，测试集合的最优参数作为验证集参数，如果sharp_ratio就最大，回撤就最小类似这样的简单优选策略。

v2:邻近域优选法
在上一个策略中，实际上是选取，测试集合的最优参数作为验证集参数。而有些情况下，测试集得到参数会突然发生较大变化，这可能偶发事件导致的，
比如：之前的双均线最佳参数一直是，（20，40），本期突然变成（80，160），显然不大合理，为了避免这种突变，让参数的变化也具有一定连贯性（当然，增加连贯性也一定程度降低过拟合风险）

v3:邻居权重优选法-均值
在评估一组参数是否最佳时，并不单纯观察此参数本身是否最优，而是综合考虑参数本以及参数的邻居表现。
比如：
0.5 0.7 0.5 0.2 0.2
0.8 0.7 0.6 0.9 0.2
0.5 0.7 0.5 0.2 0.2
按照基础的最大值法，则选择0.9，但是0.9的邻居表现均不佳。
定义：新取值=原值 + (邻居的平均值)
则可以综合考虑参数本身和参数邻居点的表现。

v4:邻居权重优选法-中位数
由于均值受极值影响较大，可以考虑用 median( 多个邻居)，代替上面”邻居的平均值”。

01,基础配置信息

#conda envs:vectorbt_env
import warnings
import vectorbt as vbt
import numpy as np
import pandas as pd
from datetime import datetime, timedelta
import pytz
from dateutil.parser import parse
import ipywidgets as widgets
from copy import deepcopy
from tqdm import tqdm
import imageio
from IPython import display
import plotly.graph_objects as go
import itertools
import dateparser
import gc
import math
from tools import dbtools 

warnings.filterwarnings("ignore")

pd.set_option('display.max_rows',500)
pd.set_option('display.max_columns',500)
pd.set_option('display.width',1000)

02,行情获取和可视化

a,时间交易参数配置

# Enter your parameters here
seed = 42
symbol = '002594.XSHE'
metric = 'total_return'

start_date = datetime(2020, 1, 1, tzinfo=pytz.utc)  # time period for analysis, must be timezone-aware
end_date = datetime(2023,1,1, tzinfo=pytz.utc)
time_buffer = timedelta(days=100)  # buffer before to pre-calculate SMA/EMA, best to set to max window
freq = '1D'

vbt.settings.portfolio['init_cash'] = 10000.  # 100$
vbt.settings.portfolio['fees'] = 0.0025  # 0.25%
vbt.settings.portfolio['slippage'] = 0.0025  # 0.25%

b,获取行情和行情mask

# Download data with time buffer
cols = ['Open', 'High', 'Low', 'Close', 'Volume']
# ohlcv_wbuf = vbt.YFData.download(symbol, start=start_date-time_buffer, end=end_date).get(cols)

ohlcv_wbuf=dbtools.MySQLData.download(symbol).get() # 自带工具类查询
assert(~ohlcv_wbuf.empty)
ohlcv_wbuf = ohlcv_wbuf.astype(np.float64)

print("ohlcv_wbuf.shape:",ohlcv_wbuf.shape)
print("ohlcv_wbuf.columns:",ohlcv_wbuf.columns)


# Create a copy of data without time buffer
wobuf_mask = (ohlcv_wbuf.index >= start_date) & (ohlcv_wbuf.index <= end_date) # mask without buffer

ohlcv = ohlcv_wbuf.loc[wobuf_mask, :]

print("ohlcv.shape:",ohlcv.shape)

# Plot the OHLC data
ohlcv.vbt.ohlcv.plot().show_svg() # 绘制蜡烛图
# remove show_svg() to display interactive chart!

ohlcv_wbuf.shape: (978, 5)
ohlcv_wbuf.columns: Index(['Open', 'High', 'Low', 'Close', 'Volume'], dtype='object')
ohlcv.shape: (728, 5)

20,网格参数-指标计算和可视化

仅可视化第一列

fast_windows = np.arange(10, 50,5)
slow_multis = np.arange(1.5, 5.5, 0.5)
print("fast_windows:",fast_windows)
print("slow_multis:",slow_multis)

price_wbuf=ohlcv_wbuf['Close']
dualma = vbt.DualMA.run(price_wbuf, fast_window=fast_windows,slow_multi=slow_multis,param_product=True)
dualma = dualma[wobuf_mask]
# there should be no nans after removing time buffer
assert(~dualma.fast_ma.isnull().any().any())
assert(~dualma.slow_ma.isnull().any().any())


print()
print('dualma.fast_ma.head(3)')
print(dualma.fast_ma.head(3))
print('dualma.slow_ma.head(3)')
print(dualma.slow_ma.head(3))

print()
fig = ohlcv['Close'].vbt.plot(trace_kwargs=dict(name='Price'))
fig = dualma.fast_ma.iloc[:,0].vbt.plot(trace_kwargs=dict(name="Fast MA col %s"%str(dualma.fast_ma.iloc[:,0].name)), fig=fig)
fig = dualma.slow_ma.iloc[:,0].vbt.plot(trace_kwargs=dict(name="Slow MA col %s"%str(dualma.slow_ma.iloc[:,0].name)), fig=fig)
fig.show_svg()

fast_windows: [10 15 20 25 30 35 40 45]
slow_multis: [1.5 2.  2.5 3.  3.5 4.  4.5 5. ]

dualma.fast_ma.head(3)
dualma_fast_window             10                                                                 15                                                                                    20                                                                      25                                                                        30                                                                                      35                                                                                    40                                                                        45                                                                             
dualma_slow_multi             1.5     2.0     2.5     3.0     3.5     4.0     4.5     5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5        5.0      1.5      2.0      2.5      3.0      3.5      4.0      4.5      5.0      1.5      2.0      2.5      3.0      3.5      4.0      4.5      5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5        5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5        5.0      1.5      2.0      2.5      3.0      3.5      4.0      4.5      5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5        5.0
date                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             
2020-01-02 00:00:00+00:00  46.665  46.665  46.665  46.665  46.665  46.665  46.665  46.665  45.824667  45.824667  45.824667  45.824667  45.824667  45.824667  45.824667  45.824667  45.3025  45.3025  45.3025  45.3025  45.3025  45.3025  45.3025  45.3025  44.9476  44.9476  44.9476  44.9476  44.9476  44.9476  44.9476  44.9476  44.816667  44.816667  44.816667  44.816667  44.816667  44.816667  44.816667  44.816667  44.594571  44.594571  44.594571  44.594571  44.594571  44.594571  44.594571  44.594571  44.5425  44.5425  44.5425  44.5425  44.5425  44.5425  44.5425  44.5425  44.440222  44.440222  44.440222  44.440222  44.440222  44.440222  44.440222  44.440222
2020-01-03 00:00:00+00:00  46.972  46.972  46.972  46.972  46.972  46.972  46.972  46.972  46.128667  46.128667  46.128667  46.128667  46.128667  46.128667  46.128667  46.128667  45.5025  45.5025  45.5025  45.5025  45.5025  45.5025  45.5025  45.5025  45.1420  45.1420  45.1420  45.1420  45.1420  45.1420  45.1420  45.1420  44.964000  44.964000  44.964000  44.964000  44.964000  44.964000  44.964000  44.964000  44.723714  44.723714  44.723714  44.723714  44.723714  44.723714  44.723714  44.723714  44.6265  44.6265  44.6265  44.6265  44.6265  44.6265  44.6265  44.6265  44.555556  44.555556  44.555556  44.555556  44.555556  44.555556  44.555556  44.555556
2020-01-06 00:00:00+00:00  47.138  47.138  47.138  47.138  47.138  47.138  47.138  47.138  46.456000  46.456000  46.456000  46.456000  46.456000  46.456000  46.456000  46.456000  45.7310  45.7310  45.7310  45.7310  45.7310  45.7310  45.7310  45.7310  45.3376  45.3376  45.3376  45.3376  45.3376  45.3376  45.3376  45.3376  45.112667  45.112667  45.112667  45.112667  45.112667  45.112667  45.112667  45.112667  44.871143  44.871143  44.871143  44.871143  44.871143  44.871143  44.871143  44.871143  44.7115  44.7115  44.7115  44.7115  44.7115  44.7115  44.7115  44.7115  44.660222  44.660222  44.660222  44.660222  44.660222  44.660222  44.660222  44.660222
dualma.slow_ma.head(3)
dualma_fast_window                10                                                                              15                                                                                      20                                                                                25                                                                                 30                                                                                    35                                                                                      40                                                                                   45                                                                             
dualma_slow_multi                1.5      2.0      2.5        3.0        3.5      4.0        4.5      5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5        5.0        1.5      2.0      2.5        3.0        3.5        4.0        4.5      5.0        1.5      2.0        2.5        3.0        3.5      4.0        4.5       5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5      5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5        5.0        1.5        2.0      2.5        3.0        3.5        4.0        4.5       5.0        1.5        2.0        2.5        3.0        3.5        4.0        4.5        5.0
date                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             
2020-01-02 00:00:00+00:00  45.824667  45.3025  44.9476  44.816667  44.594571  44.5425  44.440222  44.6384  45.180455  44.816667  44.545676  44.440222  44.717692  45.135167  45.513134  46.025200  44.816667  44.5425  44.6384  45.135167  45.697429  46.307750  46.683111  47.0983  44.545676  44.6384  45.235806  46.025200  46.560460  47.0983  47.997679  48.61136  44.440222  45.135167  46.025200  46.683111  47.425238  48.410917  48.769630  48.8484  44.717692  45.697429  46.560460  47.425238  48.496066  48.803714  48.852357  49.430914  45.135167  46.307750  47.0983  48.410917  48.803714  48.892313  49.622778  50.14240  45.513134  46.683111  47.997679  48.769630  48.852357  49.622778  50.162574  50.375822
2020-01-03 00:00:00+00:00  46.128667  45.5025  45.1420  44.964000  44.723714  44.6265  44.555556  44.6660  45.373636  44.964000  44.652162  44.555556  44.741538  45.119167  45.485821  45.984267  44.964000  44.6265  44.6660  45.119167  45.666714  46.291125  46.643333  47.0707  44.652162  44.6660  45.229677  45.984267  46.549080  47.0707  47.936429  48.56848  44.555556  45.119167  45.984267  46.643333  47.349905  48.362083  48.758074  48.8320  44.741538  45.666714  46.549080  47.349905  48.460984  48.784357  48.838471  49.366457  45.119167  46.291125  47.0707  48.362083  48.784357  48.878875  49.584500  50.12260  45.485821  46.643333  47.936429  48.758074  48.838471  49.584500  50.141139  50.379778
2020-01-06 00:00:00+00:00  46.456000  45.7310  45.3376  45.112667  44.871143  44.7115  44.660222  44.6908  45.562273  45.112667  44.787297  44.660222  44.773846  45.116667  45.474478  45.950800  45.112667  44.7115  44.6908  45.116667  45.641143  46.267875  46.621889  47.0449  44.787297  44.6908  45.232742  45.950800  46.534598  47.0449  47.864554  48.52880  44.660222  45.116667  45.950800  46.621889  47.278952  48.320667  48.743185  48.8232  44.773846  45.641143  46.534598  47.278952  48.406803  48.770500  48.833885  49.298743  45.116667  46.267875  47.0449  48.320667  48.770500  48.860063  49.552222  50.09115  45.474478  46.621889  47.864554  48.743185  48.833885  49.552222  50.122772  50.388044

21,网格参数-信号计算和可视化

仅可视化第一列

# 信号计算
dmac_size=dualma.fast_ma_above(dualma.slow_ma)
print('dmac_size.shape:',dmac_size.shape)
print()
print('dmac_size.iloc[:3,:3]:')
print(dmac_size.iloc[:3,:3])


# 行情-指标-信号可视化
fig = ohlcv['Close'].vbt.plot(trace_kwargs=dict(name='Price'))
fig = dualma.fast_ma.iloc[:,0].vbt.plot(trace_kwargs=dict(name='Fast MA'), fig=fig)
fig = dualma.slow_ma.iloc[:,0].vbt.plot(trace_kwargs=dict(name='Slow MA'), fig=fig)
fig = dmac_size.iloc[:,0].vbt.signals.plot_as_markers(ohlcv['Close'], fig=fig)
fig.show_svg()

# (单独)信号可视化
fig = dmac_size.iloc[:,0].vbt.signals.plot(trace_kwargs=dict(name='Entries'))
fig.show_svg()

# 信号的统计信息
dmac_size.vbt.signals.stats()

dmac_size.shape: (728, 64)

dmac_size.iloc[:3,:3]:
dualma_fast_window           10            
dualma_slow_multi           1.5   2.0   2.5
date                                       
2020-01-02 00:00:00+00:00  True  True  True
2020-01-03 00:00:00+00:00  True  True  True
2020-01-06 00:00:00+00:00  True  True  True

Start                       2020-01-02 00:00:00+00:00
End                         2022-12-30 00:00:00+00:00
Period                                            728
Total                                       474.03125
Rate [%]                                    65.114183
First Index                 2020-01-15 16:52:30+00:00
Last Index                  2022-11-07 20:15:00+00:00
Norm Avg Index [-1, 1]                      -0.159967
Distance: Min                                     1.0
Distance: Max                               82.734375
Distance: Mean                               1.464916
Distance: Std                                5.175417
Total Partitions                             6.671875
Partition Rate [%]                           1.510978
Partition Length: Min                       41.671875
Partition Length: Max                      211.171875
Partition Length: Mean                     110.468174
Partition Length: Std                       78.523847
Partition Distance: Min                      26.78125
Partition Distance: Max                     82.734375
Partition Distance: Mean                    51.365493
Partition Distance: Std                     28.015768
Name: agg_func_mean, dtype: object

22,行情,信号的滑窗处理

注意点：
01，训练集和验证集比例3：1，或者2：1，对应：window_len和set_lens为4:1(或3:1)，过大了历史包袱沉重，无法及时响应最新行情，过小了则容易参数跳变，形成类似过拟合效果

a,参数设置和效果预览

代码中

#todo 这里是自然日计算的，但后面训练，验证集个数计算都完全正确，哪里应该和预想的不一致
合理的。实测bar_days= 60时

print(in_indexes[0][0])
print(in_indexes[1][0])
print(in_indexes[0][53:55])

2019-01-02 00:00:00+00:00
2019-03-25 00:00:00+00:00
DatetimeIndex(['2019-03-25 00:00:00+00:00', '2019-03-26 00:00:00+00:00'], dtype='datetime64[ns, UTC]', name='split_0', freq=None)
可见第二行第一个位于第一行第53个，不足设置的60,就是由于切分优先保证了数据的足量，但是数据间隔方面则可能有所重叠。

# 滚动周期参数设置和大致效果可视化
start_end_days=ohlcv.shape[0] 
bar_days= 80         # 训练，验证集时间长度，以此为单位
test_bar_num=2      # 训练集时间长度
verify_bar_num=1    # 验证集时间长度
verify_overlap=0 # 验证集重叠时间长度
pre_test_days=0    # 由于测试集一部分时间用于计算指标，导致实际训练时间不足，这个是一定程度补充的days周期
# n取值需要满足:确保验证集合收尾相接
# => (n-1)*(verify_bar_num-verify_overlap)+(verify_bar_num+test_bar_num)=start_end_days/bar_days
# => n=(start_end_days/bar_days-test_bar_num-verify_overlap)/(verify_bar_num-verify_overlap)
calc_n=(start_end_days/bar_days-test_bar_num-verify_overlap)/(verify_bar_num-verify_overlap)


split_kwargs = dict(
    n=int(calc_n), 
    window_len=int(bar_days*(test_bar_num+verify_bar_num)+pre_test_days), 
    set_lens=(int(bar_days*verify_bar_num),), 
    left_to_right=False
)  # 10 windows, each 2 years long, reserve 180 days for test
# 合理设置n，最好确保验证集，连续且无重复
pf_kwargs = dict(
    direction='longonly',  # long and short
    freq='d'
)
print('split_kwargs:',split_kwargs)

def roll_in_and_out_samples(price, **kwargs):
    return price.vbt.rolling_split(**kwargs)

price=ohlcv['Close']
# 验证：单列数据验证，橘黄色验证集连续且无重复
roll_in_and_out_samples(price, **split_kwargs, plot=True, trace_names=['in-sample', 'out-sample']).show_svg()

split_kwargs: {'n': 7, 'window_len': 240, 'set_lens': (80,), 'left_to_right': False}

b,根据滑窗参数切分行情数据和信号

in_price.shape: (160, 7)
out_price.shape: (80, 7)

in_price.index: RangeIndex(start=0, stop=160, step=1)
in_price.columns: Int64Index([0, 1, 2, 3, 4, 5, 6], dtype='int64', name='split_idx')

in_price[0:3]:
split_idx      0      1      2       3       4       5       6
0          48.17  59.78  92.59  219.90  146.56  254.11  250.02
1          48.04  58.88  90.00  216.30  153.73  277.60  246.50
2          48.28  59.13  94.74  225.04  148.99  275.95  246.30

###############################
in_dmac_size.shape: (160, 448)
out_dmac_size.shape: (80, 448)

in_dmac_size.iloc[:5,:5]:
split_idx              0                        
dualma_fast_window    10                        
dualma_slow_multi    1.5   2.0   2.5   3.0   3.5
0                   True  True  True  True  True
1                   True  True  True  True  True
2                   True  True  True  True  True
3                   True  True  True  True  True
4                   True  True  True  True  True

23,滑窗的收益数据计算

a,持有参数收益

在此区间，基础标的物表现

def simulate_holding(price, **kwargs):
    pf = vbt.Portfolio.from_holding(price, **kwargs)
    return pf.sharpe_ratio()

in_hold_sharpe = simulate_holding(in_price, **pf_kwargs)
print(in_hold_sharpe.head(5))

out_hold_sharpe = simulate_holding(out_price, **pf_kwargs)
print(out_hold_sharpe.head(5))

split_idx
0    2.315678
1    3.890261
2    1.812302
3    1.122310
4    2.388496
Name: sharpe_ratio, dtype: float64
split_idx
0    4.885519
1   -0.547754
2    4.538256
3   -0.039085
4   -0.527252
Name: sharpe_ratio, dtype: float64

b,网格参数收益(训练集和验证集)

in_sharpe.shape: (1792,)
split_idx  dualma_fast_window  dualma_slow_multi  sl_stop
0          10                  1.5                0.05       2.698831
                                                  0.10       2.487661
                                                  0.15       2.305821
                                                  0.20       2.389847
                               2.0                0.05       2.344002
                                                               ...   
6          45                  4.5                0.20      -1.054460
                               5.0                0.05      -0.331869
                                                  0.10      -1.664299
                                                  0.15      -1.487590
                                                  0.20      -1.513999
Name: sharpe_ratio, Length: 1792, dtype: float64

split_idx               0                                                                                                                                                                                                                                                                                                                                                                                                                                                               1                                                                                                                                                                                                                                                                                                                                                                                                                                                               2                                                                        \
dualma_fast_window     10                                                      15                                                      20                                                      25                                                      30                                                      35                                                      40                                                      45                                                      10                                                      15                                                      20                                                      25                                                      30                                                      35                                                      40                                                      45                                                      10                                                      15                 
dualma_slow_multi     1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5   
0                    True  False  False  False  False  False  False  False  False  False  False  False   True   True   True   True  False  False   True   True   True   True   True   True  False   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True  False  False  False  False  False  False  False  False  False  False  False   
1                   False  False  False  False  False  False  False   True  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False   
2                   False   True   True   True   True  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False   

split_idx                                                                                                                                                                                                                                                                                                                                                                                                  3                                                                                                                                                                                                                                                                                                                                                                                                                                                               4                                                                                                                                                     \
dualma_fast_window                                        20                                                      25                                                      30                                                      35                                                      40                                                      45                                                      10                                                      15                                                      20                                                      25                                                      30                                                      35                                                      40                                                      45                                                      10                                                      15                                                      20                                      
dualma_slow_multi     3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0   
0                   False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False   True   True  False  False  False  False  False   True   True   True  False  False   True   True   True   True   True   True  False   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False   
1                   False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False   
2                   False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False   

split_idx                                                                                                                                                                                                                                                                                                                     5                                                                                                                                                                                                                                                                                                                                                                                                                                                               6                                                                                                                                                                                                                                  \
dualma_fast_window                   25                                                      30                                                      35                                                      40                                                      45                                                      10                                                      15                                                      20                                                      25                                                      30                                                      35                                                      40                                                      45                                                      10                                                      15                                                      20                                                      25                                                      30   
dualma_slow_multi     4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5   
0                   False  False  False  False  False   True   True   True   True   True  False  False   True   True   True   True   True   True  False   True   True   True   True   True   True   True  False   True   True   True   True   True   True   True   True   True   True   True   True   True   True   True  False  False  False   True  False   True   True   True  False   True   True   True   True   True   True  False   True   True   True   True  False  False  False  False   True   True   True  False  False  False  False  False   True   True  False  False  False  False  False  False   True  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False   True   True  False  False  False  False   True   True   True   True  False   
1                   False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False   True   True   True  False   True  False  False  False   True  False  False  False  False  False  False  False  False  False  False  False   True  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False   True  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False   
2                   False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False   True  False  False  False  False  False   True  False  False  False  False  False   True  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False   

split_idx                                                                                                                                                                                                                                    
dualma_fast_window                                                      35                                                      40                                                      45                                                   
dualma_slow_multi     2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0    1.5    2.0    2.5    3.0    3.5    4.0    4.5    5.0  
0                   False  False   True   True   True   True   True  False  False   True   True   True   True   True   True  False  False   True   True   True   True   True   True  False   True   True   True   True   True   True   True  
1                   False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  
2                   False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  False  
out_sharpe.shape: (1792,)

# import pandas as pd
# import matplotlib.pyplot as plt

# # 根据索引层筛选数据
# groups = in_return.groupby(level=['sl_trail','sl_stop'])

# # 计算每个分组的统计数据
# # statistics = groups.agg(['mean', 'var', 'max', 'min', 'median'])
# statistics = groups.agg([
#     ('mean', 'mean'),
#     ('var', 'var'),
#     ('max', 'max'),
#     ('min', 'min'),
#     ('median', 'median'),
#     ('25%', lambda x: np.percentile(x, 25)),
#     ('75%', lambda x: np.percentile(x, 75))
# ])
# print(statistics)


# def compare_true_false_statistics(statistics):
#     """
#     比较 sl_trail 索引层为 True 和 False 时各统计指标的大小。
    
#     :param statistics: 包含 True 和 False 分组的统计数据。
#     :return: 一个新的 DataFrame，展示 True 是否大于 False。
#     """
#     # 确保索引是多重索引，并且第一个索引是 sl_trail
#     if not isinstance(statistics.index, pd.MultiIndex) or statistics.index.names[0] != 'sl_trail':
#         raise ValueError("数据的第一个索引必须是 'sl_trail' 并且为多重索引。")
    
#     # 提取 True 和 False 的统计数据
#     true_stats = statistics.xs(True, level='sl_trail')
#     false_stats = statistics.xs(False, level='sl_trail')

#     # 比较 True 和 False 的每个统计指标
#     comparison = true_stats > false_stats

#     # 将比较结果转换为整数类型（True为1，False为0）
#     comparison = comparison.astype(int)

#     return comparison

# # 示例使用
# # 假设 statistics 是上述提供的 DataFrame
# comparison_results = compare_true_false_statistics(statistics)
# print(comparison_results)

c,训练集上的最佳参数用于验证集

大致思路：
01,获取各split_idx的最佳收益(sharp_radio)的参数组合idxmax,也就是fast_window,slow_window,split_idx，三维索引元组
02,按照split_idx进行聚类，取得各split_idx对应的最佳参数。实际含义就是各滑动窗口的最佳参数

v1:简单最大值优选法
选取，测试集合的最优参数作为验证集参数，如果sharp_ratio就最大，回撤就最小类似这样的简单优选策略。

def get_best_index(performance, higher_better=True):
    if higher_better:
        return performance[performance.groupby('split_idx').idxmax()].index
    return performance[performance.groupby('split_idx').idxmin()].index
in_test_best_index_basic = get_best_index(in_sharpe)

merged_df = pd.concat([in_sharpe, in_return,out_sharpe,out_return], axis=1, keys=['in_sharpe', 'in_return','out_sharpe', 'out_return'])
print('merged_df[in_test_best_index_basic]')
print(merged_df.loc[in_test_best_index_basic])

# 绘图：参数走势图
df_plot_tmp = in_test_best_index_basic.to_frame(index=False)
# 将split_idx设置为行索引，并按照split_idx从小到大排序
df_plot_tmp.set_index('split_idx', inplace=True)
df_plot_tmp.sort_index(inplace=True)
df_plot_tmp['dualma_slow_window'] = df_plot_tmp['dualma_fast_window']*df_plot_tmp['dualma_slow_multi']
df_plot_tmp[['dualma_fast_window','dualma_slow_window']].vbt.plot().show_svg()

merged_df[in_test_best_index_basic]
                                                        in_sharpe  in_return  out_sharpe  out_return
split_idx dualma_fast_window dualma_slow_multi sl_stop                                              
0         40                 1.5               0.05      3.032440   0.678169    0.204789    0.004091
1         20                 2.0               0.10      4.264742   1.678727    2.600636    0.278124
2         20                 1.5               0.10      3.698019   1.458562    2.820473    0.422292
3         10                 3.5               0.10      2.015480   0.526104    0.451947    0.023056
4         40                 5.0               0.05      2.835772   0.428931   -1.923102   -0.062478
5         15                 2.0               0.05      0.717109   0.062730    3.414356    0.302466
6         25                 2.5               0.05      2.848787   0.414228    0.900054    0.004202

v2:邻近域优选法
有些情况下，测试集得到参数会突然发生较大变化，这可能偶发事件导致的，
比如：之前的双均线最佳参数一直是，（20，40），本期突然变成（80，160），显然不大合理，为了避免这种突变，让参数的变化也具有一定连贯性（当然，增加连贯性也一定程度降低过拟合风险）

in_test_best_index_nb_coord[:5]
MultiIndex([(0, 40, 1.5, 0.05),
            (1, 30, 1.5,  0.1),
            (2, 20, 1.5,  0.1),
            (3, 15, 2.5,  0.1),
            (4, 10, 3.5, 0.05)],
           names=['split_idx', 'dualma_fast_window', 'dualma_slow_multi', 'sl_stop'])

in_test_best_index_nb_mean[:5]
MultiIndex([(0, 25, 2.5, 0.05),
            (1, 20, 2.0, 0.15),
            (2, 20, 1.5, 0.15),
            (3, 10, 3.5, 0.05),
            (4, 45, 5.0, 0.05)],
           names=['split_idx', 'dualma_fast_window', 'dualma_slow_multi', 'sl_stop'])

v4:邻居权重优选法-中位数
由于均值受极值影响较大，可以考虑用 median( 多个邻居)，代替上面”邻居的平均值”。

in_test_best_index_nb_median[:5]
MultiIndex([(0, 25, 2.5, 0.05),
            (1, 25, 2.5,  0.2),
            (2, 20, 1.5,  0.1),
            (3, 10, 3.5, 0.05),
            (4, 45, 5.0, 0.05)],
           names=['split_idx', 'dualma_fast_window', 'dualma_slow_multi', 'sl_stop'])

将滚动获取的最佳参数用于验证集，统计收益信息

24,sharp ratio的汇总可视化

basic为例的基础分析视图

cv_results_df = pd.DataFrame({
    'in_sample_hold': in_hold_sharpe.values,
    'in_sample_median': in_sharpe.groupby('split_idx').median().values,
    'in_sample_best': in_test_best_sharpe_basic.values,
    'out_sample_hold': out_hold_sharpe.values,
    'out_sample_median': out_sharpe.groupby('split_idx').median().values,
    'out_sample_test': out_test_sharpe_basic.values
})

color_schema = vbt.settings['plotting']['color_schema']

cv_results_df.vbt.plot(
    trace_kwargs=[
        dict(line_color=color_schema['blue']),
        dict(line_color=color_schema['blue'], line_dash='dash'),
        dict(line_color=color_schema['blue'], line_dash='dot'),
        dict(line_color=color_schema['orange']),
        dict(line_color=color_schema['orange'], line_dash='dash'),
        dict(line_color=color_schema['orange'], line_dash='dot')
    ]
).show_svg()

关注点：

蓝色部分
正常排序是(从上到下)：点线，实现，线段，

橘色部分

实线对实线
说明测试集和验证集的周期收益情况，二者同时出现0轴同侧较好（同时上涨，同时下跌，保持行情的稳定性or延续性）

线段对线段
二者一方面随着各自颜色的实线趋势变化（受各自实线影响较大），其他应该无必然联系

点线对点线
蓝色点高于橘色点线，蓝色是训练集内最佳，橘色则是训练集得到最优参数用于验证集结果收益，大概率低于验证集。

测试，验证集时间长度差异，引入偏差
由于测试集一般是验证集的2-3倍（或更多），对于单边行情(假如上涨)，则(测试集的)实线收益。蓝色线大概率位于橘色线上方。
如果下跌，则相反。蓝色由于时间长，大概率位于橘色下方。

注意：
01，202406，对于当前case，y周取值为sharp ratio夏普比，而非收益率。所以数据点高低并不反映收益率。
所以，以上结论需要稍斟酌，并不完全准确。

4种优选方法的训练集夏普sharp ratio

cv_results_df = pd.DataFrame({
    'in_sample_hold': in_hold_sharpe.values,
    'in_sample_best_basic': in_sharpe[in_test_best_index_basic].values,
    'in_sample_best_coord': in_sharpe[in_test_best_index_nb_coord].values,
    'in_sample_best_mean': in_sharpe[in_test_best_index_nb_mean].values,
    'in_sample_best_median': in_sharpe[in_test_best_index_nb_median].values,
})


color_schema = vbt.settings['plotting']['color_schema']

cv_results_df.vbt.plot(
    trace_kwargs=[
        dict(line_color=color_schema['blue']),
        dict(line_color=color_schema['green']),
        dict(line_color=color_schema['red']),
        dict(line_color=color_schema['cyan']),
        dict(line_color=color_schema['orange'])
    ]
).show_svg()

4种优选方法的验证集夏普sharp ratio

cv_results_df = pd.DataFrame({
    'out_sample_hold': out_hold_sharpe.values,
    'out_sample_test_basic': out_test_sharpe_basic.values,
    'out_sample_test_coord': out_test_sharpe_coord.values,
    'out_sample_test_mean': out_test_sharpe_mean.values,
    'out_sample_test_median': out_test_sharpe_median.values
})

color_schema = vbt.settings['plotting']['color_schema']

cv_results_df.vbt.plot(
    trace_kwargs=[
         dict(line_color=color_schema['blue']),
        dict(line_color=color_schema['green']),
        dict(line_color=color_schema['red']),
        dict(line_color=color_schema['cyan']),
        dict(line_color=color_schema['orange'])
    ]
).show_svg()

25,滚动回测收益可视化

# 测试集：原始价格变动
in_price_org=in_price.iloc[-1, :]/in_price.iloc[0, :]
print('in_price_org shape:',in_price_org.shape)
print('in_price_org.head(5)')
print(in_price_org.head(5))


cv_results_df = pd.DataFrame({
    'out_price_org':  in_price_org.cumprod(),
    'in_test_best_return_basic': (in_test_best_return_basic.values+1).cumprod(),
    'in_test_best_return_coord': (in_test_best_return_nb_coord.values+1).cumprod(),
    'in_test_best_return_mean': (in_test_best_return_nb_mean.values+1).cumprod(),
    'in_test_best_return_median': (in_test_best_return_nb_median.values+1).cumprod(),

})

color_dmac_pfschema = vbt.settings['plotting']['color_schema']


cv_results_df.vbt.plot(
    trace_kwargs=[
         dict(line_color=color_schema['blue']),
        dict(line_color=color_schema['green']),
        dict(line_color=color_schema['red']),
        dict(line_color=color_schema['cyan']),
        dict(line_color=color_schema['orange'])
    ]
).show_svg()



# 验证集：原始价格变动
out_price_org=out_price.iloc[-1, :]/out_price.iloc[0, :]
print('out_price_org shape:',out_price_org.shape)
print('out_price_org.head(5)')
print(out_price_org.head(5))

print()
print('out_test_return_basic shape:',out_test_return_basic.shape)
print('out_test_return_basic.head(5) + 1')
print(out_test_return_basic.head(5)+1)

cv_results_df = pd.DataFrame({
    'out_price_org':  out_price_org.cumprod(),
    'out_test_return_basic': (out_test_return_basic.values+1).cumprod(),
    'out_test_return_coord': (out_test_return_coord.values+1).cumprod(),
    'out_test_return_mean': (out_test_return_mean.values+1).cumprod(),
    'out_test_return_median': (out_test_return_median.values+1).cumprod(),
})

color_dmac_pfschema = vbt.settings['plotting']['color_schema']


cv_results_df.vbt.plot(
    trace_kwargs=[
        dict(line_color=color_schema['blue']),
        dict(line_color=color_schema['green']),
        dict(line_color=color_schema['red']),
        dict(line_color=color_schema['cyan']),
        dict(line_color=color_schema['orange'])
    ]
).show_svg()

in_price_org shape: (7,)
in_price_org.head(5)
split_idx
0    1.772680
1    2.987621
2    1.620045
3    1.282265
4    1.822666
dtype: float64

out_price_org shape: (7,)
out_price_org.head(5)
split_idx
0    2.210941
1    0.876075
2    2.001737
3    0.971119
4    0.902879
dtype: float64

out_test_return_basic shape: (7,)
out_test_return_basic.head(5) + 1
split_idx  dualma_fast_window  dualma_slow_multi  sl_stop
0          40                  1.5                0.05       1.004091
1          20                  2.0                0.10       1.278124
2          20                  1.5                0.10       1.422292
3          10                  3.5                0.10       1.023056
4          40                  5.0                0.05       0.937522
Name: total_return, dtype: float64

上图可见，以上参数优选方法表现基本接近（也符合之前的sharp ratio接近的特征），不论何种参数优选策略，均优于单纯的持有（不过，结论未必通用）。

26,计算正确性验证(略)

a,准备校验数据，数据展示
b,行情->指标 计算正确
c,指标->信号 计算正确

27,回测结果汇总

参数
4种优选方法训练集夏普sharp ratio
4种优选方法验证集夏普sharp ratio
4种优选方法最佳参数测试集回测表现
4种优选方法最佳参数验证集回测表现

跟踪止损

参数

fast_windows = np.arange(10, 50,5)
slow_multis = np.arange(1.5, 5.5, 0.5)
sl_stops = [0.05,0.1,0.15,0.20]
sl_trails = True
无止盈

4种优选方法训练集夏普sharp ratio

4种优选方法验证集夏普sharp ratio

4种优选方法最佳参数测试集回测表现

4种优选方法最佳参数验证集回测表现

非跟踪止损

参数

fast_windows = np.arange(10, 50,5)
slow_multis = np.arange(1.5, 5.5, 0.5)
sl_stops = [0.05,0.1,0.15,0.20]
sl_trails = False
无止盈

4种优选方法训练集夏普sharp ratio

4种优选方法验证集夏普sharp ratio

4种优选方法最佳参数测试集回测表现

4种优选方法最佳参数验证集回测表现

跟踪止损+止盈

参数

fast_windows = np.arange(10, 50,5)
slow_multis = np.arange(1.5, 5.5, 0.5)
sl_stops = [0.05,0.1,0.15,0.20]
sl_trails = True
tp_stops = [0.1, 0.2]

参数
4种优选方法训练集夏普sharp ratio

4种优选方法验证集夏普sharp ratio

4种优选方法最佳参数测试集回测表现

4种优选方法最佳参数验证集回测表现

非跟踪止损+止盈

参数

fast_windows = np.arange(10, 50,5)
slow_multis = np.arange(1.5, 5.5, 0.5)
sl_stops = [0.05,0.1,0.15,0.20]
sl_trails = False
tp_stops = [0.1, 0.2]

4种优选方法训练集夏普sharp ratio

4种优选方法验证集夏普sharp ratio

4种优选方法最佳参数测试集回测表现

4种优选方法最佳参数验证集回测表现

小汇总

跟踪止损 vs 非跟踪止损(买入价固定百分比止损)：一般常规认为跟踪止损更佳，此处并不显著。
跟踪止损+止盈 vs 跟踪止损：趋势策略添加止盈等于给跳蚤加盖测跳高，极度不合适，训练集上效果都上不来。
非跟踪止损+止盈 vs 非跟踪止损：加了止盈不怎么样了。
趋势策略不考虑止盈，可考虑增加买入价固定百分比止损，或跟踪止损。