在大数据问题中,我们常常需要对数据进行分割,得到X和y的数据,这里我们来详细讲解一下数据分割函数train_test_split,以及用k折交叉验证来分割数据。

分割训练集和测试集
from sklearn.model_selection import train_test_split

#train_size设置分割的比例,x_train为80%
train,test = train_test_split(x,  train_size=0.8)

#train_size设置分割的数量
train,test = train_test_split(x,  train_size=4)
  • random_state:int or RandomState instance, default=None

这个参数表示随机状态,因为每次分割都是随机的。

from sklearn.model_selection import train_test_split

#random_state,随机分配
train,test = train_test_split(x,  train_size=0.8, random_state=0)
  • shuffle: bool, default=True

是否重洗数据(洗牌),就是说在分割数据前,是否把数据打散重新排序这样子,看上面我们分割完的数据,都不是原始数据集的顺序,默认是要重洗的

from sklearn.model_selection import train_test_split

#random_state,随机分配
train,test = train_test_split(x,  train_size=0.8, shuffle=False)

需要说明的是shuffle=True的时候,random_state才起作用。

可以理解为random_state是一个控制怎么洗牌的参数。

分割训练数据和标签
from sklearn.model_selection import train_test_split

#数据和标签分割
y = data['label'];
x = data.drop(labels=['label'], axis=1, level=None)

#数据分割
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.33, random_state=0)
k折交叉验证分割方法
from sklearn.model_selection import KFold
import pandas as pd
import numpy as np

#数据分割
x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.2, random_state=0)

#转成numpy格式
x_train = np.array(x_train)
y_train = np.array(y_train)
#这里的k表示进行几折交叉验证
k = 2
kfolder = KFold(n_splits=k, shuffle=True,random_state=0)
kfold = kfolder.split(x_train, y_train)

for train_index, val_index in kfold:
    k_x_train = x_train[train_index]  #训练集
    k_y_train = y_train[train_index]  #测试集标签
    k_x_vali = x_train[val_index]    #验证集
    k_y_vali = y_train[val_index]    #验证集标签

数据分割之后,需要计算k折交叉验证的平均值。

总结

以上就是常见的数据分割的方法,


老规矩,有用二连,非常感谢!

Logo

永洪科技,致力于打造全球领先的数据技术厂商,具备从数据应用方案咨询、BI、AIGC智能分析、数字孪生、数据资产、数据治理、数据实施的端到端大数据价值服务能力。

更多推荐