如何将数据集分割划分为训练和测试数据集，例如进行交叉验证？

如何将数据集分割/划分为训练和测试数据集，例如进行交叉验证？

如果要将数据集分成两半，可以使用

numpy.random.shuffle

，或者

numpy.random.permutation

需要跟踪索引：

import numpy# x is your datasetx = numpy.random.rand(100, 5)numpy.random.shuffle(x)training, test = x[:80,:], x[80:,:]

要么

import numpy# x is your datasetx = numpy.random.rand(100, 5)indices = numpy.random.permutation(x.shape[0])training_idx, test_idx = indices[:80], indices[80:]training, test = x[training_idx,:], x[test_idx,:]

有多种方法可以重复分区同一数据集以进行交叉验证。一种策略是从数据集中重复采样：

import numpy# x is your datasetx = numpy.random.rand(100, 5)training_idx = numpy.random.randint(x.shape[0], size=80)test_idx = numpy.random.randint(x.shape[0], size=20)training, test = x[training_idx,:], x[test_idx,:]

最后，sklearn包含几种交叉验证方法（k折，nave
-n-out等）。它还包括更高级的“分层抽样”方法，这些方法创建了针对某些功能平衡的数据分区，例如，确保训练和测试集中的正例和负例比例相同。