我正在使用 Rapidminer 进行分析。我在几个模型上使用了交叉验证来获得最佳工作模型。现在我想使用这个模型在一个单独的测试集上进行测试,我使用拆分数据来估计性能。
如何使用测试集?据我所知,所有的验证模块都使用了创建模型的训练集。我可以使用哪种性能度量来获取模型和我的测试集?
我正在使用 Rapidminer 进行分析。我在几个模型上使用了交叉验证来获得最佳工作模型。现在我想使用这个模型在一个单独的测试集上进行测试,我使用拆分数据来估计性能。
如何使用测试集?据我所知,所有的验证模块都使用了创建模型的训练集。我可以使用哪种性能度量来获取模型和我的测试集?
使用“应用模型”运算符,您的模型作为第一个输入,您的测试集作为第二个输入。该运算符将返回一个带标签的数据集,该数据集是您的数据输入,带有一些额外的特殊属性,例如预测和置信度。“性能”运算符需要此属性来衡量应用在测试集上的模型的性能。
这是一个使用“示例”存储库中的训练和测试集的小示例。
<?xml version="1.0" encoding="UTF-8" standalone="no"?>
<process version="5.3.007">
<context>
<input/>
<output/>
<macros/>
</context>
<operator activated="true" class="process" compatibility="5.3.007" expanded="true" name="Process">
<process expanded="true">
<operator activated="true" class="retrieve" compatibility="5.3.007" expanded="true" height="60" name="Golf" width="90" x="45" y="30">
<parameter key="repository_entry" value="//Samples/data/Golf"/>
</operator>
<operator activated="true" class="decision_tree" compatibility="5.3.007" expanded="true" height="76" name="Decision Tree" width="90" x="179" y="30"/>
<operator activated="true" class="retrieve" compatibility="5.3.007" expanded="true" height="60" name="Golf-Testset" width="90" x="179" y="120">
<parameter key="repository_entry" value="//Samples/data/Golf-Testset"/>
</operator>
<operator activated="true" breakpoints="before,after" class="apply_model" compatibility="5.3.007" expanded="true" height="76" name="Apply Model" width="90" x="313" y="30">
<list key="application_parameters"/>
</operator>
<operator activated="true" class="performance" compatibility="5.3.007" expanded="true" height="76" name="Performance" width="90" x="447" y="30"/>
<connect from_op="Golf" from_port="output" to_op="Decision Tree" to_port="training set"/>
<connect from_op="Decision Tree" from_port="model" to_op="Apply Model" to_port="model"/>
<connect from_op="Golf-Testset" from_port="output" to_op="Apply Model" to_port="unlabelled data"/>
<connect from_op="Apply Model" from_port="labelled data" to_op="Performance" to_port="labelled data"/>
<connect from_op="Performance" from_port="performance" to_port="result 1"/>
<portSpacing port="source_input 1" spacing="0"/>
<portSpacing port="sink_result 1" spacing="0"/>
<portSpacing port="sink_result 2" spacing="0"/>
</process>
</operator>
</process>