scikit-learn报”ValueError: Invalid parameter {parameter} for estimator {estimator}. Check the list of available parameters with estimator.get_params().keys(). “的原因以及解决办法

问题描述

在使用scikit-learn构建机器学习模型时，有时会报 "ValueError: Invalid parameter {parameter} for estimator {estimator}. Check the list of available parameters with estimator.get_params().keys()." 的错误。

例如，在使用GridSearchCV进行参数调优时，可能会得到以下错误信息：

ValueError: Invalid parameter max_features for estimator RandomForestClassifier(). Check the list of available parameters with `estimator.get_params().keys()`.

这个错误提示有两个主要内容：

• Invalid parameter {parameter} for estimator {estimator}
• Check the list of available parameters with estimator.get_params().keys()

错误原因

这个错误可能由以下原因引起：

• 参数值错误：{parameter}指定的参数值不在允许的范围内。
• 参数拼写错误：{parameter}拼写错误或不存在。
• 模型不支持参数：{estimator}不支持指定的参数。

解决办法

如果错误是由参数值或拼写错误引起的，那么应该检查参数的拼写和取值是否正确。如果是参数值错误，应该将参数的值范围设置为允许的范围内。

如果错误是由模型不支持参数引起的，则应该检查模型的文档或使用estimator.get_params().keys()获取可用参数的列表，并确保使用的参数在列表中。

以下是解决方法的示例：

参数取值错误

例如，在使用KNeighborsClassifier时，可能会使用不存在的参数metrica，应该更正为metric：

from sklearn.model_selection import GridSearchCV 
from sklearn.neighbors import KNeighborsClassifier
param_grid = {'n_neighbors': [5, 10, 15],'metrica': ['euclidean', 'manhattan']}
clf = KNeighborsClassifier()
grid_search = GridSearchCV(clf, param_grid=param_grid)
grid_search.fit(X_train, y_train)

将错误的参数名称更改为正确的名称，即将 metrica 改为 metric。例如：

param_grid = {'n_neighbors': [5, 10, 15],'metric': ['euclidean', 'manhattan']}

参数拼写错误

在使用RandomForestClassifier时，可能会拼写特征选择的参数“max_feature”为“max_features”：

from sklearn.ensemble import RandomForestClassifier
param_grid = {'n_estimators': [10, 20, 30], 'max_feature': ["sqrt", "log2", None]}
clf = RandomForestClassifier()
grid_search = GridSearchCV(clf, param_grid=param_grid)
grid_search.fit(X_train, y_train)

将错误的参数拼写更改为正确的拼写，即将"max_feature"更正为"max_features"：

param_grid = {'n_estimators': [10, 20, 30], 'max_features': ["sqrt", "log2", None]}

模型不支持参数

在使用SVC时，可能会尝试使用预测函数的参数“decision_function”：

from sklearn.svm import SVC
param_grid = {'C': [1, 10, 100], 'gamma': [0.1, 0.01],'decision_function': ['ovr', 'ovo']}
clf = SVC(kernel='linear')
grid_search = GridSearchCV(clf, param_grid=param_grid)
grid_search.fit(X_train, y_train)

由于SVC不支持使用参数“decision_function”，所以出现错误。可以使用estimator.get_params().keys()获取支持的参数列表，然后检查使用的参数是否包含在列表中。

clf = SVC(kernel='linear')
print(clf.get_params().keys())

{'C', 'shrinking', 'verbose', 'random_state', 'tol', 'max_iter', 'decision_function_shape', 'kernel', 'break_ties', 'degree', 'coef0', 'gamma', 'class_weight'}

从列表中可以看出，SVC不支持 parameter 参数，因此我们应删除这个参数：

param_grid = {'C': [1, 10, 100], 'gamma': [0.1, 0.01]}

总结

遇到类似的错误信息时，应根据实际情况检查参数是否正确，并确保使用的参数在可用参数列表中。在此过程中，使用estimator.get_params().keys()获取可用参数列表可能很有帮助。