XGR-Stacking Model Construction Code

### 代码说明此代码的目的是使用 XGBoost、随机森林、梯度提升决策树 （GBDT） 及其堆叠模型来预测房价。该代码包括数据加载、预处理、模型优化、训练和评估步骤。### 数据加载和预处理1. **数据加载**：从Excel文件加载数据集。2. **数据清理**：删除缺失值和异常值。### 特征和标签分离- 将数据集拆分为要素 （X） 和标注 （y）。### 数据集拆分- 将数据集拆分为训练集和测试集，拆分为 80-20。### 模型参数优化使用贝叶斯优化来优化随机森林、GBDT 和 XGBoost 模型的超参数。定义目标函数并优化每个模型。### 模型训练- 使用优化的参数训练随机森林、GBDT 和 XGBoost 模型。- 打印每个模型的 R² 分数。### 堆叠模型训练- 使用三个基本模型（随机森林、GBDT、XGBoost）和线性回归作为元学习器训练堆叠模型。- 打印堆叠模型的 R² 分数。### 模型评估- 计算并打印每个模型的均方误差 （MSE）。- 打印每个模型的最佳超参数。### 可视化- 绘制每个模型的预测结果、残差图和误差分布直方图，以直观地比较其性能。### 新数据预测- 从 Excel 文件加载和预处理新的测试数据。- 使用堆叠模型预测新数据的价格，并将预测保存到 Excel 文件中。### 按键输出- 打印预测结果的前几行。- 打印堆叠模型的 R² 分数。### 总结- 该代码利用贝叶斯优化和堆叠集成学习来构建和评估多个回归模型，以提高房价预测的准确性。- 堆叠模型优于单个模型，显示出更高的 R² 分数和更低的 MSE。