• 差异点:Random Forest(以及某些决策树实现)原生支持多输出(Multi-output),即单个叶子节点存储一个向量(例如存储3个目标的均值)。
• LightGBM 现状:标准的 LightGBM(截至2024/2025年主流版本)在内核层面主要针对单一目标函数(Single Objective)进行优化。对于多输出回归,它不像随机森林那样在一棵树里同时拟合多个目标。
• 解决方案:通常做法是使用 Sklearn 的 MultiOutputRegressor 包装器,这本质上是训练了 3 个独立的 LightGBM 模型。虽然选项 D(Stacking/Encoding target id)是一种高级技巧(Global Model),但不是标准用法;选项 A 的 regression_multi 不是标准参数。