正确答案是：C: 组间离差平方和除以总离差平方和。

在系统聚类法中，R²（也称为判定系数）用于衡量聚类结果的解释能力。具体来说，R²表示的是聚类结果解释的总变异的比例。

- 总离差平方和（Total Sum of Squares, SST）表示所有数据点相对于总体均值的离差平方和。
- 组间离差平方和（Between-Cluster Sum of Squares, SSB）表示聚类中心相对于总体均值的离差平方和。

R²的计算公式为：
\[ R² = \frac{SSB}{SST} \]

这个公式表示组间离差平方和占总离差平方和的比例，即聚类结果解释的总变异的比例。R²的值越接近1，说明聚类结果越好，解释的总变异越多。

因此，正确答案是C：组间离差平方和除以总离差平方和。