在分析数据挖掘和统计的算法区别问题时，我们需逐一分析所给选项：

A. **统计模型法计算变量的统计量，如均值、标准差等用于构建模型**
- **分析**：统计模型通常会计算变量的统计量（如均值、标准差）作为基础描述和特征选择的一部分，以帮助构建模型。因此，这个描述是正确的。

B. **最小二乘法擅长处理多个自变量的情况，寻求残差平方和最小化，主要用于大数据的场景**
- **分析**：最小二乘法确实用于处理多个自变量以最小化残差平方和。然而，它原本应用于较小规模的数据集。当数据规模非常大时，计算成本可能会变得很高，因此在大数据场景下可能需要更多资源或采用其他方法（如分布式计算）。

C. **梯度下降法，以非迭代的方式，最小化模型误差**
- **分析**：梯度下降法是一种迭代算法，用于最小化函数误差。它通过不断调整参数以减小损失函数。因此，该描述是错误的，因为梯度下降是迭代方法。

D. **正则化法方法只能用于大型数据分析的场景**
- **分析**：正则化方法用于提高模型的泛化能力，防止过拟合，可以适用于各种规模的数据集，并不仅限于大型数据分析的场景。因此，这个说法是不正确的。

**正确答案是：A**。