简单有效原理-奥卡姆剃刀定律

在机器学习中,其实也奉行简单有效原理,比如有一个欠拟合和过拟合的概念,模型的复杂度要比较合适合理来拟合数据,解释数据背后的规律,说明规律也是服从简单有效的原理的。比如多项式拟合,多项式的次数太小或太大对于模型在未见的数据上的预测能力都会表现欠佳。

【启示】(摘自引文)

今天我们用到“奥卡姆剃刀”意指删繁就简,剔除问题中无用的杂项,倾向于简单的解决办法。

1.爱因斯坦:万事万物都应尽可能简洁,但不能过于简单。

2.罗伯特-格罗斯泰斯特:在其他条件相同的情况下,要求得越少的那个就越好,越有价值。

3.亚里土多德:自然界选择最短的道路。

4.艾萨克·牛顿:如果某一原因既真又足以解释自然事物的特性,则我们不应当接受比这更多的原因

References


Posted

in

by

Tags:

Comments

Leave a Reply

Your email address will not be published. Required fields are marked *