Occam's razor is a myth: the most complex models are usually the most accurate.
-
Professor, Occam's Razor does not require that we prefer a simpler but less accurate model. It requires merely something like that as between two equally accurate models, we prefer the simpler one.
No, Occam's razor as it's commonly (mis)understood in ML says that simpler models generalize better, which is false. See: https://homes.cs.washington.edu/~pedrod/papers/dmkd99.pdf …
-
-
I'll take a look, thank you!
Kiitos. Käytämme tätä aikajanasi parantamiseen. KumoaKumoa
-
-
-
Early stopping favors smoother, "simpler" models, no?
Kiitos. Käytämme tätä aikajanasi parantamiseen. KumoaKumoa
-
-
-
Maybe
@olivertraldi refers to the "first razor" (mentioned in your paper above) which should be uncontroversial, but is also much weaker?Kiitos. Käytämme tätä aikajanasi parantamiseen. KumoaKumoa
-
-
-
Ah, ok, thanks for the link to your paper. I think you needed to specify the domain you're discussing. When human scientists are coming up with models, they often add complexity for each new example they don't understand. Simpler is often (always?) better.
#WeAreTheOccamsRazorLabKiitos. Käytämme tätä aikajanasi parantamiseen. KumoaKumoa
-
-
Näytä lisää vastauksia, myös mahdollisesti häiritsevää aineistoa sisältäviä
Lataaminen näyttää kestävän hetken.
Twitter saattaa olla ruuhkautunut tai ongelma on muuten hetkellinen. Yritä uudelleen tai käy Twitterin tilasivulla saadaksesi lisätietoja.