bingo!
Astonishing - deep networks are just kernel machines, regardless of architecture: https://news.cs.washington.edu/2020/12/02/uncovering-secrets-of-the-black-box-pedro-domingos-author-of-the-master-algorithm-shines-new-light-on-the-inner-workings-of-deep-learning-models/ …
-
-
Kiitos. Käytämme tätä aikajanasi parantamiseen. KumoaKumoa
-
-
-
Doesn't every smooth function have a representation as an equivalent kernel?
-
Not sure what you mean.
- Näytä vastaukset
Uusi keskustelu -
-
-
Kernels machines with data-dependent kernels are not kernel machines.
-
Are you saying that if you optimize the hyperparameters of a kernel (for example, using the GP marginal likelihood) then it ceases to be a kernel machine?
- Näytä vastaukset
Uusi keskustelu -
-
-
I think we all agree that gradient-based algorithms find similarity-based learning. We try to find the values for the parameters to fit most samples on the graphs. However, an interesting way to present it as a memory.
Kiitos. Käytämme tätä aikajanasi parantamiseen. KumoaKumoa
-
-
-
Universal data compression?
-
Gödel machine.
Keskustelun loppu
Uusi keskustelu -
-
-
Good insight!
Kiitos. Käytämme tätä aikajanasi parantamiseen. KumoaKumoa
-
-
-
it is intersting to note that the weights of really deep networks are initiliazed by greedly training RBMs which do not follow any specific gradient. in theory it does not make a difference but in practice it is impossible to train large deep nets from random weights
-
although im not entirely sure if this makes a difference for the results presented in the paper since the math is sound and does not assume anything about the initial weights
- Näytä vastaukset
Uusi keskustelu -
Lataaminen näyttää kestävän hetken.
Twitter saattaa olla ruuhkautunut tai ongelma on muuten hetkellinen. Yritä uudelleen tai käy Twitterin tilasivulla saadaksesi lisätietoja.