Wow ! The insights you share never cease to amaze.
It’s remarkable that, in many applications, deep networks with random hidden-layer weights already do quite well. Gradient descent just adds the finishing touches.
-
-
Kiitos. Käytämme tätä aikajanasi parantamiseen. KumoaKumoa
-
-
-
Wait... what? How does this work, just a random search over hidden-layer weights until you fit the data?
-
No search at all, just random initialization.
- Näytä vastaukset
Uusi keskustelu -
-
-
Could you kindly link to a couple of compelling examples?
-
Query Google Scholar or Semantic Scholar with “deep networks with random weights”.
Keskustelun loppu
Uusi keskustelu -
-
-
How deep are these deep networks ?
-
Typically not very.
- Näytä vastaukset
Uusi keskustelu -
-
-
Deep networks are not much than astrology in terms of how they work. We should either stop putting more effort into DL/DN or start paying more attention to astrology
-
That is nonsense.
Keskustelun loppu
Uusi keskustelu -
-
-
The input embeddings still have to be good, right?
-
Not really.
Keskustelun loppu
Uusi keskustelu -
Lataaminen näyttää kestävän hetken.
Twitter saattaa olla ruuhkautunut tai ongelma on muuten hetkellinen. Yritä uudelleen tai käy Twitterin tilasivulla saadaksesi lisätietoja.