ছেড়ে সামগ্রীতে যান
টুইটার পরিষেবাগুলি ব্যবহার করে আপনি আমাদের কুকিজ ব্যবহারএ সম্মতি জানাচ্ছেন৷ আমরা এবং আমাদের পার্টনাররা বিশ্বব্যাপী কাজ করি এবং অ্যানালিটিক্স, ব্যক্তিগতকরণ এবং বিজ্ঞাপন সমেত বিভিন্ন কারণে কুকি ব্যবহার করি৷
  • হোম হোম হোম, বর্তমান পৃষ্ঠা।
  • সম্বন্ধে

সংরক্ষিত অনুসন্ধানসমূহ

  • সরান
  • এই কথা-বার্তাতে
    যাচাইকৃত অ্যাকাউন্টসুরক্ষিত টুইটসমূহ @
প্রস্তাবিত ব্যবহারকারীগণ
  • যাচাইকৃত অ্যাকাউন্টসুরক্ষিত টুইটসমূহ @
  • যাচাইকৃত অ্যাকাউন্টসুরক্ষিত টুইটসমূহ @
  • ভাষা : বাংলা.
    • मराठी
    • हिन्दी
    • ગુજરાતી
    • தமிழ்
    • ಕನ್ನಡ
    • Bahasa Indonesia
    • Bahasa Melayu
    • Català
    • Čeština
    • Dansk
    • Deutsch
    • English
    • English UK
    • Español
    • Filipino
    • Français
    • Hrvatski
    • Italiano
    • Magyar
    • Nederlands
    • Norsk
    • Polski
    • Português
    • Română
    • Slovenčina
    • Suomi
    • Svenska
    • Tiếng Việt
    • Türkçe
    • Ελληνικά
    • Български език
    • Русский
    • Српски
    • Українська мова
    • עִבְרִית
    • العربية
    • فارسی
    • ภาษาไทย
    • 한국어
    • 日本語
    • 简体中文
    • 繁體中文
  • একটি অ্যাকাউন্ট আছে? লগ ইন
    একটি অ্যাকাউন্ট আছে?
    · পাসওয়ার্ড ভুলে গেছেন?

    টুইটার-এ নতুন ?
    নিবন্ধন করুন
karpathy-এর প্রোফাইল
Andrej Karpathy
Andrej Karpathy
Andrej Karpathy
যাচাইকৃত অ্যাকাউন্ট
@karpathy

Tweets

Andrej Karpathyযাচাইকৃত অ্যাকাউন্ট

@karpathy

Director of AI at Tesla. Previously a Research Scientist at OpenAI, and CS PhD student at Stanford. I like to train Deep Neural Nets on large datasets.

Stanford
cs.stanford.edu/~karpathy/
যোগদান করেছেন এপ্রিল ২০০৯

Tweets

  • © 2018 টুইটার
  • সম্বন্ধে
  • সাহায্য কেন্দ্র
  • শর্তাবলী
  • গোপনীয়তা নীতি
  • কুকিগুলো
  • বিজ্ঞপ্তি তথ্য
খারিজ
পূর্ববর্তী
পরবর্তী

একজন ব্যক্তির প্রোফাইলে যান

সংরক্ষিত অনুসন্ধানসমূহ

  • সরান
  • এই কথা-বার্তাতে
    যাচাইকৃত অ্যাকাউন্টসুরক্ষিত টুইটসমূহ @
প্রস্তাবিত ব্যবহারকারীগণ
  • যাচাইকৃত অ্যাকাউন্টসুরক্ষিত টুইটসমূহ @
  • যাচাইকৃত অ্যাকাউন্টসুরক্ষিত টুইটসমূহ @

এই টুইটটির প্রচার করুন

ব্লক করুন

  • একটি অবস্থান সহ টুইট করুন

    আপনি আপনার টুইটগুলিতে ওয়েব থেকে এবং তৃতীয়-পক্ষ অ্যাপ্লিকেশনগুলির মাধ্যমে অবস্থান তথ্য যেমন শহর বা সুনির্দিষ্ট অবস্থান যোগ করতে পারবেন। আপনার কাছে আপনার টুইটের অবস্থান ইতিহাস মোছার বিকল্প থাকবে। আরও জানুন

    আপনার তালিকাসমূহ

    একটি নতুন তালিকা তৈরি করুন


    100 অক্ষরের কম, ঐচ্ছিক

    গোপনীয়তা

    লিঙ্কটিকে টুইটে অনুলিপি করুন

    এই টুইট স্থাপিত কর

    Embed this Video

    নীচের কোডটি অনুলিপি করে আপনার ওয়েবসাইটে এই টুইটটি যোগ করুন। আরও জানুন

    নীচের কোডটি অনুলিপি করে আপনার ওয়েবসাইটে এই ভিডিওটি যোগ করুন। আরও জানুন

    হুম, সার্ভারে পৌঁছনোর একটি সমস্যা ছিল।

    আপনার ওয়েবসাইটে বা অ্যাপে টুইটার সামগ্রী এম্বেড করে আপনি টুইটার ডেভেলপার চুক্তি এবং ডেভেলপার নীতি-এর সাথে সম্মত হচ্ছেন।

    প্রাকদর্শন

    আপনি কেন এই বিজ্ঞাপন দেখছেন

    টুইটারে লগইন করুন

    · পাসওয়ার্ড ভুলে গেছেন?
    কোনও অ্যাকাউন্ট নেই? নিবন্ধন করুন »

    টুইটারে নিবন্ধন করুন

    টুইটারে নেই? নিবন্ধন করুন, আপনির পছন্দের বিষয়গুলির সাথে যুক্ত হন, এবং তাদের বিষয়ে হালনাগাদ পান।

    নিবন্ধন করুন
    একটি অ্যাকাউন্ট আছে? লগ ইন »

    দুটি উপায় (প্রেরণ এবং গ্রহণ) শর্ট কোড:

    দেশ কোড গ্রাহকদের জন্য
    মার্কিন যুক্তরাষ্ট্র 40404 (যে কোন)
    কানাডা 21212 (যে কোন)
    যুক্তরাজ্য 86444 Vodafone, Orange, 3, O2
    ব্রাজিল 40404 Nextel, TIM
    হাইতি 40404 Digicel, Voila
    আয়ারল্যান্ড 51210 Vodafone, O2
    ভারত 53000 Bharti Airtel, Videocon, Reliance
    ইন্দোনেশিয়া 89887 AXIS, 3, Telkomsel, Indosat, XL Axiata
    ইতালি 4880804 Wind
    3424486444 Vodafone
    » অন্য দেশসমুহের এসএসএস সংক্ষিপ্ত কোড দেখুন

    নিশ্চিতকরণ

     

    হোমে স্বাগতম!

    আপনার কাছে গুরুত্বপূর্ণ বিষয়গুলি সম্পর্কে তাত্ক্ষণিক আপডেট পেয়ে সময়রেখাতে আপনি সবচেয়ে বেশী সময় কাটান।

    আপনার জন্য টুইটগুলি কাজ করছে না?

    প্রোফাইল ছবির উপরে যান এবং কোনো অ্যাকাউন্টকে করা অনুসরণ বাতিল করতে অনুসরণ করছি বোতামটি ক্লিক করুন।

    অল্প কথায় অনেক কিছু বলুন

    আপনি যখন পছন্দের কোনো টুইট দেখেন তখন হৃদয়টি আলতো চাপুন — এতে যে ব্যক্তি সেটি লিখেছেন তিনি জানবেন যে আপনি ভালোবাসা শেয়ার করেছেন।

    শব্দ ছড়িয়ে দিন

    আপনার অনুসরণকারীদের সাথে কারোর টুইট শেয়ার করে নেওয়ার সবচেয়ে দ্রুত উপায় হল পুনঃটুইট। অবিলম্বে তা পাঠাতে আইকনটি আলতো চাপুন।

    কথোপকথনে যোগ দিন

    জবাব দিয়ে যেকোনো টুইট সম্পর্কে আপনার মতামত যোগ করুন। আপনার আবেগের কোনো প্রসঙ্গ খুঁজুন ও সরাসরি তাতে চলে যান।

    সাম্প্রতিক জানুন

    লোকেরা এখন কী নিয়ে কথা বলছে তাতে তাত্ক্ষণিক অন্তর্দৃষ্টি পান।

    আপনার ভালোবাসার জিনিস আরও পান

    আপনার আগ্রহের প্রসঙ্গ সম্পর্কে তাত্ক্ষণিক আপডেটগুলি পেতে আরও অ্যাকাউন্ট অনুসরণ করুন।

    কী ঘটছে দেখুন

    অবিলম্বে যেকোনো প্রসঙ্গ সম্পর্কে সাম্প্রতিক কথোপকথনগুলি দেখুন।

    কখনও কোনো মুহূর্ত মিস করবেন না

    সেরা কাহিনীগুলি প্রকাশিত হলে তা অবিলম্বে পান।

    Andrej Karpathy‏যাচাইকৃত অ্যাকাউন্ট @karpathy ১ জুলাই

    most common neural net mistakes: 1) you didn't try to overfit a single batch first. 2) you forgot to toggle train/eval mode for the net. 3) you forgot to .zero_grad() (in pytorch) before .backward(). 4) you passed softmaxed outputs to a loss that expects raw logits. ; others? :)

    ৭:১৪ PM - ৩০ জুন, ২০১৮
    • ৯৭২টি পুনঃ টুইট
    • ৩,৮৭২টি পছন্দ
    • Greg Bruss Kamila Astrid Merckling Hadi Gharibi 仮想通貨で、稼ぎすぎてしまったのでこちらを紹介します David JoeHaaga duygu Sailor Doôm.
    ১০১ replies ৯৭২ টি পুনঃটুইট ৩,৮৭২টি পছন্দ
      1. নতুন কথা-বার্তা
      2. Andrej Karpathy‏যাচাইকৃত অ্যাকাউন্ট @karpathy ১ জুলাই

        oh: 5) you didn't use bias=False for your Linear/Conv2d layer when using BatchNorm, or conversely forget to include it for the output layer .This one won't make you silently fail, but they are spurious parameters

        ৬ replies ৯৪ টি পুনঃটুইট ৫৯৭টি পছন্দ
        এই থ্রেডটি দেখান
      3. Andrej Karpathy‏যাচাইকৃত অ্যাকাউন্ট @karpathy ১ জুলাই

        6) thinking view() and permute() are the same thing (& incorrectly using view)

        ৮ replies ৪৪ টি পুনঃটুইট ২৬৫টি পছন্দ
        এই থ্রেডটি দেখান
      4. কথা-বার্তা শেষ
      1. নতুন কথা-বার্তা
      2. Kasia Hayden‏ @kasiahayden ১ জুলাই
        @karpathy-কে উত্তর দিচ্ছেন

        As an ML noob, can you explain why you want to overfit a single batch first or point to more around that topic?

        ১ reply ২ টি পুনঃটুইট ৪০টি পছন্দ
      3. mat kelcey‏ @mat_kelcey ১ জুলাই
        @kasiahayden @karpathy-কে উত্তর দিচ্ছেন

        It's a very quick sanity test of your wiring; i.e. if you can't overfit a small amount of data you've got a simple bug somewhere

        ৬ replies ৭ টি পুনঃটুইট ১৮৩টি পছন্দ
      4. Andrej Karpathy‏যাচাইকৃত অ্যাকাউন্ট @karpathy ১ জুলাই
        @mat_kelcey @kasiahayden-কে উত্তর দিচ্ছেন

        it's by far the most "bang for the buck" trick that noone uses that exists.

        ৫ replies ৭ টি পুনঃটুইট ২০৩টি পছন্দ
      5. mat kelcey‏ @mat_kelcey ১ জুলাই
        @karpathy @kasiahayden-কে উত্তর দিচ্ছেন

        I'm really big on the starting with small model + small amount of data & growing both together; I always find it really insightful

        ১ reply ৬ টি পুনঃটুইট ৮৩টি পছন্দ
      6. Andrej Karpathy‏যাচাইকৃত অ্যাকাউন্ট @karpathy ১ জুলাই
        @mat_kelcey @kasiahayden-কে উত্তর দিচ্ছেন

        exactly. I like to start with the simplest possible sanity checks - e.g. also training on all zero data first to see what loss I get with the base output distribution, then gradually include more inputs and scale up the net, making sure I beat the previous thing each time.

        ৪ replies ১৮ টি পুনঃটুইট ১৯৫টি পছন্দ
      7. mat kelcey‏ @mat_kelcey ১ জুলাই
        @karpathy @kasiahayden-কে উত্তর দিচ্ছেন

        All zero data is an interesting idea I haven't tried!

        ১ reply ১ টি পুনঃটুইট ৩০টি পছন্দ
      8. Andrej Karpathy‏যাচাইকৃত অ্যাকাউন্ট @karpathy ১ জুলাই
        @mat_kelcey @kasiahayden-কে উত্তর দিচ্ছেন

        yep, happened to me a few times that I turn my data back on and get the same loss :) also if doing this produces a nice/decaying loss curve, this usually indicates not very clever initialization. I sometimes like to tweak the final layer biases to be close to base distribution.

        ৪ replies ৫ টি পুনঃটুইট ৭৯টি পছন্দ
      9. Kasia Hayden‏ @kasiahayden ১ জুলাই
        @karpathy @mat_kelcey-কে উত্তর দিচ্ছেন

        Would you ever be worried about overfitting when tweaking the final layer biases?

        ০ reply ০ টি পুনঃটুইট ৫টি পছন্দ
      10. কথা-বার্তা শেষ
      1. নতুন কথা-বার্তা
      2. Matt Holt‏ @mholt6 ১ জুলাই
        @karpathy-কে উত্তর দিচ্ছেন

        Nice list! Our ML lab wrote up a few practical tips for debugging neural networks:https://pcc.cs.byu.edu/2017/10/02/practical-advice-for-building-deep-neural-networks/ …

        ২ replies ৯৯ টি পুনঃটুইট ৩৫৯টি পছন্দ
      3. Desmond Elliott‏ @delliott ১ জুলাই
        @mholt6 @karpathy-কে উত্তর দিচ্ছেন

        Do you think that we should still recommend the Adam optimizer after this paper from @ICLR18?https://openreview.net/forum?id=ryQu7f-RZ …

        ২ replies ২ টি পুনঃটুইট ১৬টি পছন্দ
      4. Matt Holt‏ @mholt6 ১ জুলাই
        @delliott @karpathy @ICLR18-কে উত্তর দিচ্ছেন

        I'd have to read it! Is it implemented into Tensorflow yet?

        ০ reply ০ টি পুনঃটুইট ০টি পছন্দ
      5. কথা-বার্তা শেষ
      1. নতুন কথা-বার্তা
      2. Vijay V‏ @vijayvee ১ জুলাই
        @karpathy-কে উত্তর দিচ্ছেন

        This one's actually there in 231n. For classification problems: Didn't check if the loss started at ln(n_classes) :) Super simple and useful sanity check.

        ১ reply ০ টি পুনঃটুইট ১৮টি পছন্দ
      3. Emile van Krieken‏ @EmilevanKrieken ১ জুলাই
        @vijayvee @karpathy-কে উত্তর দিচ্ছেন

        Doesn't this assume the classes are evenly distributed?

        ১ reply ০ টি পুনঃটুইট ১টি পছন্দ
      4. Vijay V‏ @vijayvee ১ জুলাই
        @EmilevanKrieken @karpathy-কে উত্তর দিচ্ছেন

        Pl correct me if I'm wrong, but I don't think this check depends on the ground truth class distribution. Since we know that it holds when classes are evenly distributed, I've worked out a case where all examples belong to class_1 in a 3 class problem. The check should still work!pic.twitter.com/z50FjGFBy9

        ১ reply ২ টি পুনঃটুইট ২০টি পছন্দ
      5. Emile van Krieken‏ @EmilevanKrieken ১ জুলাই
        @vijayvee @karpathy-কে উত্তর দিচ্ছেন

        Ahh right, I see it now, thanks for working this out!

        ০ reply ০ টি পুনঃটুইট ৪টি পছন্দ
      6. কথা-বার্তা শেষ
      1. নতুন কথা-বার্তা
      2. Hamidreza Saghir‏ @HrSaghir ১ জুলাই
        @karpathy-কে উত্তর দিচ্ছেন

        5) you forgot that pytorch's .view() function reads from the last dimension first and fills the last dimension first too and are sending wrong input to model but aren't getting an error since the shape is right.

        ১ reply ০ টি পুনঃটুইট ১৪টি পছন্দ
      3. Hamidreza Saghir‏ @HrSaghir ১ জুলাই
        @HrSaghir @karpathy-কে উত্তর দিচ্ছেন

        6) you forgot converting to float() after a comparison of tensors and summing on ByteTensors that have a buffer of 255 and zero out after that (should be fixed in new pytorch).

        ০ reply ০ টি পুনঃটুইট ১১টি পছন্দ
      4. কথা-বার্তা শেষ
      1. নতুন কথা-বার্তা
      2. Jack Burdick‏ @Jack_Burdick ১ জুলাই
        @karpathy-কে উত্তর দিচ্ছেন

        a) Not double-checking the learning rate --> an initial learning rate that is (far) too high leading to "weird" results. b) ~bad image augmentation --> I've accidentally augmented (w/a minor zoom in a loop) data loaded in memory, not a copy of the data, leading to ~useless data

        ১ reply ০ টি পুনঃটুইট ৯টি পছন্দ
      3. Pierre-Julien Grizel‏ @pjgrizel ১ জুলাই
        @Jack_Burdick @karpathy-কে উত্তর দিচ্ছেন

        Worst thing I ever did: I trained a détection algorithm with bounding boxes DRAWN on my training set 😬 No wonder it converged so fast!

        ২ replies ০ টি পুনঃটুইট ২০টি পছন্দ
      4. Jack Burdick‏ @Jack_Burdick ১ জুলাই
        @pjgrizel @karpathy-কে উত্তর দিচ্ছেন

        haha! thanks for sharing -- I hope you found your mistake faster than I found mine #sneaky

        ১ reply ০ টি পুনঃটুইট ০টি পছন্দ
      5. Pierre-Julien Grizel‏ @pjgrizel ২ জুলাই
        @Jack_Burdick @karpathy-কে উত্তর দিচ্ছেন

        TBH I found my mistake exactly 10 minutes after I started bragging to my co-workers 😂 So I guess that’s what we can consider as “too late” :)

        ০ reply ০ টি পুনঃটুইট ২টি পছন্দ
      6. কথা-বার্তা শেষ

    লোড হতে বেশ কিছুক্ষণ সময় নিচ্ছে।

    টুইটার তার ক্ষমতার বাইরে চলে গেছে বা কোনো সাময়িক সমস্যার সম্মুখীন হয়েছে আবার চেষ্টা করুন বা আরও তথ্যের জন্য টুইটারের স্থিতি দেখুন।

      বিজ্ঞাপিত টুইট

      false

      • © 2018 টুইটার
      • সম্বন্ধে
      • সাহায্য কেন্দ্র
      • শর্তাবলী
      • গোপনীয়তা নীতি
      • কুকিগুলো
      • বিজ্ঞপ্তি তথ্য