देवी अहिल्याबाई की मृत्यु के बाद होलकर दरबार अराजकता व अस्थिरता का शिकार हो गया था। पेशवा का पक्ष लेकर सिंधिया दौलतराव, होलकर राज्य के न केवल आंतरिक मामलों में हस्तक्षेप कर रहा था, अपितु चाहता था कि उसके द्वारा समर्थित व्यक्ति होलकर नरेश बनकर उसकी कठपुतली की तरह कार्य करे। होलकर राजगद्दी के सशक्त दावेदारों में यशवंतराव (प्रथम) से उसे सर्वाधिक खतरा था।
अत: सिंधिया ने नागपुर के शासक राघोजी भौंसले को संदेश भेजा की यशवंतराव को कैद कर लिया जाए। यशवंतराव, नागपुर सहायता की याचना के साथ पहुंचा था जिसे सहायता के बदले भौंसले ने कैद कर लिया। कुछ समय तक कैदी का जीवन बिताने के बाद यशवंतराव नागपुर की जेल से भाग निकला, लेकिन पकड़ा गया और सख्त पहरे में पुन: कैद कर दिया गया। 6 माह तक वहीं वह अपने भाग्य से संघर्ष करता रहा और अंतत: एक दिन कैद से भाग निकलने में सफल हो गया।
उसके पास कुछ न था। एक फकीर-सी स्थिति हो गई थीं। ऐसी दशा में खानदेश के एक भील सरदार ने उसे शरण दी थी। उसका मित्र भवानीशंकर उसके साथ था। संयोग से खानदेश के गोरगांव नामक स्थान पर उसकी भेंट शुभचिंतक चिमण भाऊ से हो गई। उसने एक घोड़ी व 300 रु. यशवंतराव को भेंट किए।
इस पैसे के साथ वह बड़वानी पहुंचा तथा वहां से नर्मदा पार कर धरमपुरी में पड़ाव डाला। वहां से उसने धार के शासक आनंदराव पवार से सहायतार्थ अनुरोध किया। उसकी हालत इतनी खराब थी कि उसके पास पहनने के लिए ठीक-ठाक वस्त्र भी न थे। पवार शासक ने यशवंतराव व उसके साथियों को पहनने के लिए वस्त्र व पालकी भेजी।
धार में रहकर यशवंतराव ने आनंदराव के साथ मिलकर धार राज्य पर रंगराव ओढ़ेकर के नेतृत्व में भीषण पिण्डारी आक्रमण को विफल कर धार की रक्षा की थी। जैसे ही यह समाचार सिंधिया को मिला, उसने आनंदराव पवार को धमकाते हुए यशवंतराव को तत्काल धार से बाहर निकालने के लिए लिखा। यशवंतराव को कुछ धन, 14 घोड़े व 120 पैदल सैनिक देकर आनंदराव ने धार से विदा कर दिया। इसी टुकड़ी के साथ यशवंतराव का भाग्योदय हुआ। उसने होलकर राज्य के देपालपुर को जीता व तेजी से महेश्वर पहुंचकर वहां के खजाने पर कब्जा कर लिया।
एक बड़ी सेना खड़ी कर यशवंतराव ने सिंधिया राज्य के संपन्न नगर उज्जैन पर आक्रमण किया। इस अभियान में वह असफल रहा और सतवास युद्ध में पराजित होकर इंदौर लौट आया। इंदौर में रहकर उसने सैनिक शक्ति संचित की। यशवंतराव (प्रथम) ने गुरुवार जुलाई 1801 ई. को उज्जैन में सिंधिया की सेना पर आक्रमण कर उसे पराजित कर दिया।
उज्जैन बुरी तरह लूटा गया। इन अपमान का बदला लेने के लिए सिंधिया ने सर्जेराव घाटगे के नेतृत्व में जबरदस्त फौज इंदौर पर आक्रमण के लिए भेजी। सिंधिया की फौज ने बिजलपुर के समीप तेजपुर नामक स्थान पर आकर मोर्चा जमाया। यहीं होलकर व सिंधिया की सेना के बीच युद्ध लड़ा गया। तभी से तेजपुर का नाम तेजपुर गड़बड़ी हो गया।
