जब उनकी कथा विक्रम ने पढ़ी तो सोचा कि इतने बड़े दानवीर के दर्शन ज़रूर करने चाहिए। उन्होंने विचार किया कि भगवान विष्णु की आराधना करके उन्हें प्रसन्न किया जाए तथा उनसे दैत्यराज बली से मिलने का मार्ग पूछा जाए।
ऐसा विचार मन में आते ही उन्होंने राज-पाट और मोह-माया से अपने आपको अलग कर लिया तथा महामंत्री को राजभार सौंपकर जंगल की ओर प्रस्थान कर गए। जंगल में उन्होंने घोर तपस्या शुरू की और भगवान विष्णु की स्तुति करने लगे।
उनकी तपस्या बहुत लम्बी थी। शुरू में वे केवल एक समय का भोजन करते थे। कुछ दिनों बाद उन्होंने वह भी त्याग दिया तथा फल और कन्द-मूल आदि खाकर रहने लगे। कुछ दिनों बाद सब कुछ त्याग दिया और केवल पानी पीकर तपस्या करते रहे। इतनी कठोर तपस्या से वे बहुत कमज़ोर हो गए और साधारण रूप से उठने-बैठने में भी उन्हें काफी मुश्किल होने लगी। धीरे-धीरे उनके तपस्या स्थल के पास और भी बहुत सारे तपस्वी आ गए।