इसी मंदिर में बड़े बाबा की विशाल प्रतिमा है। यह प्रतिमा बड़े बाबा जी के नाम से प्रसिद्ध है। प्रतिमा पद्मासन मुद्रा में है और 15 फुट ऊंची हैं। कुंडलपुर का अतिशय बहुत निराला और प्राचीन है, श्रीधर केवली की निर्वाण भूमि होना, यह अवगत कराती है कि ईसा से छह शताब्दियों पूर्व भगवान महावीर स्वामी का समवसरण यहां पर आया था।

एक शिलालेख के अनुसार विक्रम संवत् 1757 में यह मंदिर फिर से भट्टारक सुरेंद्रकीर्ति द्वारा खोजा गया था। तब यह मंदिर जीर्णशीर्ण हालत में था।  बुंदेलखंड के शासक छत्रसाल की मदद से मंदिर का पुनः निर्माण कराया गया था। आचार्य विद्यासागर इस क्षेत्र के जीर्णोद्धार के मुख्य प्रेरणा स्रोत माने जाते हैं।

यहां की सबसे बड़ी घटना तो वह थी, जब मूर्ति पूजा विरोधी औरंगजेब अपनी बड़ी भारी सेना लेकर पहाड़ पर चढ़ आया और उसने बड़े बाबा की प्रतिमा को खंडित करने का असफल प्रयास किया, जैसे ही उसने प्रतिमा के दाहिने पैर के अंगूठे पर तलवार का वार किया,  अंगूठे से दूध की धार निकल पड़ी, वह जान बचाकर वहां से जैसे ही भागा मधुमक्खियों ने उस पर और उसकी सेना पर आक्रमण कर दिया।

बड़े बाबा के दाहिने पैर के अंगूठे का निशान और मधुमक्खियों के शांत और व्यवस्थित छत्ते इसी बात का प्रमाण है।