ఈ ఆలయానికి సుమారుగా 80 ఏళ్లకు పైగా చరిత్ర ఉందని చరిత్రకారులు చెబుతున్నారు. అయితే రాజ నరేంద్రుడి కాలంలోనే రాజ రాజ నరేంద్రుడు ఈ కొండపైన తపస్సు ఆనవాళ్లు ఉన్నాయి. ఈ కొండ నుంచి రాజన్న గర్భగుడి వరకు ఏడు కిలోమీటర్లకు పైగా సొరంగ మార్గం ఉంది. అయితే 9 మంది సిద్దులు ఇక్కడ తపస్సు చేసుకునేవారని, తరువాత సొరంగ మార్గం ద్వారా రాజన్న ఆలయ గర్భగుడికి వెళ్లి అక్కడ పూజలు నిర్వహించేవారు అని పురాణాల ద్వారా తెలుస్తుంది.