इस ज्योतिर्लिंग की भौगोलिक स्थिति के बारे में भी अलग अलग मत हैं . कोई इन्हें महाराष्ट्र के औरंगाबाद के पास बताते हैं तो कोई कहते हैं कि श्री घुश्मेश्वर राजस्थान के शिवालय (शिवाड ) ग्राम में विराजमान है . यह ज्योतिर्लिंग स्वयम्भू है अर्थात यह किसी के द्वारा निर्मित नहीं किया गया , अपितु स्वयं उत्पन्न है .
कथाएँ कहती हैं कि दक्षिण भारत में देवगिरी नामक पर्वत पर एक ब्राह्मण "ब्रह्मवेत्ता सुधर्म" अपनी पत्नी "सुदेह" के संग वास करते थे। उन दोनों के कोई संतान न थी जिसके कारण सुदेह दुखी रहती थीं। उन्होंने कई व्रत उपवास किये और भी बहुत कुछ किया किन्तु संतान न हुई। सुधर्म ने ईश्वर का नाम लेकर दो पुष्प पवित्र अग्नि के समक्ष रखे और अपने मन में एक के संतान होने और दूसरे के संतान न होने के साथ सम्बन्ध जोड़ा। उन्होंने सुदेह जी से एक पुष्प चुनने को कहा और सुदेह ज ने जो पुष्प उठाया वह संतान न होने वाला था। तब सुधर्म जी ने मान लिया कि हमारे संतान न होगी और इस बात को स्वीकार कर शांत रहे। उन्होंने सुदेह जी को भी नियति को मान लेने के लिए समझाया किन्तु वे बहुत दुखी हो गयीं और इसे स्वीकार न कर पा रही थीं। सुदेह को हमेशा पुत्रहीन होने से अन्य स्त्रियों द्वारा अपमानित महसूस होता।
ब्राह्मणी सुदेह चाहती थीं कि सुधर्म दूसरा विवाह कर लें किन्तु वे न मानते थे। सुदेह अपनी भांजी (किसी कथा में भतीजी तो कहीं बहन लिखा आता है ) घूष्णा (कहीं नाम घुश्मा तो कहीं घृष्णा लिखा आता है ) से बहुत स्नेह रखती थीं। उन्होंने अपने पति से प्रार्थना की कि घूष्णा से मेरा इतना प्रेम है , इससे तो आप विवाह कर लीजिये , इसकी संतान मेरी अपनी जैसी ही होगी और मैं उससे भी प्रेम कर सकूँगी। सुधर्म जी ने सुदेह जी को समझाया कि अभी तुम्हे ऐसा लगता है । किन्तु जब संतान होगी तब अवश्य तुम्हे ईर्ष्या होगी और तुम अब से अधिक दुखी हो जाओगी। किन्तु सुदेह न मानीं और ज़िद कर के दोनों का ब्याह करा दिया।
घूष्णा जी परम शिवभक्तिनि थीं। वे रोज प्रातः शिव उपासना करतीं और १०१ शिवलिंग बना कर उनकी पूजा अर्चना करतीं। फिर पास ही के सरोवर में उन शिवलिंगों ससम्मान विसर्जन कर देतीं। जब एक लाख शिवलिंग बन चुके तब घूष्णा ने एक सुंदर पुत्र को जन्म दिया। कुछ समय तो सब ठीक रहा किन्तु अब सुदेह जी को लगने लगा कि पुत्रवती घूष्णा बदल गयी है और पति भी मेरी उपेक्षा कर उसी से अधिक प्रेम करने लगे हैं। जैसा सुधर्म जी ने पहले कहा था, सुदेह अब ईर्ष्यालु हो चलीं और घूष्णा में उन्हें अपनी सौत नज़र आने लगी।
ईर्ष्या की मारी सुदेह ने एक रात, जब सब सोये हुए थे, चाक़ू से काट कर उस बालक की ह्त्या कर दी और उसे उसी ताल में फेंक दिया जिसमे घूष्णा शिवलिंगों का विसर्जन करती थी। सुबह रोज की तरह घूष्णा पूजा करने लगीं। इधर दासी (कहीं कहीं बहु लिखा मिलता है) ने बालक को न पाया और उसके बिछौने को रक्त रंजित पाया तो सब रोने लगे। दासी ने आकर घूष्णा जी को बताया तब वे शिव जी की अर्चना कर रही थीं। इतनी बड़ी बात सुन कर भी घूष्णा जी ने आपा न खोया और कहा कि , जो बालक मुझे शिवकृपा से मिला उसकी रक्षा भी शिव जी ही करेंगे। और वे अपनी पूजा तटस्थ रह कर करती रहीं।
पूजा के बाद जब वे शिवलिंग विसर्जन को गयीं तो उनका पुत्र सरोवर से निकल उनकी तरफ आता मिला। इस पर भी वे निर्मोही ही रहीं और शिव में ही उनका ध्यान रहा। शिव जी प्रकट हुए और उन्होंने उन्हें बताया कि किस प्रकार सुदेह जी ने यह घोर अपकर्म किया। किन्तु घूष्णा जी ने सुदेह जी के लिए शिव जी से क्षमा मांग ली। प्रसन्न होकर शिव जी ने उनसे एक वरदान मांगने को कहा। तब घूष्णा जी ने उनसे वहीँ रहने को कहा और वे घुश्मेश्वर / घुष्णेश्वर / घुुष्णेश्वर / घृष्णेश्वर ज्योतिर्लिंग के रूप में स्थापित हुए।
एक और कथा है कि , एक परम शिवभक्त "घुश्म" को यहां एक साप की बाम्बी में खजाना मिला था इस धन से उन्होंने यह घुष्णेश्वर मंदिर और शिखरशिंगणपुर का सरोवर बनवाया। बाद में श्रीमती अहल्याबाई होल्कर (इंदौर की महारानी) ने इस मंदिर का जीर्णोद्धार करवाया था।
कथाएँ कहती हैं कि दक्षिण भारत में देवगिरी नामक पर्वत पर एक ब्राह्मण "ब्रह्मवेत्ता सुधर्म" अपनी पत्नी "सुदेह" के संग वास करते थे। उन दोनों के कोई संतान न थी जिसके कारण सुदेह दुखी रहती थीं। उन्होंने कई व्रत उपवास किये और भी बहुत कुछ किया किन्तु संतान न हुई। सुधर्म ने ईश्वर का नाम लेकर दो पुष्प पवित्र अग्नि के समक्ष रखे और अपने मन में एक के संतान होने और दूसरे के संतान न होने के साथ सम्बन्ध जोड़ा। उन्होंने सुदेह जी से एक पुष्प चुनने को कहा और सुदेह ज ने जो पुष्प उठाया वह संतान न होने वाला था। तब सुधर्म जी ने मान लिया कि हमारे संतान न होगी और इस बात को स्वीकार कर शांत रहे। उन्होंने सुदेह जी को भी नियति को मान लेने के लिए समझाया किन्तु वे बहुत दुखी हो गयीं और इसे स्वीकार न कर पा रही थीं। सुदेह को हमेशा पुत्रहीन होने से अन्य स्त्रियों द्वारा अपमानित महसूस होता।
ब्राह्मणी सुदेह चाहती थीं कि सुधर्म दूसरा विवाह कर लें किन्तु वे न मानते थे। सुदेह अपनी भांजी (किसी कथा में भतीजी तो कहीं बहन लिखा आता है ) घूष्णा (कहीं नाम घुश्मा तो कहीं घृष्णा लिखा आता है ) से बहुत स्नेह रखती थीं। उन्होंने अपने पति से प्रार्थना की कि घूष्णा से मेरा इतना प्रेम है , इससे तो आप विवाह कर लीजिये , इसकी संतान मेरी अपनी जैसी ही होगी और मैं उससे भी प्रेम कर सकूँगी। सुधर्म जी ने सुदेह जी को समझाया कि अभी तुम्हे ऐसा लगता है । किन्तु जब संतान होगी तब अवश्य तुम्हे ईर्ष्या होगी और तुम अब से अधिक दुखी हो जाओगी। किन्तु सुदेह न मानीं और ज़िद कर के दोनों का ब्याह करा दिया।
घूष्णा जी परम शिवभक्तिनि थीं। वे रोज प्रातः शिव उपासना करतीं और १०१ शिवलिंग बना कर उनकी पूजा अर्चना करतीं। फिर पास ही के सरोवर में उन शिवलिंगों ससम्मान विसर्जन कर देतीं। जब एक लाख शिवलिंग बन चुके तब घूष्णा ने एक सुंदर पुत्र को जन्म दिया। कुछ समय तो सब ठीक रहा किन्तु अब सुदेह जी को लगने लगा कि पुत्रवती घूष्णा बदल गयी है और पति भी मेरी उपेक्षा कर उसी से अधिक प्रेम करने लगे हैं। जैसा सुधर्म जी ने पहले कहा था, सुदेह अब ईर्ष्यालु हो चलीं और घूष्णा में उन्हें अपनी सौत नज़र आने लगी।
ईर्ष्या की मारी सुदेह ने एक रात, जब सब सोये हुए थे, चाक़ू से काट कर उस बालक की ह्त्या कर दी और उसे उसी ताल में फेंक दिया जिसमे घूष्णा शिवलिंगों का विसर्जन करती थी। सुबह रोज की तरह घूष्णा पूजा करने लगीं। इधर दासी (कहीं कहीं बहु लिखा मिलता है) ने बालक को न पाया और उसके बिछौने को रक्त रंजित पाया तो सब रोने लगे। दासी ने आकर घूष्णा जी को बताया तब वे शिव जी की अर्चना कर रही थीं। इतनी बड़ी बात सुन कर भी घूष्णा जी ने आपा न खोया और कहा कि , जो बालक मुझे शिवकृपा से मिला उसकी रक्षा भी शिव जी ही करेंगे। और वे अपनी पूजा तटस्थ रह कर करती रहीं।
पूजा के बाद जब वे शिवलिंग विसर्जन को गयीं तो उनका पुत्र सरोवर से निकल उनकी तरफ आता मिला। इस पर भी वे निर्मोही ही रहीं और शिव में ही उनका ध्यान रहा। शिव जी प्रकट हुए और उन्होंने उन्हें बताया कि किस प्रकार सुदेह जी ने यह घोर अपकर्म किया। किन्तु घूष्णा जी ने सुदेह जी के लिए शिव जी से क्षमा मांग ली। प्रसन्न होकर शिव जी ने उनसे एक वरदान मांगने को कहा। तब घूष्णा जी ने उनसे वहीँ रहने को कहा और वे घुश्मेश्वर / घुष्णेश्वर / घुुष्णेश्वर / घृष्णेश्वर ज्योतिर्लिंग के रूप में स्थापित हुए।
एक और कथा है कि , एक परम शिवभक्त "घुश्म" को यहां एक साप की बाम्बी में खजाना मिला था इस धन से उन्होंने यह घुष्णेश्वर मंदिर और शिखरशिंगणपुर का सरोवर बनवाया। बाद में श्रीमती अहल्याबाई होल्कर (इंदौर की महारानी) ने इस मंदिर का जीर्णोद्धार करवाया था।