એક પૌરાણિક કથા અનુસાર એકવાર ભગવાન વિષ્ણુ અને બ્રહ્મા વચ્ચે વિવાદ થયો કે બન્નેમાંથી કોણ શ્રેષ્ઠ છે. પોતાની શ્રેષ્ઠતા સાબિત કરવા શરૂ થયેલા આ વિવાદમાં બંને એકબીજાનું અપમાન કરવા લાગ્યા અને વિવાદ વધવા લાગ્યો, આ સમયે અચાનક અગ્નિની જ્વાળાઓથી ઘેરાયેલું લિંગ સ્વરૂપ બંને દેવતાઓની વચ્ચે આવી ગયું. આ દ્રશ્યથી બંને દેવ આશ્ચર્યમાં પડી ગયા અને લિંગનો સ્ત્રોત શોધવા લાગ્યા. બંને દેવતાઓને આ સાથે જ ઓમનો સ્વર સંભળાવા પણ લાગ્યો, આ સાંભળી બંને દેવતાઓ પણ ઓમનું રટણ કરવા લાગ્યાઅને તેમની આરાધનાથી ભગવાન શિવ પ્રસન્ન થયા અને બ્રહ્માજી તેમજ વિષ્ણુ ભગવાનને આશીર્વાદ આપ્યા. ત્યાર પછી તેઓ લિંગના રૂપે સ્થાપિત થઈ ગયા. માન્યતા છે કે ત્યારપછીથી લિંગ પૂજાની પરંપરા શરૂ થઈ.
વિશ્વકર્માએ કર્યુ હતું શિવલિંગનું નિર્માણ
અન્ય એક માન્યતા એવી પણ છે કે બ્રહ્માજીના આદેશથી દેવ શિલ્પી વિશ્વકર્માએ બધા દેવી દેવતાઓ માટે અલગ અલગ શિવલિંગનું નિર્માણ કર્યું હતું.