ஸ்வாமி ஹரிதாஸ் எனும் குருவால் இந்த பங்கே பிஹாரி கோயில் கட்டப்பட்டிருக்கிறது. இவர் புகழ்பெற்ற பாடகரான தான்சேன் அவர்களின் குரு ஆவார். ராஜஸ்தானிய கலையம்சங்களோடு மிக அற்புதமாக இந்த கோயில் வடிவமைக்கப்பட்டிருக்கிறது.
பங்கே எனும் சொல்லுக்கு ‘ மூன்றாக வளைந்த’ என்றும், பிஹாரி எனும் சொல்லுக்கு ‘தெய்வீக ரசிகர்’ என்றும் பொருளாகும். இந்த பெயருக்கேற்பவே இக்கோயிலில் உள்ள கிருஷ்ணர் சிலை மூன்றாக வளைந்த திரிபங்கா கோலத்தில் காட்சியளிக்கிறது.
புராணக்கதையின்படி முகலாய காலத்தில் இங்கிருந்த கோயில் அழிக்கப்பட்ட போது ஒரு ஹிந்து அர்ச்சகர் இந்த கிருஷ்ணர் சிலையை மட்டும் மண்ணில் புதைத்து வைத்து காப்பாற்றியதாக சொல்லப்படுகிறது.
பிற்காலத்தில் அவ்வழியே யாத்ரீக பயணமாக வந்த ஸ்வாமி ஹரிதாஸ் இந்த சிலை புதைக்கப்பட்டிருந்த இடத்தில் ஓய்வெடுத்துள்ளார். அப்போது அவரது கனவில் கிருஷ்ணர் தோன்றி தனது சிலையை விடுவிக்கும்படி கேட்டுக்கொண்டதாக தெரிகிறது.
அதன்பின்னரே ஹரிதாஸ் இந்த கிருஷ்ணர் சிலையை தோண்டியெடுத்து அதற்கான கோயிலை ஸ்தாபித்துள்ளார். ஒரு முக்கியமான ஹிந்துக்கோயிலாக அறியப்படும் இந்த கோயிலுக்கு நாள்தோறும் ஆயிரக்கணக்கான பக்தர்கள் வருகை தருகின்றனர்.