各地的土地公廟(福德祠)通常可以在主神神桌下方或神龕內發現虎爺的蹤跡，這和民間土地公與虎爺的傳說有關:老虎是山中之王，牠憑恃著勇猛的體魄，常常危害各種生物的安全，所以人民就祈求掌管人間土地的神—土地公的保佑，希望土地公能收伏老虎，別再讓老虎繼續危害鄉里，於是土地公就用法力收伏了老虎，老虎因此成為土地公的腳力，不再為害，之後就算是老虎傷了人，人們也認為老虎是得到土地公同意才敢這麼做的，所以民間有「土地公無書號，虎不敢咬人」的俚語。也因為老虎被土地公收伏為腳力，所以就跟隨著土地公一同接受信徒的供奉，成為具有神力的虎爺。由於虎爺是土地公的腳力，因此不能和土地公平起平坐，只能置於土地公的神位或神桌之下。
虎爺追隨的主神以土地公和保生大帝為主，這和民間廣泛流傳的土地公、保生大帝與老虎傳說有關，但除了土地公和保生大帝能伏虎外，就連城隍爺、媽祖等神明在傳說中也曾將老虎收伏，使之成為自己的腳力。道教中的某些神明和老虎的關係很密切，例如:老虎為張天師固守煉丹爐，同時也是張天師的座騎；武財神趙公明的座騎為黑虎將軍。跟隨著這些神明的老虎，在廟宇中隨著神明受到人們的祭祀，也被尊稱為虎爺。
臺灣大部分的廟宇都會供奉虎爺，主要就是請虎爺庇佑合境平安，並且負責廟宇環境的安寧，確保廟中的環境不被打擾，具有驅除癘疫、惡魔以及鎮護廟宇的能力。
保生大帝廟中座下都有虎爺在守護著，這是因為保生大帝和虎爺之間有一段「保生大帝醫虎咽喉」的傳說故事:相傳在宋代的時候，有一隻老虎危害地方，吞食了不少牲畜和人類。有一次，牠吃了一個盛裝打扮的婦人，由於吞得太快了，婦人頭上的金簪卡住喉嚨，讓牠痛不欲生，於是老虎就到一位名醫那兒去求診，這位名醫告訴牠說:因為你害人無數，所以得到這樣的懲罰，我不能救你。老虎此時真誠的表示懺悔，並且答應名醫不再害人，之後更願意為名醫服務，於是名醫就幫老虎把金簪從牠的喉嚨裡取出來，解除了老虎的痛苦，而老虎也真的履行諾言，隨伺在這位名醫的身邊，從此不再害人。這位名醫就是後來的保生大帝，這隻老虎也成為保生大帝身邊的「黑虎將軍」。由於保生大帝救過虎爺，因此為了要報答恩情，虎爺除了跟隨在保生大帝的身邊之外，在受供奉的時候，虎爺的位置也都是在保生大帝神位或神桌之下，不敢有踰矩的狀況。此外，黑虎將軍的誕辰是在每年的農曆四月十六日，每到這一天信徒們都會特別為祂舉行祭祀活動，顯示出黑虎將軍在民間信眾心中的重要性。