福山宮相傳興建於光緒年間，據傳本地農民溪澗拾獲礦石，拿到暖暖示人，聞風而至的林英、林黨兩兄弟開採金礦後得黃金二千多兩，因而致富，兩人在礦脈中，找到一塊含金的巨石，為感謝土地公庇佑，於是在現在福山宮址塑像立廟。

但兩兄弟衣錦還鄉後，不知惜福而揮金如土，但錢財來得容易去得也快，在失意之時反怪土地公金身無靈，便將土地公金身擊毀，搗碎淘洗後約得黃金九兩花用。從此家道一落千丈，貧病交迫之下不久便財散人亡，因此居民深信惟有虔誠信仰，才能得土地神庇佑而致富，所以香火不絕，更加上日據時代金九地區礦業發達，福山宮也成為當年全省最大的土地公，也是全台唯一拜金的土地公廟。

福山宮原本只是一座二公尺見方的小廟，在日據時代金礦工人經常到廟中許願，而土地公也庇佑很多礦工達成心願，所以福山宮也一再被還願的信士捐修整建，依據記載共經過四次大規模的擴建整修，但由於數度擲筊請示，卻都得不到土地公的同意，信徒在整建不敢將其拆除，而採原址加蓋的方式而形成了「廟中廟」的特殊景象。