伯玉亭的建立是為了紀念對於金門有碩大樹建的胡璉將軍,將軍曾兩度軍政金門,並帶領著金門所有的軍民走過了古寧頭大捷和八二三砲戰,奠定了金門現在這樣一個穩固的根基,除了這些軍事上的功蹟之外,在將軍任內還闢建公路、造林、建學校等,金門「地下堡壘、海上公園」這樣一個稱呼也是在將軍努力之下所完成的。可惜,將軍於民國66年時,因為積勞成疾而病故,並海葬於金廈海峽,對於將軍而言,終年的抗戰和奔波,海葬就等於是讓他自由,讓他回到他的故鄉。而金門的百姓為了感念將軍,便在這莒光湖畔,建了這亭,讓將軍的精神能永遠存在這金門的土地上。