张公山是历史文化名山涂山山脉的组成部分,有着悠久的历史,据《怀远县志》记载:明朝嘉靖年间此山就叫张公山,山下一湖,名化陂湖,现更名为张公湖。

相传,明朝有个张姓战将,解甲归田,隐居山下,由于他德高望重,当地百姓尊称张公,张公山因此得名。