横山ダムは、治水や水資源開発に対する地域からの要請によって建設されました。昭和26年から岐阜県による調査が始まり、昭和28年からは所管が建設省（現在の国土交通省）に移りました。
  昭和34年に工事着手、昭和39年に完成しました。
  近年、異常気象と呼ばれるような不安定な気象状況により、局所的な集中豪雨や水不足による被害が全国で発生しています。完成から半世紀になる横山ダムでは、湖内に貯まった土砂を掘削してダム機能の回復を図り、さらに洪水調節のための容量を増加させる「再開発事業」を展開し、パワーアップしました。また、平成20年5月には、横山ダムから約10km上流にある徳山ダムとの本格的な連携運用をスタートさせ、治水・利水機能をさらに強化しました。