Bien que le site fût déjà occupé au Mésolithique et que des vestiges romains y ont été découverts, c’est au Moyen Âge que le petit village de Flône doit son existence. L’érection d’une abbaye par les chanoines de l’ordre de Saint Augustin en 1080 à la confluence de la Meuse et d’un de ses petits affluents eut une importance déterminante pour l’existence de la localité. L’évêque y établit d’ailleurs une paroisse dès 1091 et les chanoines eurent le droit de baptiser et de rendre le dernier sacrement.

La terre de Flône devint également une seigneurie dont l’abbé était le titulaire avec droit de justice. En 1797, le monastère fut vendu et devint en 1921 la maison mère des dames de l’Instruction chrétienne.

C’est aussi à Flône, le 1 juin 1330, que le prince-évêque Adolphe de la Marck signa un traité avec les villes qui marqua une trêve dans le tragique conflit qui opposa les chevaliers partisans des Awans et des Waroux.

Flône fut aussi une cité industrielle. On y exploite dès le XIII^e siècle les mines de plomb et dès le XIV^e siècle, la houille. En 1816, 240 ouvriers sont occupés aux alunières. C’est aussi au début du XIX^e siècle que s’installe l’usine de la vieille montagne pour y travailler le zinc. En 1980, 2/3 de la population active était encore composée d’ouvriers dont beaucoup, dans la métallurgie.