Около семи тысяч лет назад воды большого Пяйянне прорвали гряду Юрянкё в районе нынешнего железнодорожного моста, сформировав водный ландшафт города. Долгое время местность использовали охотники и рыболовы, а постоянные поселения появились в Средние века. В 1755 году в приходе построили церковь. Перелом произошёл в 1776 году, когда король Густав III изменил административное деление и разместил в Хейноле резиденцию губернатора Кюменкартанского лена. Чиновники и предоставленные ремесленникам привилегии создали небольшой экономический центр. В 1786 году к плану добавили перспективный парк по европейскому образцу. После перехода Финляндии к России границы губерний изменились, и административную резиденцию позднее перенесли в Миккели. В качестве компенсации Николай I даровал Хейноле городские права в 1839 году; они вступили в силу в начале 1840-х. В 1891-1892 годах открылась водолечебница. Хотя предприятие не стало долгосрочно прибыльным, оно закрепило репутацию летнего курорта, развило набережную и привлекло пароходных гостей. Учительская семинария, основанная в 1899 году, до закрытия в 1972-м подготовила более 3500 педагогов. Железная дорога пришла в 1932 году, а арочный мост стал символом города. После Второй мировой войны Хейнола приняла переселенцев и развивала деревообрабатывающую и текстильную промышленность. В 1997 году город объединился с сельским муниципалитетом Хейнола, расширив территорию и превысив двадцатитысячное население. Позднейшее сокращение промышленности изменило экономику, усилив роль услуг, спорта, туризма и природного наследия.