Название города связывают с выражением на языке ангкола «Padang na dimpu», а само поселение развивалось как остановка на торговых дорогах через внутреннюю Суматру. В колониальную эпоху долина стала частью маршрутов между западным побережьем и Меданом. В XIX веке регион пережил влияние движения Падри, после чего исламские институты укрепили общественную жизнь. В годы борьбы за независимость через Падангсидимпуан проходили сообщения и поездки политических деятелей. В 1982 году город получил статус административного города, а с 2001 года стал самостоятельным муниципалитетом. Рост торговли салаком, образование и услуги превратили его в современный центр Тапанули, сохранивший традиционные кварталы и сельское окружение. Уличная торговля и автобусы закрепили за ним роль связующего звена между горными деревнями, побережьем и крупными городами острова. Муниципальные проекты благоустраивают центральные улицы, но традиционная планировка и рынки остаются важной частью городской памяти.