Современный город возник как Танджунг-Путери в 1855 году при теменггунге Даенге Ибрагиме. Его сын султан Абу Бакар переименовал поселение в Джохор-Бару в 1866 году и превратил его в административную столицу модернизирующегося султаната. При нём появились дворец, государственная мечеть и учреждения, соединившие европейские строительные приёмы с малайской традицией. Китайские общины, организованные в системе kangchu, развивали торговлю перцем и гамбиром; их наследие сохранилось в храмах и шопхаусах. Британское влияние росло, но Джохор дольше многих малайских владений сохранял самостоятельное управление. В 1924 году официально открылась дамба Causeway, резко усилив связь с Сингапуром. Во время Второй мировой войны город стал важной точкой японского наступления на остров. После образования Малайзии Джохор-Бару вырос как промышленный, торговый и приграничный центр. Статус города получен в 1994 году, а развитие Искандар-Малайзии расширило агломерацию далеко за историческое ядро.