Thành phố Hòa Bình được thành lập năm 1896 theo Sắc lệnh của Toàn quyền Đông Dương. Trước năm 1896, trung tâm của tỉnh Mường Hoà Bình được đặt ở Chợ Bờ, sau khi bị nghĩa quân Đốc Ngữ tập kích mới dời về địa điểm hiện nay và mang tên thành phố Hòa Bình.

Trước kia, Đà Bắc thuộc lộ Đà Giang. Đến thế kỷ XV, Đà Bắc là một động của Mộc Châu thuộc phủ Gia Hưng, xứ Hưng Hóa. Năm Cảnh Hưng thứ 36 (1775), Mộc Châu chia thành 3 châu: Mộc Châu, Mã Nam và Đà Bắc. Từ đó, Đà Bắc trở thành một đơn vị hành chính cấp châu thuộc phủ Gia Hưng, trấn Hưng Hoá, gồm 4 động: Hiền Lương, Hào Tráng, Dỹ Lý và Đức Nhàn.

Trước Cách mạng Tháng Tám năm 1945, vùng đất Cao Phong thuộc châu Kỳ Sơn. Lúc đó, châu Kỳ Sơn gồm có 4 tổng: Cao Phong (gồm 2 xã: Cao Phong và Thạch Yên), Quỳnh Lâm (gồm 2 xã: Quỳnh Lâm và Phương Lâm), Mông Hóa (gồm 5 xã: Mông Hóa, Trung Minh, Túy Cổ Thượng, Túy Cổ Hạ và Mại Thôn) và Hòa Bình (gồm 3 xã: Hòa Bình, Thịnh Lang và Yên Mông).

Dưới triều Lê, vùng đất Kim Bôi thuộc phủ Gia Hưng, trấn Hưng Hoá. Đến năm Tự Đức thứ 5 (1851), Kim Bôi là một tổng của huyện Mỹ Lương, phủ Quốc Oai.