Gelegen in het eeuwenoude Uilenburgkwartier is Het Bont Paardje een vrij recente straat. Zij is gerealiseerd naar aanleiding van de Architectuurprijsvraag 1985 die in het kader van de viering van het achthonderdjarig bestaan van 's-Hertogenbosch was uitgeschreven. In 1986 verwerkelijkte architect Jan Huibregts een complex woningen en bedrijfsruimten in de stijl van de Bossche School die gegroepeerd zijn rond een binnenplaats. Deze binnenhof wordt ontsloten door een brede poortdoorgang aan de Molenstraat en een poortgebouw op het achterterrein. Beide doorgangen maken van het binnenterrein een voortzetting van de straat een openbaar gebied. Het is ook bedoeld als gezamenlijke buitenruimte die bij het wonen hoort. Een torentje met spiltrap in de zuidoostelijke hoek vormt een verbinding tussen bedrijfsruimte en een woning.
De straatnaam Het Bont Paardje is terug te voeren op een pand met de huisnaam 'Het Bont Pèrdje' dat aan de zuidkant van de huidige woning Molenstraat 13 heeft gestaan. In de 16e eeuw was er een brouwerij in gevestigd. Rond 1750 was het een herberg met stalling, volgens Mosmans 'een groote uitspanning'. In die tijd maakten katholieke Bosschenaren nog gebruik van schuil- of sluipkerken. Aan het nabij gelegen Hofje van Koolen was een schuilkerk. Kerkgangers konden bij onraad (inval door de schout