Jižní hrana petrovského kopce je tvořena velmi hodnotnou historickou zástavbou někdejších kanovnických domů a dnešního biskupství. Tyto domy jsou barokními novostavbami, vystavěnými na středověkých základech. Všechny tyto objekty jsou rovněž vybaveny podzemními prostorami s velmi zajímavými sklepními objekty.

Jedním z nejzajímavějších je sklepení domu č. 7. Sestoupíme-li sklepními prostorami ze smíšeného zdiva cihel a lomového kamene do nejspodnější části suterénu, čeká nás opravdový zážitek. Navětralá rozpraskaná diabasová skála, obohacená přírodními minerály, zde vytvořila dokonale barevný sklepní klenot. Voda, odkapávající v pravidelném rytmu ze skalní klenby, ještě umocňuje výjimečnost tohoto místa, které dnes slouží jako vinný archiv biskupství. Přispívá k tomu jistě i fakt, že pravá část sklepa se nachází téměř pod katedrálou.

Budova někdejšího proboštství č. 8, která se stala roku 1777 sídlem brněnského biskupa, byla vystavěna v renesanci na zbytcích středověké stavby. Zcela nejasný však zůstává původ zachovalých sklepních prostor pod zahradou na západní straně od paláce. Široký výstup ze sklepů do zahrady potvrzuje domněnku, že zde pravděpodobně stála budova. Její obvod ani dispozici však nelze podle dochovaného podzemí určit.

Sklepení domu č. 6 je dvoupatrové. Nižší etáž sklepů je položena pod úrovní dvora a je přístupná schodištěm, kterým sestoupíme do velkého sklepního prostoru (délka 10 m, šířka 6 m), zaklenutého půlkruhovou valenou klenbou. Severní čelo sklepa tvoří skalní masiv, do něhož je vytesán menší prostor, rovněž ve skále. Tento gotický sklep byl v minulosti využívaný k uskladnění vína, o čemž svědčí zbytky dochovaného dubového roštu na sudy.