Il museo ha sede dal 1985 in Palazzo Ghisilardi-Fava. L'edificio, costruito alla fine del '400, costituisce una delle testimonianze più significative dell'architettura bolognese di età bentivolesca. Ma la sua storia può essere considerata più antica, sorgendo il palazzo su una porzione di città interessata da una densa stratificazione di antichi manufatti, portati alla luce in occasione del restauro: sono così visibili alcuni resti romani, cospicui avanzi dell'antica Rocca Imperiale distrutta nel 1115 e la torre duecentesca della famiglia dei Conoscenti, inglobata durante la costruzione del palazzo. Un edificio quindi strettamente legato alla storia della città, così come lo sono le varie raccolte in esso conservate, molte delle quali connesse alle vicende patrimoniali e collezionistiche cittadine che risalgono fin al XVII secolo: dalla seicentesca collezione di meraviglie del Marchese Ferdinando Cospi all'Istituto delle Scienze (1714), dalla donazione dell'artista bolognese Pelagio Palagi (1861) alla fondazione del Museo Civico avvenuta nel 1881.
Il nucleo più significativo del museo è costituito prevalentemente dalle numerose testimonianze del Medioevo cittadino, a partire dai più antichi manufatti altomedievali dei secoli VII-IX per giungere alla grande statua di Bonifacio VIII in lastre di rame dorate su un'anima di legno, opera dell'orafo senese Manno Bandini, che la eseguì nel 1301 per il Palazzo Pubblico. Accanto è visibile il grande piviale ricamato degli inizi del Trecento, opera tra le più insigni dell' "opus anglicanum", proveniente dalla chiesa di S. Domenico. Né poteva mancare in un museo come questo, così profondamente radicato alla storia della città un diretto richiamo all'antica Università, presente nei numerosi monumenti funebri scolpiti dedicati ai dottori dello studio (sec. XIV-XVI), dove ad una esasperata volontà celebrativa si associano le qualità mimiche ed espressive proprie della cultura gotica locale.
Altre opere dovute ad alcuni dei più importanti artisti attivi a Bologna durante il Quattrocento e il Cinquecento (Jacopo della Quercia, Francesco del Cossa, Vincenzo Onofri) introducono alle successive vicende dell'arte rinascimentale, di cui il museo offre numerose testimonianze soprattutto nella sezione dei bronzetti. Qui si può ammirare il celebre modello del Nettuno del Giambologna per la fontana di Piazza, capolavoro della plastica cinquecentesca. Completano le collezioni del museo una ricca raccolta di armi (in particolare si segnala un'armatura da torneo del secolo XVI), di avori e di vetri, questi ultimi presenti con alcuni capolavori della produzione muranese del XV e XVI secolo. Di particolare interesse è anche la sezione, recentemente inaugurata (1995), dedicata agli antichi codici miniati, che annovera alcuni dei più noti esempi della miniatura bolognese dei secoli XIII-XVI.