Warum die Osnabrücker Ende des 15. Jahrhunderts mit der Errichtung eines neuen Rathauses begonnen haben, ist unbekannt. Sicher ist nur, dass das alte Rathaus, das 1244 in den Quellen erstmals erwähnt wird und an der Ecke Krahnstraße/Markt in unmittelbarer Nachbarschaft zum heutigen Standort lag, noch völlig intakt war.  Im Jahre 1505 muss man schon sehr weit gewesen sein, wie eine Inschrift über dem Eingang zum Friedenssaal zeigt: "Im Jahre 1505 wurde der müheselige Bau dieses neuen Rathauses endlich abgeschlossen", steht hier. Das ist allerdings nicht ganz richtig. Denn 1505 wurde noch am Dach gearbeitet, und erst sieben Jahre später waren die Bauarbeiten weitgehend beendet.

Auffälligstes Merkmal ist das rund 18 Meter hohe Walmdach. Es ist damit genau so hoch wie der Rest des Gebäudes vom Sockelgeschoss (der heutige Ratskeller) bis zur Dachtraufe. Unverkennbar ist der Festungscharakter, der durch die sechs Türme geprägt wird. Gestärkt wird der Eindruck durch die Tatsache, dass bis in die erste Hälfte des 19. Jahrhunderts hinein eine Holztreppe den Zugang zum Rathaus ermöglichte. Sie konnte bei Gefahr eingezogen werden und wurde erst 1846 durch die heutige, imposante Steintreppe mit Kanzel ersetzt.

Interessant sind die großen Figuren, die die Front des Rathauses schmücken. Im Mittelpunkt steht über dem Hauptportal Karl der Große. Er hatte um 780 das Bistum Osnabrück gegründet. Die jeweils vier Figuren rechts und links vom Bistumsgründer sind Abbilder von Herrschern, die der Stadt verschiedene Privilegien und Rechte verliehen haben.
Was der Hohenzoller Wilhelm I. - er steht links unterhalb Karls des Großen - in dieser Reihe zu suchen hat, ist auf den ersten Blick rätselhaft. Bedenkt man aber, dass die Figuren ein Geschenk der preußischen Machthaber aus den Jahren 1889/1890 sind, dann wird die Absicht deutlich: Damals versuchte man offenbar, die Ahnenreihe der Hohenzoller abzubilden und so die Rechtmäßigkeit der deutschen Kaiserwürde für dieses Herrscherhaus zu verdeutlichen. Folglich hält der deutsche Kaiser Wilhelm I., in dessen Regierungszeit das Deutsche Reich gegründet worden war, die Krone des Alten Reiches, auch wenn er damit gar nichts zu tun hatte.