En 1928, quelques commerces sont déjà présents sur l’avenue de la Cathédrale alors que le premier bâtiment de la Compagnie de téléphonie Nationale est construit au coin de la rue Sainte-Marie. Jusqu’au début des années 1960, le monument des Braves prend place entre le central téléphonique et le palais de justice. L’ancien bâtiment de Québec-Téléphone est partiellement conservé et intégré à l’actuel immeuble de la compagnie TELUS réalisé en 1965 par l’architecte Firmin Lepage.

Le siège social de La Rimouski, une compagnie d’assurance contre le feu, est construit vers 1900 en face du palais de justice. Cet imposant bâtiment de trois étages est ensuite utilisé par la Banque Canadienne Nationale jusqu’à ce qu’il ne soit détruit par un incendie en 1963. Un nouvel édifice est construit au même endroit. Il est aujourd’hui occupé par la Galerie d’art Léonard-Parent ainsi que par des bureaux de la Ville de Rimouski.

Ces deux entreprises sont fondées par Jules A. Brillant un homme d’affaires à l’influence politique très importante à Rimouski.

C’est après que le bureau de poste ait été successivement chez un notaire et des magasins généraux que les rimouskois·es demandent la construction d’un bâtiment exclusivement dédié à ce service. En effet, l’arrivée de chemin de fer, l’augmentation de la population et de la villégiature croissent le volume de lettres et de colis. Le bâtiment, inspiré du style néo-roman, est élaboré par Thomas Fuller, un architecte du gouvernement. Pendant de nombreuses années, les combles seront habités par le concierge et sa famille.