Die Zweite Sparkasse hat Filialen in Graz, Innsbruck, Klagenfurt, Linz, Salzburg, Villach und Wien.
In Niederösterreich, im Burgenland und in Oberösterreich ist die Zweite Sparkasse in einzelnen Filialen der Regionalsparkassen im Korrespondenzbanksystem vertreten. Die Idee einer „Bank für Menschen ohne Bank“ soll auch über die Grenzen Österreichs hinaus in die Region Zentral- und Südosteuropa getragen werden. Konzepte dafür werden derzeit erarbeitet.