Gustaf Hermansson föddes den 9 oktober 1864 i Stockholm i en konstnärligt präglad familj. Hans far arbetade som attributmålare och var verksam vid Kungliga teatern, där han målade scenfonder och dekor till teaterföreställningar. I denna miljö fick den unge Gustaf tidigt möta bildkonst, form och hantverk. Fadern lärde honom grunderna i måleriet, något som senare skulle märkas i hans arkitektur, där färg, material och dekor ofta spelade en viktig roll.
Efter skolåren utbildade sig Gustaf Hermansson till arkitekt vid Kungliga tekniska högskolan och därefter vid Akademien för de fria konsterna. Studierna kombinerade teknisk byggnadskunskap med konstnärlig gestaltning. Efter utbildningen fick han praktik på arkitektkontor i Stockholm hos två av tidens mest framstående arkitekter, Isak Gustaf Clason och Kasper Salin. Där kom han i kontakt med nya arkitekturideal som bröt med äldre traditioner. Clason förespråkade friare fasadkompositioner och användning av äkta material – oputsat tegel, kalksten, granit och sandsten – i stället för putsade imitationer. Dessa ideal kom att påverka Hermansson starkt.
Ett avgörande skede i hans liv inträffade efter den stora Sundsvallsbranden 1888, då nästan hela stadens centrum förstördes. Den unga arkitekten drogs till den snabbt växande byggverksamheten i den stad som snart skulle få namnet Stenstaden. Samtidigt övervägde han en helt annan framtid. I början av 1889 planerade Hermansson att resa till Buenos Aires i Argentina, där han skulle arbeta hos den svenske arkitekten Carl August Kihlberg. Avresan var planerad till den 15 mars samma år.
Men bara några dagar före avresan förändrades allt. Den 6 mars 1889 fick han ett telegram från Sundsvall som meddelade att han hade vunnit första pris i arkitekttävlingen om stadens nya kyrka. För den då 24-årige arkitekten blev detta en livsavgörande händelse. Planerna på Argentina övergavs och i stället flyttade han till Sundsvall i april 1890 för att arbeta med stadens återuppbyggnad.
Under 1890-talet blev Gustaf Hermansson den mest anlitade arkitekten i Sundsvall. I den snabbt växande Stenstaden ritade han ett stort antal byggnader. Totalt kom han att rita 17 hus, varav endast ett senare har rivits. Hans arkitektur från denna period kännetecknas bland annat av al fresco-målningar på fasaderna, betonade fönsteröverstycken och rikt utformade portaler. Fasadernas material och dekorativa behandling speglar tydligt de ideal han hade mött hos Clason och Salin.
År 1896 utsågs Gustaf Hermansson till stadsarkitekt i Sundsvall, men uppdraget blev kortvarigt. Redan året därpå flyttade han tillbaka till Stockholm. Den intensiva byggperioden i Sundsvall började då avta, och i huvudstaden väntade en tjänst vid Överintendentsämbetet, den statliga myndighet som ansvarade för offentliga byggnader. När han lämnade Sundsvall var han bara 33 år gammal men hade redan hunnit genomföra ett stort antal betydande projekt.
I Stockholm kom Gustaf Hermansson att arbeta med flera kyrkobyggnader, och det är här Oscarskyrkan träder fram som ett av hans mest betydande verk. Under slutet av 1800-talet växte stadsdelen Östermalm snabbt och behovet av en ny kyrka blev allt mer tydligt. Efter diskussioner om flera möjliga placeringar valdes slutligen en tomt vid Narvavägen i kvarteret Stallmästaren.
För att utse arkitekt utlystes en arkitekttävling. Kyrkan skulle uppföras i sten, rymma omkring 1 400–1 500 personer och byggkostnaden fick inte överstiga 325 000 kronor. Arton förslag lämnades in. Gustaf Hermansson tilldelades första pris och fick uppdraget att utforma kyrkan.
Hans förslag utformades i nygotisk stil, en stil som var vanlig i kyrkobyggandet under denna tid. Kyrkan byggdes i råhuggen gråvit kalksten och formades som en treskeppig hallkyrka med korta korsarmar och ett rakslutet kor. Över mittskeppet reser sig höga spetsbågiga valv och sidoskeppen avgränsas av granitkolonner. På församlingens begäran höjdes kyrkans torn något jämfört med tävlingsförslaget.
Trots att Gustaf Hermansson vunnit tävlingen möttes projektet av ganska hård kritik i samtida press. Kritiker menade att kyrkan följde en alltför traditionell nygotisk modell, liknande de många kyrkor som uppfördes i Centraleuropa under samma tid. Bygget fördröjdes dessutom av tekniska problem, leveranssvårigheter och strejker.
Den 11 december 1897 lade kung Oscar II grundstenen till kyrkan, som också fick sitt namn efter honom i samband med hans 25-årsjubileum som regent. Först i september 1903 kunde Oscarskyrkan invigas.
Senare i sin karriär ritade Gustaf Hermansson även Sofia kyrka på Södermalm, liksom flera andra kyrkor i landet, bland annat Gustav Adolfs kyrka i Helsingborg och Arvidsjaurs kyrka. Han arbetade därefter under många år inom staten och var knuten till Byggnadsstyrelsen, där han fortsatte sin verksamhet fram till sin död 1931.
Trots sin omfattande produktion och sina stora kyrkobyggnader kom Gustaf Hermansson med tiden att bli något av en bortglömd gestalt i svensk arkitekturhistoria. Hans verk står dock fortfarande kvar i stadsmiljöerna – inte minst Oscarskyrkan – och vittnar om en arkitekt som under några intensiva decennier formade både stadsbilder och kyrkorum i ett Sverige på väg in i modern tid.