Höijer gjorde sig känd som en outtröttlig väckelseförkunnare, stark i sin trospredikan. Han färdades långväga omkring i bygden för att i sin Herres tjänst möta sina församlingsmedlemmar.
Han var också vän av Evangeliska Fosterlandstiftelsen och tog emot deras predikanter med tacksamhet och såg även till att de fick tillfällen att framföra sina budskap.
Höijer uppges också flitigt ha studerat Luthers och Rosenius arbeten.
Han var även med att bilda Piteå landsförsamlings missionsförening och utformade dess stadgar, som bland annat innehöll bestämmelsen att föreningen skulle verka i anslutning till kyrkans lära och ämbete.
Samtidigt förkunnade han att allvarliga kristna inte borde syssla med kommunala uppdrag.
Gustaf Höijer ville skapa ett rikt församlingsliv och arbetade under sin tid som präst i landsförsamlingen, där han verkade i 20 år, att detta skulle bli verklighet. Han sådde gott och fick också se de frön han sådde, från predikstolen och i sitt möte med människorna, bära rikligt med frukt.
Det berättas att en kvinna vid ett besök hos kyrkoherden vid trappan till hans bostad stannade upp, hämtade andan och utbrast ”här bor visserligen Gud och här är himmelens port”
Höijer är också en av de präster, vilka varit verksamma i Piteåbygden, som fått många uppskattande tillmälen och blev mycket uppskattad.
Budskapet om att Höijer i sin församling blivit omtalad och uppskattad spreds ganska snart. Från andra platser sneglades mot Piteå landsförsamling. Det gick till och med så långt att dåvarande biskopen Martin Johansson i Härnösand, då omfattade nuvarande Härnösands och Luleå stift, uppvaktades om att man ville ha Höijer som sin församlingsherde. Biskopen lär, enligt uppgift, ha svarat de uppvaktande: ”Gud kan inte ge det han ej har”.
Det var i Piteå landsförsamling Gustaf Höjer fick utföra sin gedigna och storslagna livsgärning som präst och själasörjare.
I minnesorden över Höijer berättas att han var liten till växten, hade en svag och vacklande hälsa men utrustad med en stark viljekraft.
”Men hans kynne hade ibland sina avigsidor. Inte alla kände i den bistre expeditionsmannen igen den ljuvlige och milde själaherden. Mången besökande erinrade sig vid besök att Höijer besvarade en vänlig hälsning med en skarp blick bakom glasögonen, ett snäsigt tilltalande, och då var det rådligt att göra besöket kort. Hans pliktkänsla tvingade honom dock att gottgöra tillfälliga överilningar.”
Höijer var en varm anhängare av missionen, men det andliga livet i församlingen var dock det primära, även om han omfattade bägge med värme och intresse.
Höijer kom till Piteåbygden 1876, då han tillträdde en komministertjänst i Öjebyn. Dessförinnan var han domkyrkoadjunkt i Härnösand
Han blev ”av kungligt majestät i nåder” utnämnd till kyrkoherde i Piteå lands- och stadsförsamlings och Älvsby pastorat 1888. Höijer fick också 1894 vara med att inviga Piteå hospitalkyrka, belägen i Furunäsets sjukhus.
Efter åren i Piteåbygden tillträdde han 1897 tjänsten som kyrkoherde i Skellefteå, sin födelsebygd, men avled redan 1898.
Hustrun, Skellefteåflickan Anna Lovisa Markstedt gifte han sig med året före flytten till Öjebyn. Makarna fick två döttrar.