I lokalpressen rapporterades att, när Axbergs levnadsomständigheter granskades, det framkommit en del synnerligen graverande omständigheter angående hans äktenskapliga förhållanden.
Om det var endast för tvegiftet han anhållits framgår dock inte.
Axberg hade anställning i Hulda Åbergs konditori i Piteå när han förälskade sig i uppasserskan Hulda Margaretha Löfgren. Han friade, fick ett ja och kunde sedan under överinseende av kyrkoherde Alfred Nygren föra henne till altaret för att byta ringar under högtidliga former och sedan titulera sig äkta makar. Men vad bruden och hennes anhöriga aldrig fick veta var att Axberg redan var gift med en annan kvinna.
Hulda Åberg, som drev konditoriet i Piteå, var bördig från Brännkyrka, Stockholm, och förblev ogift. Hon titulerades fröken och var också smått politiskt engagerad. För de Frisinnade och nykterhetsvänliga, på vars vallista hon fanns inför ett stadsfullmäktigeval. Hulda Åberg avled 1963.
Efter ett par år lämnade Hulda Margareta sin konditor och gifte senare om sig söderut, men blev änka efter bara några år. Hon lämnade det jordiska i mitten av 1950-talet och var då bosatt i Västmanland.
Per Hugo Axberg, som avled i Värmland 1950, gifte aldrig om sig efter sina två tidigare äktenskap.
När polisen förhörde Axberg framkom, enligt tidningarna, att han under en tid var bosatt i Norge, i Bergen. Där blev han bekant med den 18 år äldre sånglärarinnan Anna Paaske, från ett välbärgat hem. Den bekantskapen utvecklade sig snabbt till ett frieri och samma år beslutade de för att gifta sig med varandra. Vigseln ägde rum i Johannes prestgeld i Bergen.
Den äktenskapliga lyckan varade inte längre. Redan året därpå övergav Axberg sin fru och återvände till Sverige. Han upprätthöll under ett par år brevförbindelse med henne, vilken senare upphörde helt Axberg var formellt gift med två kvinnor samtidigt eftersom han aldrig hört av sig till tingsrätten och meddelat att han lagligen ville ha äktenskapet upplöst.
Om Anna Paaske vet vi att hon organiserade det musikaliska arbetet inom en teosofisk miljö i Haugesund, vilken startade 1918, vilken senare blev kallat Norsk musikbyrå. Hon var operasångerska och sångpedagog till yrket.
Hon blev aldrig mor till några barn. Anna Paaske, som avled 1935, är gravsatt som Anna P. Axberg, i Vestre Gravlund i Oslo.
Sedan Per Hugo Axberg återvänt till Sverige hade han anställning på olika platser och då bland annat i Piteå, där han sedan ingick nytt äktenskap.
Han hade heller aldrig underrättat sin första hustru, som var i livet, att han ingått ett nytt äktenskap.
Det var således av en tillfällighet som tvegiftet kom i dagen.
Kriminalpolisen i Stockholm delgav stadsfiskal John Sandström i Piteå vad som framkommit under förhör och att Axberg även erkänt bigami. Sandström svarade då telegrafiskt att Axberg skulle häktas.
Hur ärendet sedan slutade framgår inte.
I äldre tid var det vanligt att kungligheter tilläts så kallat "vänsterhandsgifte", en form av bigami. En form av officiellt godkänt mätressförhållande, där barnen inte hade arvsrätt till kungatronen. Seden uppges främst ha varit vanlig i de nordiska kungahusen, främst i Danmark. Även andra kungahus har vissa mätressförhållanden varit officiella, men inte haft status av vänsterhandsgiftermål.
Den svenska termen tvegifte används i första hand om förfarandet då en gift person olagligen ingår ett nytt äktenskap, medan det äldre äktenskapet ännu består. Det andra äktenskapet är då ogiltigt.
Tvegifte är av hävd förbjudet i svensk lag och är för närvarande en brottsrubricering i brottsbalken och kan ge böter eller fängelse i högst två år.
I vissa länder tillåts månggifte, vanligen muslimska länder, där en man tillåts upp till fyra hustrur enligt Koranen.