Pastoor Daniel van Doirne van de Sint-Jan vertelde het verhaal over de heilige Oelbert in 1572/73 aan de theoloog Johannes Molanus, die het publiceerde. De heilige Oelbert was een van de twee vroegste patroonheiligen van de kerk op de Markt. In de tijd van de johannieters heeft de heilige Johannes waarschijnlijk de oude Oelbert verdrongen. Zijn feest werd gevierd op 22 oktober. Oelbert wordt uitsluitend in Oosterhout vereerd en het lijkt een legendarische figuur. Het verhaal: Oelbert was een boer. Vermoeid van het ploegen lag hij op zijn akker een dutje te doen. Rovers, op heterdaad betrapt, kwamen op hun vlucht langs de slapende Oelbert en legden hun bebloede zwaard naast hem neer. De achtervolgers dachten dat Oelbert de rover was en sloegen hem zijn hoofd af. Maar het onthoofde lichaam droeg op wonderbaarlijke wijze zijn hoofd naar een kapelletje niet ver daarvandaan. Eigener beweging en zonder voerman voerden zijn ossenspan het materiaal aan voor de bouw van een nieuwe, grotere kerk.