Die Marktgemeinde und Pfarre OBER-GRAFENDORF liegt 12 km südwestlich der n.ö. Landeshauptstadt St. Pölten an der Mariazellerbahn und ist mit 4.650 Bürgern (Volkszählung 2001) die nach Einwohnern größte Gemeinde des Pielachtales.
Das Gebiet der heutigen Pfarre gehörte seit der Karolingerzeit zur Urpfarre St. Pölten. Gegen Ende des 12. Jahrhunderts muss dann die Pfarre als grundherrliche Gründung entstanden sein. Die Pfarrkirche ist eine dreischiffige gotische Pfeilerbasilika aus dem 14. Jahrhundert mit Kreuzrippengewölben im Hauptchor und den Seitenschiffen sowie mit späten Netzrippengewölben im Hauptschiff und Nordchor. Der älteste Teil ist die Sakristei, der jüngste die Marienkapelle im nördlichen Seitenschiff. Der Turm mit einem Walmdach wurde 1545 fertig gestellt.
In den Jahren 1738 bis 1756 führte Pfarrer Aquilin Hacker eine gründliche Renovierung durch, in deren Verlauf die Kirche zum Teil barockisiert (Fenster, Triumphbogen) und der Turm 1756 auf seine jetzige Höhe von 36 Metern gebracht wurde. Er erhielt dabei den etwas eigenwilligen Helm. Der aus rotem Türnitzer Marmor bestehende barocke Hochaltar samt prachtvoller steinerner Kommunionbank aus 1725 wurde nach Auflösung des Karmelitinnenklosters in St. Pölten (heute Prandtauerkirche) im Jahre 1785 der Kirche Ober-Grafendorf geschenkt. Das Hochaltarbild stammt aus 1756 und ist vom Barockmaler Daniel Gran; es stellt die Apotheose des hl. Josef dar. Demgemäß ist dieser Heilige seither der Pfarr- und Kirchenpatron.
Über dem Tabernakel befinden sich Statuen des hl. Joachim (links) und der hl. Anna. Daneben, über den Umgangsbögen, die Statuen der hl. Bischöfe Augustinus (links) und Nikolaus. Diese Barockstatuen stammen vom St. Pöltner Bildhauer Peter Widerin.
Zwei große Bilder sind noch bemerkenswert: Es sind Werke des Wiener Künstlers Franz Dobiaschofsky, gemalt im Jahr 1856 in Rom; sie stellen 2 Gleichnisse Jesu dar: Die Heimkehr des verlorenen Sohnes und die Erzählung vom barmherzigen Samariter.An den Pfeilern des Hauptschiffes finden sich links von vorn nach rückwärts barocke Statuen des hl. Sebastian, des hl. Leopold und des hl. Johannes Nepomuk. Rechts von v. n. rw.: der hl. Florian, der hl. Johannes d. Täufer und der hl. Diakon Stephanus. Beachtung verdient auch der zehneckige spätgotische Marmortaufstein, der um 1730 aus der Pfarrkirche Böheimkirchen übertragen wurde.
Bei der Kircheninnenrenovierung 1988/89 wurde der Taufstein restauriert und an seinen derzeitigen Platz gebracht, wo er nun wieder in liturgischer Verwendung ist. Dieser Platz wurde gewonnen durch die Öffnung der Marienkapelle, die seit der Zeit des Pfarrers Aquilin Hacker, vermutlich aus Symmetriegründen, abgemauert war. 1988/89 wurden auch die vor und nach dem 2. Weltkrieg ringsum im Innenraum angebrachten Eternittafeln entfernt und durch Trockenputz ersetzt. Im Presbyterium wurde ein neues Pflaster verlegt und der provisorische hölzerne Volksaltar aus 1964 durch einen steinernen aus Donaukalkstein ersetzt. Im Bereich des neuen Altares wurde eine elektrische Bodenheizung installiert.
Eine größere Investition bedeutete auch der Bau einer neuen Orgel 1978/79 durch die Oö. Orgelbauanstalt St. Florian (Wilhelm Zika und Helmut Kögler). Über Anordnung des Bundesdenkmalamtes wurde das 2-manualige mechanische Werk mit 21 klingenden Registern (davon 3 Zungenstimmen) in das bestehende neugotische Gehäuse (aus 1898) eingebaut und im Jahre 2013 gereinigt und restauriert.