Sárváry – in amerikanischen Quellen Joseph J. Sarvary, in einigen ungarischen Quellen Sasváry – József wurde am 21. September 1898 in Csepreg geboren.
Er legte 1919 das Abitur ab, war jedoch bereits seit 1915 Seminarist und absolvierte anschließend von 1918 bis 1923 sein Theologiestudium in Pécs.
Nach Abschluss seines Studiums wurde er am 1. Juli 1923 in Pécs zum Priester geweiht, um im Bistum Pécs zu dienen. Nach seiner Weihe war er bis 1927 als Hilfspfarrer in Mecsekszabolcs tätig, von 1932 bis 1933 als Verwalter in Kajdacs und anschließend von 1933 bis 1936 als Pfarrer in derselben Gemeinde.
Bereits zum Zeitpunkt seiner Weihe beschäftigte ihn der Gedanke an eine Auswanderung in die Vereinigten Staaten, doch erst 1936 setzte er seinen Plan in die Tat um. Auf Bitten von József Reseterics, dem Pfarrer von Bethlehem, gewährte Diözesanbischof Ferenc Virág ihm daraufhin einen dreijährigen Urlaub.
Nach seiner Ankunft in Amerika wurde er in Bethlehem im Bundesstaat Pennsylvania, in der unter der Zuständigkeit der Diözese Philadelphia stehenden St.-Johannes-Kapistran-Kirche, zum Hilfspfarrer – laut amerikanischer Quelle zum „assistant rector“ – ernannt.
Sein Dienst in den USA dauerte nur äußerst kurze Zeit. Denn im Januar 1937 traten bei ihm schwere gesundheitliche Probleme auf; es entwickelte sich ein unheilbarer Magenkrebs, und obwohl er operiert wurde, verstarb er am 16. Juli 1937 im Sacred-Heart-Krankenhaus in Allentown.
Sein Grab befindet sich in Bethlehem, PA, USA.