Palka József 1860. március 20-án született az alsó-ausztriai Retz városában. A közép- és ipariskola elvégzése után díszítőüvegezést, üvegmaratást és üvegmozaik-készítést tanult Bécsben. 1887-ben Budapesten telepedett le, ahol 1894-ben nyitott önálló műhelyt, amely üvegfestményeket készített és díszüvegezést végzett. 1898-tól műhelye a VIII. kerületi Mária Terézia tér 1. szám alatt működött. 1930-ig több mint 600 templom részére készített festett üvegablakokat. Számos külföldi templom és középület díszítésében is részt vett (bécsi Pazmaneum, az észtországi köztársasági palota üvegablakai). 
Ma is láthatók alkotásai például Székelyudvarhelyen, Nagyváradon, Szegeden a Felsővárosi minorita templomban és a Honvéd téri református templom, az Új Magyar Hajnal Templomban , Hatvanban. Az ő munkája a celldömölki kegytemplom homlokzatának mozaikképe is, illetve az 1914-ben vízre bocsátott Szent István csatahajó 4 üveg oltárképe is.
Munkásságáért már életében több elismerésben részesült; 1907-ben, a pécsi országos kiállításon ezüstérmet nyert, 1912-ben megkapta a Pro Ecclesia et Poncifice pápai érdemkeresztet. 1928-ban az ezüst-, majd 1937-ben megkapta az aranykoszorús mesteri címet, a római, milánói és párizsi kiállításon nagydíjat nyert. 1934-ben a Budapesti Üvegesek és Rokonszakmák Ipartestülete kitüntetésben és elismerésben részesíti a több évtizedes kiváló munkájáért. A Szent István Társulat és a Katolikus Legényegylet tagja volt. 1907-től műterme a VIII. kerületi Baross u. 59. szám alatt működött tovább.
1952. december 21-én hunyt el Budapesten, a Rákoskeresztúri Újköztemető 110. parcella, 1. sor, 73. számú sírhelyébe lett eltemetve, majd a Budapest- Remetekertvárosi Szentlélek templomban helyezték végső nyugalomra, ahol feleségével együtt nyugszanak békében. Csak egyszerűen be vannak falazva – jeltelenül.
Böröczki Noémi
A szegedi Honvéd téri református templom üvegablakairól a fotót Millisits Máté készítette.