Po zaključeni osnovni šoli v Begunjah pri Cerknici je obiskoval obrtno šolo in se izučil za mehanika. Od leta 1935 do 1941 je bil zaposlen v podjetjih Unitas in Eka v Ljubljani. Rudolf je že pred drugo svetovno vojno aktivno sodeloval v revolucionarnem gibanju, leta 1941 pa je bil sprejet v Komunistično partijo Slovenije (KPS). Aprila 1942 se je umaknil v ilegalo in postal član rajonskega komiteja KPS Bežigrad, junija pa še član rajonskega komiteja KPS Vič. Poleti 1942 je odšel k partizanom, kjer je začel kot pomočnik mitraljezca in četni komisar Dolomitskega odreda, nato je odšel v Šercerjevo brigado, kjer je že decembra 1942 postal namestnik politkomisarja bataljona, maja 1943 komisar bataljona, junija namestnik komisarja brigade in 13. julija 1943 komisar brigade. Septembra 1943 je na Golem nad Igom ustanovil 10. Slovensko narodnoosvobodilno udarno brigado "Ljubljanska" (SNOB) ter bil njen komisar do decembra 1943, ko je bil postavljen za komisarja 18. divizije. 22. novembra 1943 je izdal nalog za požig gradu na Križu pri Komendi (Šlandrova brigada). Julija 1944 ga je Glavni štab postavil za komisarja 30. divizije, kjer je ostal do 20. januarja 1945, ko je bil ob napadu na Trnovo hudo ranjen.
Po okrevanju je bil od leta 1946 podpredsednik Enotnih sindikatov za Slovenijo. Postal je predsednik organizacije vojaških in vojnih invalidov. Leta 1947 je končal enoletno višjo partijsko šolo pri Centralnem komiteju Komunistične partije Jugoslavije (CK KPJ), nato pa je bil izvoljen za predsednika Glavnega odbora sindikatov Slovenije (do 1958). Leta 1948 je bil izbran za člana Centralnem komiteju Zveze komunistov Slovenije (CK ZKS) in za kandidata za Centralni komite Zveze komunistov Jugoslavije (CK ZKJ). Leta 1958 je bil imenovan za člana Centralne revizijske komisije pri CK ZKJ. Med letoma 1960 in 1965 ter med letoma 1969 in 1978 je bil predsednik Zveze združenj borcev narodnoosvobodilne vojne (ZZB NOV). V vseh mandatnih obdobjih od leta 1949 do 1978 je bil republiški, od leta 1952 do 1956 pa tudi zvezni poslanec. Med letoma 1958 in 1960 je bil sekretar za delo Izvršnega sveta Ljudske republike Slovenije (LRS), med letoma 1965 in 1974 pa podpredsednik Skupščine Socialistične republike Slovenije (SRS).
Janko Rudolf je bil rezervni polkovnik. Leta 1951 je bil odlikovan z Redom narodnega heroja. Bil je nosilec Partizanske spomenice 1941. Bil je tudi prejemnik Partizanske zvezde I. stopnje, Reda zaslug za narod I. stopnje, Reda bratstva in enotnosti II. stopnje in Reda za hrabrost.
Hči Marjetica Ana Rudolf Rupel je žena slovenskega politika Dimitrija Rupla.
Vnos: SS