Édesapját, aki tanító volt, három éves korában elvesztette. Két polgári osztályt végzett, majd Temesváron géplakatosnak tanult. Részt vett az első világháborúban, majd a Tanácsköztársaság alatt vöröskatonaként szolgált. A tanácsrendszer bukása után Bulgáriába emigrált és csak 1922-ben tért vissza Romániába. Egy vulkáni szénbányában gépészként dolgozott, majd Erdély visszacsatolását követően Budapestre telepedett át, ahol gépkocsivezetőként helyezkedett el. 1945-ben belépett a Magyar Kommunista Pártba. 1949 januárjában átszökött Jugoszláviába, ott azonban őrizetbe vették, hat hónapra internálták, majd visszaadták a magyar szerveknek. Magyarországon három havi börtönbüntetésre ítélték és kizárták a pártból. 1953 márciusában az ÁVH kémkedés gyanúja miatt őrizetbe vette, azonban még az év decemberében szabadon engedték, mivel nem tudták bizonyítani a vádat. Ezután gépkocsivezetőként dolgozott egy vállalatnál.
Szabó János 1956. október 26-án csatlakozott a Széna téren összegyűlt fegyveresekhez, majd átvette a csoport vezetését. Másnap éjjel felkereste Deák Ferenc őrnagy, hogy a fegyverletételről és a fiatalkorú fegyveresek hazaengedéséről tárgyaljon vele. A tárgyalás közben a fiatalkorúak nagy részét Deák kísérői hazaküldték. Október 28-án reggel Szabót és a még ott tartózkodó fegyvereseket Kővágó Sándor alezredes, a Bem laktanya parancsnokának utasítására letartóztatták. A kormány rendelete nyomán azonban még aznap szabadon engedték őket.
Október 29-én reggel Szabó visszatért a Széna térre és megkezdte fegyveres csoportjának újjászervezését. Még ezen a napon megválasztották a II. kerületi nemzeti bizottmány elnöksége tagjának, valamint Dudás József bizottmányi elnök javaslatára kinevezték a Széna téri felkelők katonai parancsnokának, egyben megbízták azzal is, hogy ellenőrizze az összes budai fegyveres csoport tevékenységét.
Szabó fegyvereseinek a Maros utcában lévő államvédelmi laktanyát választotta székhelyül. Csoportjának tagjai államvédelmi beosztottakat tartóztattak le, összesen kb. 50 főt vittek be a laktanyába, akiket november 4-ig tartottak ott fogva. Egységének tagjai kiszabadították a Csolnokon őrzött politikai foglyokat és felvették a harcot a szovjet egységekkel is. Egy ideig a szovjet intervenciót követően is folytatták a harcot a Széna téren és környékén. November 6-án fegyvereseivel Pesthidegkútra ment, ott találkozott Király Bélával, akivel közölte a Széna tér feladását. November 8-án Szabó és a még vele tartó ellenállók Solymár környékén harcba keveredtek a szovjet alakulatokkal, majd 10-én fegyvereiket eldobálva visszatértek Budapestre.
1957. január 14-én a Dudás Józseffel és társával szemben indított büntetőper II. rendű vádlottjaként jogerősen halálra ítélték.
HU ÁBTL III. 9.2. – VII. t. - sz. n. - Elítéltek létszáma
HU ÁBTL 3.1.9. V-76898/1-2
HU ÁBTL 3.1.9. V-116766/11