Urodzony w Chicago syn polskiego imigranta unowocześnił i usprawnił instrumenty perkusyjne; wprowadził i rozwinął nowatorskie techniki gry. Wyszedł spoza zastanych ram wybijania rytmu i zainicjował rozbudowane solówki perkusyjne w jazzie.
Eugene „Gene” Krupa urodził się w Chicago w 1909 roku. Był najmłodszy spośród dziewięciorga rodzeństwa. Jego ojciec, Bartłomiej, był imigrantem z Polski, a matka, również polskiego pochodzenia, urodziła się w Pensylwanii. Rodzina państwa Krupów była bardzo religijna. Gene był przygotowywany do stanu kapłańskiego, ale po roku edukacji w Saint Joseph’s College w Indianie zdecydował, że kapłaństwo nie jest jego powołaniem.
W związku z ciężką sytuacją finansową Krupów wszystkie ich dzieci zmuszone były podjąć pracę w młodym wieku. 11-letni Gene został zatrudniony jako chłopiec do pomocy w sklepie muzycznym, Brown Music Company, gdzie pracował już jego starszy brat, Pete. Instrumenty muzyczne bardzo fascynowały młodego Gene’a. W szkole podstawowej uczył się grać na saksofonie, ale marzył o tym, żeby mieć swój własny instrument. Zdecydował kupić perkusję, bo była najtańszym instrumentem w sklepie.
W 1921 r. przyłączył się do zespołu muzycznego The Frivolians, gdzie po raz pierwszy wystąpił jako perkusista, gdy oryginalny muzyk tego zespołu zachorował. Latem tego roku zespół grał w Madison w Wisconsin. W 1923 r., już jako uczeń liceum, Gene Krupa przyłączył się do zespołu Austin High Gang, a w 1925 rozpoczął studia na perkusję z Royem Knappem, Alem Silvermanem i Edem Straight.
W 1927 r. Gene Krupa został zatrudniony w Chicago przez MCA (Music Corporation of America) jako perkusista grupy Thelma Terry and Her Playboys, pierwszego amerykańskiego zespołu jazzowego prowadzonego przez kobietę. W tym czasie szlifował swoje umiejętności grając z takimi jazzmanami jak Mezz Mezzrow, Tommy Dorsey, Bix Beiderbecke i Benny Goodman. Duży wpływ na styl Krupy mieli Tubby Hall i Zutty Singleton, a przede wszystkim Baby Dodds.
W 1927 r. Gene Krupa miał swoją pierwszą sesję nagrań dla OKeh Records; grał razem z McKenzie-Condon Chicagoans. Była to historyczna sesja, bowiem po raz pierwszy muzyk grał z wykorzystaniem pełnego zestawu perkusji, w tym bębna basowego i kotłów, czego się do tej pory nie robiło ze względu na wibracje, które powodowałyby wybicie igły podczas nagrywania. Było to pierwsze nagranie jazzu zwanego Chicago-style.