Il 19 marzo 1918, Louis sposò una ragazza del Louisiana, Daisy Parker. Adottarono un bimbo di 3 anni, Clarence Armstrong, la cui madre, cugina di Louis, morì dopo aver partorito. Clarence Armstrong era mentalmente disabile e Louis avrebbe speso il resto della sua vita a prendersi cura di lui. Il matrimonio di Louis e Daisy fallì velocemente e si separarono. Daisy morì poco dopo la separazione. Attraverso varie esibizioni, le abilità musicali di Armstrong maturarono.
A vent’anni riusciva ora a leggere le note musicali e iniziò ad essere incluso in vari assoli di tromba, diventando uno dei primi jazzisti a riuscirci, inserendo la sua personalità ed il suo stile in essi. Imparò a creare un suono unico e iniziò inoltre a cantare nelle sue esibizioni.
Nel 1922 Armstrong si unì all’esodo di Chicago, dove venne invitato dal suo mentore Joe “King” Oliver ad unirsi alla band di quest’ultimo. Avrebbe guadagnato abbastanza da non richiedere più supplementi per la sua musica con lavori di vario tipo. Ci fu un grande boom economico a Chicago e la città brulicava di lavori per neri. Nei primi anni venti la band di Oliver era la più importante di Chicago, in un periodo in cui Chicago stessa era il centro del jazz. Fu lì, nel 1923, che Armstrong incise i suoi primi dischi suonando come seconda cornetta nella band di Oliver. Eccitato della sua vita a Chicago, iniziò a scrivere lettere nostalgiche ai suoi amici di New Orleans. La reputazione di Armstrong aumentò, tanto che venne sfidato in varie gare da persone che volevano mostrare alla gente il nuovo fenomeno.
Armstrong incise i suoi primi dischi alla Gennett Records e all’Okeh Records. A quei tempi, incontrò Hoagy Carmichael (con il quale avrebbe collaborato successivamente) che gli venne presentato da Bix Beiderbecke, il quale aveva la sua propria band. Armstrong adorava lavorare con Oliver, ma la seconda moglie, la pianista Lil Hardin Armstrong, lo avvertì di cercare più guadagni e di sviluppare il suo nuovo stile lontano dall’influenza di Joe. La presenza di Lil influenzò così l’amicizia tra Louis ed il suo mentore.
Nel 1924 Armstrong ricevette un invito per andare a New York City a suonare con l’orchestra di Fletcher Henderson, la band afro-americana più famosa di quei tempi. Armstrong passò così alla tromba per lavorare meglio con gli altri musicisti. La sua influenza sul sassofonista della band può essere giudicata ascoltando le registrazioni della band durante questo periodo. Louis si adattò rapidamente allo stile musicale di Henderson, suonando con la sua tromba e tentando perfino di suonare il trombone. Ben presto iniziò anche a cantare e raccontare storie di New Orleans. L’orchestra di Henderson suonava nei migliori luoghi frequentati da bianchi, tra cui il famoso Roseland Ballroom, con la classe di Don Redman. Perfino l’orchestra di Duke Ellington si recò a Roseland, solo per assistere alle magnifiche prestazioni del trombettista.
Durante questo periodo Armstrong fece anche molte registrazioni, organizzate da un suo vecchio amico di New Orleans, il pianista Clarence Williams; queste includevano parti suonate da piccole band jazz e dal Williams Blue Five (alcune delle migliori vedevano Armstrong collaborare con un suo “rivale” in campo di musica e serie di accompagnamenti con cantanti blues come Bessie Smith, Ma Rainey, e Alberta Hunter.

Armstrong tornò a Chicago nel 1925 per occuparsi della moglie, che voleva dare una spinta alla sua carriera e aumentare i guadagni. Lui era felice a New York ma successivamente dovette seguire ciò che gli chiedeva la moglie e lasciare l’orchestra di Henderson, che gli limitava, in qualche modo, la crescita artistica. In pubblico, pur essendo il marito modesto, lei lo definiva “il più grande trombettista del mondo”. All’ inizio era in realtà un membro della band di Lil e lavorava con la moglie. Iniziò così a incidere a proprio nome con i suoi famosi complessi, i Hot Five e gli Hot Seven, producendo hits come Potato Head Blues, Muggles (un riferimento alla marijuana), e West End Blues. Il gruppo includeva Kid Ory (trombone), Johnny Dodds (clarinetto), Johnny St. Cyr (bangio), la moglie Lil al piano, e di solito non c’era un batterista. Lo stile di leadership di Armstrong fu molto buono per i suoi compagni della band, come disse St. Cyr in un’intervista: “Lavorare con lui era così rilassante e ha sempre dato il suo meglio.”

Armstrong suonò anche col quintetto di Erskine Tate, che si esibiva di solito al Vendome Theatre. Fecero anche delle colonne sonore per alcuni film e per degli show, con versioni jazz di musica classica come “Madame Butterfly”. Iniziò anche ad usare lo scat sing (dicendo però parole non sensate) e fu uno dei primi a registrarlo nel 1926. Il gruppo divenne ben presto famoso e diventò uno dei più celebri d’America. Giovani musicisti, sia neri che bianchi, erano affascinati dal nuovo tipo di jazz di Louis. Dopo essersi separato da Lil, Armstrong iniziò a suonare al Sunset Café per Al Capone col Carroll Dickerson Orchestra che venne presto rinominato Louis Armstrong and his Stompers, con Hines (direttore musicale) al piano e John Glaser che era una sorta di manager. Hines e Armstrong divennero in seguito amici.
Armstrong tornò a New York nel 1929, dove suonò nell’orchestra del musical Hot Chocolate, scritto da Andy Razaf e dal pianista/compositore Fats Waller. Fece anche un cameo come cantante, con Ain’t Misbehavin’, la sua versione diventata poi famosissima.
Armstrong iniziò a lavorare a Harlem nel Connie’s Inn, il locale notturno più famoso dopo il Cotton Club e una sorta di rifugio per Dutch Schultz. Inizialmente Armstrong ebbe anche un discreto successo con le sue registrazioni vocali, incluse versioni di famose canzoni composte dal suo vecchio amico Hoagy Carmichael. Le sue registrazioni degli anni trenta ebbero un grande vantaggio soprattutto con l’introduzione dell’RCA nel 1931 il quale aiuto molto i cantanti e i loro vari stili, come quello di Bing Crosby. La famosa interpretazione di Louis della canzone Stardust divenne una delle versioni più famose, grazie alle abilità vocali di Armstrong e al suo approccio nel cantare queste canzoni. Anche la sua versione di Lazy River (registrata nel 1931) ebbe un discreto successo. La Depressione degli anni trenta ebbe anche un grande impatto nel mondo del jazz. Il Cotton Club chiuse nel 1936 e molti musicisti smisero di suonare. Bix Beiderbecke morì e la band di Fletcher Henderson se ne andò a pezzi. King Oliver fece alcune registrazioni ma ormai gli anni d’oro erano passati. Sidney Bechet divenne un sarto e Kid Ory ritornò a New Orleans e si mise ad allevare polli. Si spostò a Los Angeles alla ricerca di nuove opportunità. Suonò al nuovo Cotton Club di LA con Lionel Hampton come batterista. Bing Crosby e molte altre celebrità divennero ospiti frequenti al club. Nel 1931, Armstrong apparve nel suo primo film, Ex-Flame. Venne in seguito condannato per possesso di marijuana ma alla fine venne solo sospeso. Tornò a Chicago nello stesso anno 1931 e suonò con altre band e orchestre. Quando Louis andò a visitare New Orleans venne accolto come un eroe e rivide i suoi vecchi amici. Fece da sponsor a una squadra di baseball locale nota come “Armstrong’s Secret Nine” e vide una mascotte ricevere il suo stesso nome. Successivamente iniziò un tour attraverso l’Europa.
Tornato negli Stati Uniti, anche lì iniziò una serie di tour che videro però il suo agente Johnny Collins a lasciarlo sempre al verde. Collins venne in seguito licenziato. Infine, scelse Joe Glaser come suo nuovo manager e iniziò da subito ad occuparsi dei debiti e degli altri problemi che lo affliggevano. Armstrong incontrò inoltre un problema con le sue dita e le sue labbra, deformate a causa del suo modo di suonare. Iniziò così ad usare più spesso la voce e ad apparire in alcuni teatri. Apparve inoltre in un altro film, diventando una sorta di attore.
Nel 1937, Armstrong sostituì Rudy Vallee in un programma radio della CBS, diventando la prima persona di colore ad avere una parte in radio. Divorziò da Lil nel 1938 e sposò la fidanzata Alpha, con la quale avrebbe divorziato in seguito.
Nel 1943, dopo molti anni “on the road”, si stabilì definitivamente a New York, nel quartiere di Queens. Sposò anche la sua quarta moglie, Lucille e continuò a sviluppare il suo stile musicale. Registrò un’altra canzone di Carmichael, intitolata Rockin’ Chair. Nei trent’anni successivi, Armstrong si esibì per oltre trecento serate l’anno.