Nasce e cresce a St. Louis, nel Missouri, insieme alla madre rimasta vedova quando lui aveva solo due anni. Frequenta la Afton High School dove, grazie al suo fisico già possente, si dedica al football fin quando un infortunio lo allontana dal campo da gioco. John Goodman completa gli studi nel 1975 presso la facoltà di arte drammatica all'università di Baltimora, nel Maryland. Una delle sue compagne di corso è la futura star Kathleen Turner. Si fa le ossa sul palcoscenico con le opere di Shakespeare come l'Enrico IV e Antonio e Cleopatra. Nel 1979 va in scena a Broadway con Loose Ends e qualche anno più tardi, nel 1985, con Big River. Il debutto sul grande schermo arriva con il film Jailbait Babysitter (1978) e, dopo diversi ruoli non memorabili, recita nel film Arizona Junior (1987) dei fratelli Coen. L'anno successivo approda alla TV con il ruolo di Dan nella sit-com Pappa e ciccia che va in onda per otto anni e gli vale un Golden Globe e sette candidature all'Emmy Award (premio che vincerà nel 2007 per la serie Studio 60 on the Sunset Strip).
Nel 1991 riceve una nomination al Golden Globe come migliore attore non protagonista per Barton Fink - È successo a Hollywood, sempre diretto dai fratelli Coen. Brilla particolarmente in Matinée (1993) di Joe Dante ed è un perfetto Fred nell'adattamento cinematografico del cartone I Flintstones (1994). Nel 1998 torna a lavorare con i fratelli Coen nel film di culto Il grande Lebowski. Il 2000 è un'annata prolifica. Recita di nuovo per Joel ed Ethan Coen in Fratello, dove sei?, nel film di Mike Nichols Da che pianeta vieni?, in Le ragazze del Coyote Ugly, e in Le avventure di Rocky e Bullwinkle. In quello stesso anno esce il film d'animazione Le follie dell'imperatore in cui doppia il personaggio di Pacha. Nella versione originale è anche la voce dell'adorabile mostro Sulley in Monsters & Co (2001) e Monsters University (2013), dell' orso Baloo in Il Libro della Giungla II (2003), di Layton in Bee Movie (2007), di Big Daddy in La principessa e il ranocchio (2009) e di Prendergast in ParaNorman (2012).
Recentemente è apparso in film di notevole spessore e/o successo quali Molto forte, incredibilmente vicino, Flight, Una notte da leoni 3, A proposito di Davis, Monuments Men e L'ultima parola. È uno dei rari attori che può vantare una partecipazione nel cast di due opere che hanno vinto consecutivamente il premio Oscar come miglior film, The Artist (2011) e Argo (2012). John Goodman tra i protagonisti anche di 10 Cloverfield Lane e prossimamente lo vedremo in Skull Island, prequel di King Kong. L'aeroporto di St. Louis, sua città natale, si avvale della voce di Goodman per generiche informazioni utili ai passeggeri attraverso gli annunci dell'altoparlante.