Robert Selden Duvall nasce in California da Mildred Virginia Hart (attrice amatoriale) e da William Howard Duvall (ammiraglio della marina USA), ma cresce ad Annapolis nel Maryland dove ha sede la United States Naval Academy, luogo di lavoro del padre. Robert Duvall si diploma in Arte Drammatica al Principia College di Elsah nell'Illinois prima di servire il paese tra le file dell'esercito nel 1953, partecipando alla Guerra di Corea. Due anni dopo inizia a frequentare a New York la scuola di teatro The Neighborhood Playhouse trovando tra i compagni di corso un certo Dustin Hoffman e un certo Gene Hackman, dei quali diventa coinquilino primo dell'uno poi dell’altro. Con Hackman condivide anche alcuni lavori temporanei per pagarsi le spese, come smistatore all’Ufficio Postale e commesso da Macy's.
Duvall si fa le ossa sul palcoscenici off-Broadway prima di approdare a una serie di apparizioni televisive. Dal 1959 in poi ottiene svariati ruoli in serie TV come Alfred Hitchcock presenta, Ai confini della realtà, Gli intoccabili, The Outer Limits e Il fuggiasco. L'esordio al cinema arriva grazie allo sceneggiatore Horton Foote che, avendolo apprezzato qualche anno prima in una pièce da lui scritta, lo raccomanda per la parte di Boo Radley in Il buio oltre la siepe (1962). Il film vince tre premi Oscar, tra cui quello per la migliore sceneggiatura di Foote. Circola voce che la sua prima vera apparizione cinematografica sia avvenuta nel 1956, una comparsata non accreditata in Lassù qualcuno mi ama. Questa voce resta tutt'ora priva di conferma.
Negli anni 60 prosegue l'attività teatrale che segna il debutto a Brodway con Wait Until Dark, mentre aumentano gli ingaggi al cinema. Duvall è scritturato in ruoli secondari per i film La caccia (1966), Conto alla rovescia (1968) e Non torno a casa stasera (1969), diretti rispettivamente da Arthur Penn, Robert Altman e Francis Ford Coppola. Difficilmente i registi che lavorano con lui se lo dimenticano. Altman lo richiama per una parte in M.A.S.H. (1970), mentre Coppola lo segnala prima a George Lucas che lo sceglie come protagonista del suo esordio alla regia con L'uomo che fuggì dal futuro (1971), poi gli affida la parte di Tom Hagen ne Il Padrino (1972). Interpretando l'avvocato consigliere di Don Vito Corleone, Duvall conquista la prima di sei nomination all'Oscar.
Siamo a metà degli anni 70 e la carriera di Robert Duvall è in ascesa. Dopo il successo di Il Padrino - Parte II (1974), Coppola lo coinvolge anche nel thriller La conversazione dove ritrova l'amico Gene Hackman. Gira i film Killer Elite, Quinto potere, La notte dell'aquila, Betsy per giungere alla definitiva consacrazione artistica nella parte del Tenente Colonnello Bill "mi-piace-l'odore-del-napalm-al-mattino" Kilgore in Apocalypse Now (1979), sempre per la regia di Coppola. Questo film e il successivo (entrambi film di guerra) Il grande Santini (1980) gli valgono due nomination agli Oscar, ma è con il dramma musicale Un tenero ringraziamento (1983) che riesce ad ottenere l'ambita statuetta come miglior attore protagonista.
Negli anni seguenti è vittima della famigerata maledizione post Oscar, sperimentata da altri attori come Luise Rainer, Rod Steiger e Cliff Robertson. La sua carriera subisce un'inflessione per via delle proposte di lavoro che riceve, ruoli non all'altezza del suo talento. Una spiegazione la si può trovare nel suo compenso, naturalmente maggiorato dopo il premio, e nel fatto che le major di Hollywood non l'abbiano mai davvero considerato come un nome leader per la vendibilità di un film. Infatti la sua assenza nel cast de Il Padrino - Parte III (1990) è dovuta al cachet di 1 milione di dollari offertogli dalla Paramount e giudicato non proporzionato dall'attore per il suo personaggio, considerato che nella prima stesura il copione dava una fondamentale importanza al ruolo di Tom Hagen e che contestualmente a Al Pacino erano stati proposti 5 milioni per tornare a essere Michael Corleone.
Nel 1988 recita accanto a Sean Penn nel poliziesco Colors - Colori di Guerra e due anni più tardi è accanto a Tom Cruise in Giorni di tuono. Tra questi due lavori, torna in televisione accettando il ruolo da protagonista nella mini serie western Lonesome Dove che gli frutta un Golden Globe (il terzo). Vince nuovamente lo stesso premio nella stessa categoria nel 1993 interpretando Stalin, nell'omonimo TV movie biografico. A parte questi riconoscimenti, Robert Duvall è ormai un attore assestato sui ruoli di supporto di qualunque genere cinematografico, sempre e comunque garanzia di qualità interpretativa. Dà la caccia a Michael Douglas in Un giorno di ordinaria follia (1993), dirige un giornale in Cronisti d'assalto (1994), è il redivivo marito de La lettera scarlatta (1995), medica il telecinetico John Travolta in Phenomenon (1996).
Per tutti gli anni 2000 attraversando la commedia, il dramma, la fantascienza e lo sport, recita in film con Nicolas Cage, Denzel Washington, Arnold Schwarzenegger e Kevin Costner fino al ritorno sul piccolo schermo con un'altra mini serie western intitolata Broken Trail, che gli vale il suo primo e unico Emmy Award. Oltre ad essere tornato nei panni del consigliere Tom Hagen anche se solo con la voce per le varie versione videogame del Padrino, Robert Duvall si è anche concesso il lusso artistico di sedersi dietro la macchina da presa. È successo nel 1977 con il documentario We’re Not the Jet Set, nel 1983 con il film su un vero gruppo di gitani newyorchesi Angelo My Love e dirigendo se stesso ne L'apostolo (1997) e in Assassination Tango (2002). Recentemente ha dato prova di essere sempre in ottima forma dando spessore ai suoi personaggi in Jack Reacher (2012) e soprattutto in The Judge (2014), film per il quale ottiene la settima nomination all'Oscar.