Romano doc, grande appassionato di moto da quando ha 13 anni e di musica (nel 1981 fonda il gruppo rock "I Monitors"), Marco Giallini entra nel mondo della recitazione a 22 anni. Nel 1985 si iscrive alla Scuola di Arte Drammatica di Roma "La Scaletta". Collabora con numerosi registi teatrali di spessore quali Arnoldo Foà, Ennio Coltorti e Angelo Orlando. Quest'ultimo lo scrittura per una piccola parte in L'anno prossimo vado a letto alle dieci (1995) che segna per l'attore l'esordio cinematografico. Arrivano in seguito ingaggi per ruoli più o meno importanti in numerosi film, tra cui L'odore della notte (1998), L'ultimo capodanno (1998) in cui è il marito di Monica Bellucci, Almost Blue (2000), Faccia di Picasso (2000) e Il fuggiasco (2002).
Lo mette particolarmente in luce l'interpretazione dell'adultero marito in Emma sono io (2002) di Francesco Falaschi, accanto a Cecilia Dazzi e Pierfrancesco Favino. Significativa per la sua carriera è la stima di Sergio Castellitto che gli offre una parte nel cast del suo film pluripremiato Non ti muovere (2004) e in seguito ne La bellezza del somaro (2010). Intanto anche Paolo Sorrentino lo scrittura in un piccolo ruolo ne L'amico di famiglia (2006) che va in concorso al Festival di Cannes. A questo punto Marco Giallini si dirotta per qualche tempo sul piccolo schermo. Nel 2008 è il 'Terribile' nella serie "Romanzo criminale" che gli dà grande notorietà, mentre l’anno dopo è il Vicequestore Andrea Lopez nella serie "La Nuova Squadra Spaccanapoli".
Nel 2009 inaugura la collaborazione con Carlo Verdone partecipando al suo film Io, loro e Lara che gli vale una candidatura come miglior attore non protagonista al David di Donatello e ai Nastri d'Argento 2010. È uno dei celerini di ACAB - All Cops Are Bastards (2011) di Stefano Sollima, in cui recita nuovamente accanto a Pierfrancesco Favino. Con quest'ultimo condivide anche il set di Posti in piedi in paradiso (2012), di e con Carlo Verdone. Con questi due titoli conquista la doppietta di candidature ai David di Donatello, come attore protagonista e non. Continua a lavorare sul versante della commedia dimostrando sempre di più di essere un attore brillante ricco di sfumature. È nel cast di Buongiorno papà (2013), Tutti contro tutti (2013), Tutta colpa di Freud (2014), Ogni maledetto Natale (2014) e Confusi e felici (2014). Nel 2015 è coprotagonista con Alessandro Gassmann di Se Dio vuole di Edoardo Falcone, una riuscita commedia in cui Giallini interpreta un freddo cardiochirurgo che si scontra con la filosofia di un prete sopra le righe.