Figlio di un musicista jazz che aveva accettato un lavoro in fabbrica per sostenere la famiglia, O'Neal cresce nel ghetto nero di Cleveland. Frequenta per sei mesi la Ohio State University prima di abbandonarla per seguire la sua passione per il teatro. Entra nella "Cleveland's Karamu House", un gruppo teatrale interrazziale fondato nel 1913, con cui lavora dal 1957 al 1966. Si trasferisce a New York nel 1967 e debutta nei teatri di Harlem e Broadway. Approda al cinema nel 1971 con "L'organizzazione sfida l'ispettore Tibbs", con Sidney Poitier. Nel 1972 interpreta "Superfly", il film principale del cosiddetto blaxploitation (il cinema realizzato e interpretato solo da neri statunitensi e di cui O'neal ha rappresentato una degli attori di punta ). Il film è diretto da Gordon Parks ed è famoso per la colonna sonora di Curtis Mayfield, che ha venduto due milioni di dischi negli Stati Uniti. Nel corso della sua carriera interpreta una trentina di film fra cui "Il giorno del grande massacro", "Countdown - Dimensione zero" e "Alba rossa". In televisione lavora anche nella serie "Un giustiziere a New York". O'Neal è morto a 66 anni a Los Angeles per un tumore al pancreas.