Figlio di un carabiniere, fondò una piccola azienda chimica. Durante la seconda guerra mondiale prese parte alla Resistenza, divenendone una figura di primo piano e rappresentandone la componente "bianca" in seno al CLNAI. Nel 1945 fu nominato commissario liquidatore dell'Agip. Disattendendo il mandato, egli ne fece, invece, una multinazionale del petrolio (dal 1952 ENI), protagonista del miracolo economico postbellico. Mattei fece dell'ENI anche un centro d'influenza politica, attraverso la proprietà di media quali il quotidiano il Giorno e finanziamenti ai partiti.

Sempre vicino alla sinistra democristiana, morì nel 1962 in un misterioso incidente occorso al suo aereo personale, nei pressi di Bascapè.

Nel 2012 una sentenza di un processo collegato, quella sulla scomparsa del giornalista Mauro De Mauro che indagava sul fatto, ha riconosciuto ufficialmente che Mattei fu vittima di un attentato.