İngilizce`de petrol yerine kullanılan petroleum terimi köken olarak Grekçe ’den (Yunanca’dan) türemiş olup, taş anlamına gelen “petra” kelimesi ile yağ anlamına gelen “oleum” kelimelerinin birleşimidir ve taşyağı (petroleum) anlamına gelir.
Eski Grekler ’den daha önce, Mezopotamya dillerinde naptu kelimesi taşyağı anlamında kullanılmıştır. Daha sonra bu kelime nafta olarak evrimleşmiş ve bugün pek çok dilin kelime haznesine ham petrol veya petrolden elde edilen gazyağı ve benzin türü hidrokarbon sıvılarını belirtmek üzere girmiştir.
Petrolün insanlar tarafından kullanılmaya başlanması MÖ`ki dönemlere kadar uzanır. Yeryüzüne sızan petrolden ilk yararlananların Sümerler, Asurlular ve Babilliler olduğu bilinmektedir. MÖ 3000 yıllarında Fırat ırmağı kıyısında bulunan Tuttul’daki (bugün Irak sınırları içerisindeki Hit) sızıntılardan toplanan ham petrol ve asfalt çeşitli biçimlerde kullanılmıştır. Eski Mısırlıların ise petrolden ilaç olarak yararlandıkları sanılmaktadır. MÖ 480’li yıllarda ve Hıristiyanlığın ilk dönemlerinde Persler ve Araplar petrolü damıtarak askeri amaçlarla yanıcı madde olarak kullanmışlardır. 12. Yüz yılda Arapların İspanyayı işgali ile Avrupa’ya gelen petrol, bu dönemden sonra Avrupa’da aydınlatma için kullanılmıştır. İspanyol kâşifler, bugünkü Küba, Meksika, Bolivya ve Peru bölgelerinde yerlilerin petrolü ilaç olarak kullandığını yazmışlardır.
Sanayi devrimi ile petrol ucuz ve bol bir enerji kaynağı ve yağlayıcı olarak ağaç, turba ve kömür gibi yakıtların yerini almıştır. 1859’da Pennsylvania’daki Titusville’de ilk petrol kuyusu açılmıştır. Bir süre sonra pek çok ülkede petrol sanayisi yaygınlaşmış, 20. Yüz yılın başlarında otomobilin de yaygınlaşmasıyla, petrol başlıca enerji kaynağı olmuştur.
Hidrokarbonların ve dolayısıyla petrol ve gazın yeraltında nasıl oluştuğu, 20. Yüz yılın başından beri süregelen bilimsel araştırmalar ile incelenmektedir. Petrolün oluşumuna ilişkin birkaç teori vardır. En önemlisi, tüm hidrokarbonların yaşamını yitirmiş canlıların artıklarının durgun deniz ve göl gibi ortamların tabanında birikmesiyle oluşmaya başladıklarını ortaya koymaktadır. Deniz, göl veya akarsularda yaşamını yitirmiş olan bitkisel ve hayvansal canlılar (yani ölü organizmalar) akarsuların bu ortamlara taşıdığı kum, kil ve mineral tanecikleri ile birlikte dibe çökerek yığılırlar. Birkaç milyon yıl sonra, yer bilim tabakalarının kayması sonucunda bu hammadde, yerini karmaşık bir karbon-hidrojen karışımına bırakır. Bu karışım, sıvı haldeyken petrolü, gaz haldeyken doğal gazı oluşturmaktadır. Milyonlarca yıl boyunca yer kabuğunun geçirdiği sarsıntılar petrolün doğduğu deniz kayaçlarından dışarı çıkmasına yol açar, böylece komşu kayaçlara sızdıktan sonra açık havaya ulaşan petrol sızıntıları bitüm örtüleri oluşturur. Ama genellikle, geçirimsiz sert kayaçlarla karşılaşarak alttaki tabakalara sızıp kararlı bir hâl alır ve yoğunluk sırasına göre yayılır, böylece, sünger gibi gözenekli kayaçlar içine yerleşerek petrol yataklarının oluşmasına yol açar.