Γεννήθηκε στις 8 Ιουλίου του 1839.
Μεγάλωσε στη φάρμα της οικογένειάς του που βρισκόταν λίγο έξω από το Κλίβελαντ στο Οχάιο και μέσα στο ιδιαίτερα αυστηρό περιβάλλον που προβλέπουν οι απόψεις και ο τρόπος ζωής των βαπτιστών. Βέβαια ο πατέρας του δεν ήταν και υπόδειγμα θεοσεβούμενου πολίτη αφού έμεινε γνωστός στην ιστορία επειδή υποστήριζε ότι είχε ανακαλύψει το φάρμακο για τον καρκίνο πουλώντας το μάλιστα πολύ ακριβά. Από πολύ μικρός ο Τζον έδειξε την «κλίση» του, όταν τη στιγμή που όλα τα παιδιά της ηλικίας του έπαιζαν εκείνος προτιμούσε να αγοράζει γλυκά και να τα πουλάει εκ νέου στα ίδια του τα αδέρφια, και μάλιστα σε μεγαλύτερη τιμή από αυτή που τα είχε αγοράσει…


Σε ηλικία 16 ετών παράτησε το σχολείο και ανέλαβε χρέη λογιστή σε μανάβικο του Κλίβελαντ εντυπωσιάζοντας τον εργοδότη του με την αγάπη και τη φροντίδα με την οποία έκανε τη δουλειά του. Εβλεπε, θυμόταν και κατέγραφε τα πάντα και φυσικά δεν ξεχνούσε απολύτως τίποτε. Η πρώτη του αυτή εμπειρία με το εμπόριο τον βοήθησε σημαντικά όταν αποφάσισε αργότερα να δημιουργήσει τη δική του εταιρεία. Ο Τζον Ροκφέλερ κουβαλώντας τα οικογενειακά ιδεώδη ήταν ιδιαίτερα θρήσκος, αν και ήταν θιασώτης της θεωρίας ότι ο Θεός επιβραβεύει μονάχα τους «εκλεκτούς». Απεχθανόταν τη σπατάλη, την αταξία και τη μετριότητα. Δεν του άρεσε η κοσμική ζωή και τα τρία και μοναδικά μέρη στα οποία θα τον έβρισκε κάποιος σε όλη τη διάρκεια της ζωής του ήταν το σπίτι, το γραφείο και η Εκκλησία των βαπτιστών. Σύμφωνα με τις μαρτυρίες, ο ίδιος δεν χαμογελούσε ποτέ παρά μόνο μετά την επίτευξη κάποιας καλής οικονομικής συμφωνίας. Ηταν ιδιαίτερα μυστικοπαθής και αντικοινωνικός, γι’ αυτό και η φιγούρα του ήταν άγνωστη ακόμη και στην πλειονότητα των υπαλλήλων της εταιρείας του. Ποτέ κανένας δεν τον είδε να επισκέπτεται τις πετρελαιοπηγές του. Ετσι αναπτύχθηκε ένας μύθος γύρω από τον μυστηριώδη μεγιστάνα που δεν εμφανίζεται ποτέ και κινεί τα νήματα από το παρασκήνιο.


Ο Τζον Ροκφέλερ είχε αποφασίσει από πολύ μικρός ότι το μέλλον του βρισκόταν στον χώρο των πετρελαίων. Ετσι ξεκίνησε πολύ γρήγορα την προσπάθειά του αφού σε ηλικία 24 ετών ίδρυσε μαζί με κάποιον γνωστό του και έναν χημικό το πρώτο του διυλιστήριο. Εκεί γινόταν παραγωγή κηροζίνης και της χημικής ουσίας νάφθα (από την οποία παράγεται η ναφθαλίνη). Επανεπενδύοντας συνεχώς τα κέρδη και διατηρώντας ταυτόχρονα τα κόστη σε όσο το δυνατόν χαμηλότερα επίπεδα ο Ροκφέλερ ανέπτυξε την επιχείρησή του με μεγάλη ταχύτητα. Τον επόμενο χρόνο παντρεύτηκε τη Λόρα Σελέστια Σπέλμαν, που προερχόταν από οικονομικά εύρωστη και κοινωνικά αξιοσέβαστη οικογένεια με την οποία γνωριζόταν από το σχολείο. Απέκτησε μαζί της πέντε παιδιά τα οποία μεγάλωσε σαν να ήταν παιδιά μιας φτωχής οικογένειας, δεν τους έδινε χαρτζιλίκι και αν ήθελαν χρήματα έπρεπε να τα κερδίσουν είτε δουλεύοντας είτε κάνοντας κάτι χρήσιμο. Τους υποχρέωνε μάλιστα να κρατούν από μικρά ατομικό βιβλίο εσόδων-εξόδων καταγράφοντας εκεί και το τελευταίο σεντ που πήραν ή έδωσαν. Πάντως έβρισκε πάντοτε χρόνο για να ασχολείται μαζί τους – να παίζουν, να τα μαθαίνει κολύμπι, ιππασία κτλ.


Το 1870 ίδρυσε τη Standard Oil Company στο Κλίβελαντ. Η αγορά πετρελαιοειδών στις ΗΠΑ ήταν εκείνη την εποχή αποκεντρωμένη και πολυδιασπασμένη με τον Ροκφέλερ να κατέχει μόλις το 4% της αγοράς και έχοντας απέναντί του περίπου 250 ανταγωνιστές. Μέσα σε τρία χρόνια καταφέρνει να πάρει υπό τον έλεγχό του το 80% των πηγών και αποθεμάτων του Κλίβελαντ στο οποίο παραγόταν το 1/3 της εθνικής παραγωγής. Το 1880 η Standard Oil ήλεγχε σχεδόν το σύνολο των διυλιστηρίων των ΗΠΑ, έχοντας στα ταμεία της σε ρευστό περισσότερα από 40 εκατ. δολάρια. Οταν η εταιρεία συγχώνευσε όσες εταιρείες είχαν καταφέρει να επιβιώσουν, μετονομάστηκε σε Standard Oil Trust. Ηταν το πρώτο μεγάλο επιχειρηματικό τραστ στις ΗΠΑ. Το 1882 οι εταιρείες και οι μέτοχοι που είχαν στηρίξει το τραστ ξεκίνησαν δικαστική διαμάχη για τον έλεγχο της εταιρείας και την κατοχύρωση των δικαιωμάτων τους. Παρά τους δικαστικούς κλυδωνισμούς η εταιρεία συνέχισε την επέλασή της στην αγορά και το 1900 ήλεγχε πλέον το 90% του πετρελαίου των ΗΠΑ. Στα 57 του χρόνια και έχοντας φυσικά αμύθητη περιουσία και τεράστια εξουσία ο Ροκφέλερ αποφάσισε ξαφνικά να κάνει μια στροφή στη ζωή του. Εγκατέλειψε την επιχείρησή του για να αφοσιωθεί στο υπόλοιπο της ζωής του σε διάφορες φιλανθρωπικές δραστηριότητες. Το 1911 το Ανώτατο Δικαστήριο των ΗΠΑ ψήφισε τον περίφημο νόμο Σέρμαν με τον οποίο καταργούσε τα μονοπώλια κομματιάζοντας τη Standard Oil σε πολλές μικρότερες εταιρείες οι οποίες έπρεπε να λειτουργούν ανταγωνιστικά η μία προς την άλλη.


Το 1932 ο Τζον Ροκφέλερ τζούνιορ, υιός του Τζον Ντ., ξεκινάει το χτίσιμο του περίφημου Ροκφέλερ Σέντερ, του υψηλότερου ουρανοξύστη των ΗΠΑ ως μια επιβεβαίωση ισχύος και κύρους της δυναστείας. Ο Τζον Ντ. Ροκφέλερ πέθανε πλήρης ημερών στις 23 Μαΐου του 1937.


«Δεν είχα καμία φιλοδοξία να δημιουργήσω μεγάλη περιουσία. Η απόκτηση όλο και περισσότερων χρημάτων δεν ήταν ποτέ ο στόχος μου. Η μόνη μου φιλοδοξία ήταν να εργάζομαι και να δημιουργώ»