В конторе «Хьюита и Татла» Джон прослужил три с половиной года. Это была своего рода стажировка, после чего Рокфеллер занялся самостоятельным бизнесом. Свое первое предприятие он создал совместно с неким М. Кларком. Капитал новой компании составил 4000 долларов. Каждый из компаньонов внес равную долю — 2000. К этому времени личные сбережения Джона составили 800 долларов. За недостающими деньгами он обратился к отцу, который обещал всем детям по достижении 21 года 1000 долларов. Но Рокфеллеру не хватало 15 месяцев до совершеннолетия. Поэтому Большой Билл выдал сыну просимую сумму лишь на обычных ростовщических условиях под высокий процент.
Рокфеллер и Кларк занялись посреднической комиссионной продажей. Они торговали зерном, мясом, солью, сеном и другими товарами. Начав с Огайо, компаньоны вскоре перенесли свою деятельность на соседние штаты. Дела шли неплохо. Но особенно успешно они пошли после начала Гражданской войны. Фирма наживала бешеные деньги на поставках продовольствия армии. Только в марте 1861 г. она заработала 17 тыс. долларов, а к концу 1862 г. Рокфеллер не знал даже, куда вложить образовавшийся излишек капитала. Таким образом, военные поставки явились первым важным источником его обогащения. В этом смысле деловая карьера Рокфеллера мало чем отличалась от эволюции других финансовых магнатов. Многие из них, и не только в Америке, составили свои богатства на военном бизнесе.
Писали, что среди мотивов, двигавших действиями Рокфеллера в Гражданскую войну, важное место занимали патриотические чувства, его симпатии и солидарность с северянами. Однако ни Джон, ни его брат Уильям, впоследствии постоянный участник его предприятий, не откликнулись на призыв пойти в армию Севера. Только Фрэнк, второй брат Джона, записался добровольцем. Но когда выяснилось, что Фрэнку не хватает 75 долларов на обмундирование, Джон отказал ему в этой сумме. Он действовал вполне в духе уроков, преподанных отцом, и продолжал действовать так же дальше, отказав семье Фрэнка в материальной помощи, хотя сам не знал, куда девать деньги. Дети брата умерли от голода и были похоронены в семейном склепе. По возвращении из армии Фрэнк велел вырыть их трупы и захоронить в другом месте. «Я не хочу, — заявил он, — чтобы кто-то из моих близких покоился в земле этого чудовища, этого монстра Джона Дэвисона Рокфеллера».
Между тем Джон Рокфеллер настойчиво добивался поставленной цели, наживая все новые и новые тысячи долларов. Торговля сельскохозяйственной продукцией оказалась выгодным бизнесом. Однако война близилась к завершению, да и торговля продовольствием казалась слишком мелким делом. Рокфеллер жаждал иных масштабов и лихорадочно искал возможностей для приложения капитала. Такую возможность открывало развитие нефтяного дела.
В 1859 г. американец Дрейк обнаружил нефтеносные залежи в штате Пенсильвания. Это открытие послужило началом нефтяного бума, который во многом напоминал золотую лихорадку, вспыхнувшую десятью годами раньше в Калифорнии. Пенсильвания всегда считалась промышленным штатом. Однако то, что произошло теперь, опрокинуло прежние представления. Толпы дельцов, от прожженных авантюристов до солидных бизнесменов, набросились на этот промысел, суливший баснословные прибыли. Продукт перегонки нефти — керосин стал самым распространенным осветительным средством и пользовался неслыханным спросом. Одна за другой создавались акционерные компании для добычи нефти, ее перегонки и организации сбыта. Нефтяные предприятия росли как грибы, не только в Пенсильвании, но и в соседнем штате Огайо. Кливленд, куда перебрался Рокфеллер, стал в этом смысле одним из самых оживленных центров.
Разгар нефтяной лихорадки пришелся на 60-е годы. Как раз в это время Рокфеллер и приложил свою руку к нефтяным делам. Несмотря на всеобщий ажиотаж, он действовал осторожно, избегая опрометчивых решений. Предварительно вместе с Кларком, обсудив все «за» и «против», они привлекли компаньоном опытного нефтяного дельца Эндрюза и только после этого выложили деньги. Причем сначала в очень скромных размерах — по 4000 долларов. Однако уже с самых первых шагов стало ясно, что нефтяной бизнес — это верное дело. Основное внимание Рокфеллер и его компаньоны обратили на перегонку нефти и ее транспортировку. Добыча была менее рентабельна и требовала крупных вкладов капитала. Между тем, взяв в свои руки переработку и торговлю, можно было установить контроль над нефтяным производством. В этом и состоял план Рокфеллера. В 1865 г. его фирма владела одним керосиновым заводом. Спустя два года их было пять. А в 1870 г. предприятие Рокфеллера уже стало самым крупным. Его капитал достиг одного миллиона долларов. Название фирмы «Стандард ойл К°» подчеркивало, что выпускаемая ею продукция соответствует техническим стандартам и нормам безопасности. А одно это служило неплохой рекламой. В условиях хаоса, который переживало в ту пору нефтяное производство, правила безопасности не соблюдались. Из-за этого происходили пожары и несчастные случаи. Поэтому акции фирмы, организовавшей выработку безопасного продукта, сразу поднялись.