О детских и юношеских годах Маркина известно немного. Родился в мае 1893 года в селе Русский Сыромяс Городищенского уезда Пензенской губернии. Многочисленная семья (Николай был шестым ребенком) часто испытывала нужду. Поэтому с раннего детства Николай, как и все дети Маркиных, познал, что такое нелегкий труд. Он ухаживал за помещичьим скотом, помогал старшим во всех их занятиях.

Детство было нелегким. Но в нем были и свои праздники — походы за грибами, купанье в речке с таким причудливым названием — Айва. По воскресеньям в селе проходили ярмарки. И Коля со своими босоногими друзьями бродил но рядам, разглядывая причудливые товары, людей, вслушиваясь в разговоры, смысл которых еще далеко не всегда мог быть воспринят детским его умом. Мальчишечьи глаза разбегались. Гончары вовсю расхваливали изготовленную ими посуду или глиняные свистульки; плотники предлагали купить свои произведения — любовно сделанные сундуки, стулья, другую хозяйственную утварь; местные мастерицы развешивали на заборах домотканые половички и коврики, яркими красками игравшие на солнце; где-то в стороне Мужики приценивались к скотине — мяли вымя коровам, заглядывали в рот лошадям. Ярмарка гремела, божилась сотнями голосов, ругалась, спорила до хрипоты. Иногда приезжали артисты, давали представление — силачи и фокусники тешили публику как могли, а в конце обходили ее с фуражкой, благодарно кланялись на звяканье медяков.

Маленькому Коле очень нравилось бывать на ярмарках, и он считал, что интереснее, чем на ярмарке, могло быть только… в школе. Выучившись читать и писать от старших братьев (в семье Маркиных все были грамотны — по тем временам вещь удивительная!), он мечтал побыстрее пойти в школу. А когда наступил этот желанный день, Коле казалось, что время остановилось, что никогда не наступит та минута, когда под звон колокольчика войдет он за школьный порог. Не зря мальчик так рвался в школу. Учеба пришлась ему по душе, давалась легко. Трехклассную церковноприходскую школу он окончил с похвальным листом, да еще за две зимы!

Почти половину Городищенского уезда занимали леса. Густые дубовые и сосновые леса со всех сторон окружали Сыромяс, подступали прямо к домам и огородам. И хотя главным занятием местных жителей, как было написано в справочниках, являлось хлебопашество, го-родищенским крестьянам приходилось идти на отхожие промыслы. Годной к обработке земли было мало (да и та в основном принадлежала богачам Шуваловым, Куракиным, Столыпиным, Оболенским), так что, завершив свои сезонные дела, крестьяне шли работать на ближайшие ткацкие фабрики.

У Маркиных не было ни своей земли, ни своего скота. Григорий Андреевич и старшие его сыновья — Иван и Виктор — круглый год работали на суконной фабрике. Фабрика находилась в нескольких десятках верст от Сыромяса, отец и братья жили при фабрике, а домой приходили только на праздничные да выходные дни.

Для маленького Коли их приход всегда был большой радостью. Он очень любил отца, братьев, любил слушать их рассказы о фабрике, о тех, кто работает вместе с ними. Они же, зная, как терпеливо ожидает их Николай у околицы, старались каждый раз прихватить ему хоть какой-нибудь гостинец, порадовать шуткой, смешной историей.

Бедно, но очень дружно, трезво жила большая семья Маркиных.

На ткацкой фабрике, где работали отец и старшие братья Николая, условия были очень тяжелые, как, впрочем, и на других предприятиях царской России, Рабочий день длился по двенадцать и более часов, заработная плата была очень низкой, постоянные придирки мастеров влекли за собой бесконечные штрафы. Рабочие боролись за свои права — выдвигали справедливые требования, пытались найти правду у уездного и губернского начальства и, в конце концов отчаявшись, бастовали.

Хозяева с бунтарями не особенно церемонились — увольняли их. После одной из стычек с администрацией был выброшен за ворота фабрики и отец Коли Маркина. В документе говорилось: «Григорий Андреевич Маркин уволен за противоправительственную деятельность. Принимать его на работу опасно…»

Маленький Коля остро воспринимал события, происходившие вокруг. Его юная душа возмущалась несправедливым устройством мира. «Князья Оболенские ничего не делают, и у них все есть, — рассуждал он. — А мы всей семьей от зари и до зари трудимся, а беднее нас нет!» Особенно большую роль в формировании бунтарской натуры мальчика сыграл его старший брат Виктор. Он терпеливо объяснял Коле: «Чтобы лучше жить, нужно бороться!»

У Виктора слово с делом не расходилось. Однажды, мстя барину за издевательства над бедными, он поджег барскую ригу с хлебом. Естественно, после этого ему пришлось скрываться. К Маркиным нагрянула полиция. Уж как ни подъезжал урядник к Коле — и угрожал, и обещал конфет купить и даже саблю подарить — мальчик, глядя исподлобья, твердил: «Не знаю, где брат».

После того как отец был уволен с фабрики, петля нужды стала по-настоящему затягивать семью Маркиных. Не видя другого выхода, Маркины решили оставить привычные места и перебраться на Волгу, в Саратов. Как им представлялось, там много фабрик, заводов — где-нибудь да и возьмут на работу. Но в Саратове семья не прижилась. Фабрик и заводов было много, но почти на всех рабочие бастовали (началась первая русская революция), на улицах было неспокойно — происходили демонстрации, стычки рабочих с полицией, с казаками-черносотенцами, устраивавшими погромы. В такой обстановке трудно было с кем-то говорить о работе, а без работы прожить такой многочисленной семьей было невозможно.

На семейном совете решено было ехать еще дальше, на Кавказ. Там, во Владикавказе, жил Виктор. Он устро-плен наборщиком в типографию и слал письма, звал к себе. Вскоре вся семья, кроме одной из сестер, Агафьи, которая сумела получить место в одной из аптек Саратова, тронулась в путь.

Во Владикавказе с работой было легче. Отец стал работать в железнодорожных мастерских, а Колю определили «мальчиком» в писчебумажный магазин.

Во Владикавказе многое было для Маркиных непривычным: яркая южная природа, горячие и порывистые горцы, шумные восточные базары, перед которыми бледнели детские воспоминания о сыромятских ярмарках… Но очень скоро, освоившись с экзотикой, Маркины увидели, что в этом краю жизнь далеко не рай для рабочего человека.

Первым это почувствовал Григорий Андреевич. Оказалось, что на Владикавказской, как и на других частных железных дорогах, платят значительно меньше по сравнению с дорогами государственными. Здесь при найме, как правило, не учитывали ни стажа, ни квалификации рабочих, поэтому проработавшие десять-пятнадцать лет получали столько же, сколько новички.

В эпоху революционного подъема борьба пролетариата на Кавказе за свои права приобрела самый широкий размах. Григорий Андреевич Маркин активно включился в нее. Он посещал тайные сходки, распространял нелегальную литературу, выступал на митингах. Если Николай бывал свободен, он старался быть рядом с отцом или старшим братом Виктором, который также принимал участие в революционных событиях.

Между тем обстановка во Владикавказе постепенно изменялась. После революционного подъема произошел спад. Многие большевистские организации были разгромлены. На Северном Кавказе наступил период «махрового расцвета эсеровщины». Он нашел свое выражение в широко развернувшейся кампании террора. В мае 1907 года во Владикавказе был убит высокопоставленный чиновник Мамацев. Два убийства произошли в Пятигорске. Их жертвами стали одесский губернатор Карангозов и жандармский полковник Лупаков. Эхо этих выстрелов, по-видимому, определенным образом сказалось и на мироощущении юного Маркина. Он по-прежнему работал в писчебумажном магазине. Но ни сам магазин, ни хозяева не нравились нарню. Николай решил поступить «пореволюционному» и надумал поджечь магазин. Ему это не удалось. Но его арестовали.

При обыске полицейские обнаружили у Николая нелегальную литературу, которую оставил, уезжая в 1908 году в Баку, Виктор.