На рубеже 1900-х и 1910-х годов в России усиливается процесс лишения еврейского населения элементарных человеческих прав. На российских евреев, еще не оправившихся от массовых убийств во время погромов 1905-1906 годов, обрушивается новый поток введенных правительством запретов и ограничений, затрагивающих все стороны жизни. Антисемитизм является государственной политикой в России, российское еврейство всячески преследуется и дискриминируется. Русские националисты открыто призывают к геноциду еврейского народа. В черносотенных газетах идет планомерное разжигание ненависти к евреям. В центральном органе Союза русского народа — газете "Русское знамя" — открыто публикуются призывы: "Правительство обязано признать евреев народом, столь же опасным для человечества, сколь опасны волки, скорпионы, гадюки, пауки ядовитые и прочая тварь, подлежащая истреблению за свое хищничество по отношению к людям и уничтожение которых поощряется законом... Жидов надо поставить искусственно в такие условия, чтобы они постоянно вымирали: вот в чем состоит ныне обязанность правительства и лучших людей страны".

Известный монархист и антисемит Василий Шульгин впоследствии писал, что "идеи Гитлера были за много лет раньше взлелеяны в блистательном Санкт-Петербурге, в газете, именовавшей себя „Русское знамя”".

Сфабрикованное русскими властями "дело Бейлиса", начавшееся в 1911 году, в котором искусственно были оживлены чудовищные средневековые юдофобские мифы, ясно показало, что еврейский народ объявлен врагом русского народа и православной церкви.

В связи с ростом антисемитизма, дискриминацией и погромами продолжается исход еврейского народа из России. Всего за предреволюционные годы страна лишилась почти двух с половиной миллионов своих еврейских граждан, нашедших свободу и равноправие в США, Великобритании, Аргентине и других странах, где принимали российских евреев.

Для Трумпельдора и его единомышленников только сионизм и создание еврейского государства в Эрец Исраэль, в котором обездоленные массы российского еврейства смогут обрести свободу и равноправие, являлось единственным решением еврейского вопроса. Новые веяния в России, в мире, сионистском движении Иосиф горячо обсуждает в сионистских студенческих кружках. Из петербургских студентов-сионистов он создает группу единомышленников, с которой предполагает отправиться в Палестину и создать там сельскохозяйственное поселение, в котором будут реализованы идеи толстовства и социализма.

Вновь и вновь он возвращается к своей идее коммун (квуцот) молодых пионеров, которым предстоит стать ядром еврейского поселенчества и основой будущего Еврейского государства. Трумпельдор развивает свою идею строительства Еврейского государства на основе коммун. Идея приобретает всё новые детали и подробности. Квуца должна представлять из себя социалистическую коммуну единомышленников, в которой будут воплощены идеи равноправия и социальной справедливости.

Первым шагом в создании квуцы станет подготовка добровольцев на учебных сельскохозяйственных фермах, которые предстоит создать еще в России. За время совместной учебы должна сформироваться группа единомышленников, которым предстоит затем отправиться в Палестину и создать там новое еврейское поселение. Квуца должна быть оснащена современными сельскохозяйственным инвентарем и машинами и использовать самые эффективные методы земледелия. Средства производства находятся в коллективном владении всех членов квуцы, распределение продуктов питания, одежды и прочих предметов личного потребления должно осуществляться в соответствии с потребностями каждого коммунара. Успешное ведение сельского хозяйства станет основой экономической независимости квуцы-коммуны.

Образование членов квуцы должно осуществляться в национальном духе и включать в себя овладение ивритом, изучение еврейской истории и еврейского культурного наследия. Особое внимание уделялось овладению возрожденным языком — ивритом, который необходимо было выучить и сделать родным для каждого еврея, мечтающего о возрождении Страны Израиля. Иврит должен стать официальным и обязательным языком общения и ведения документации.

Эти взгляды Трумпельдора нашли поддержку у сионистов-единомышленников, и не только среди петербургских студентов, но и в Киеве, в городах и местечках черты еврейской оседлости. Одним из первых к Иосифу присоединился его старый товарищ по русско-японской войне и плену Давид Белоцерковский. Из городка Ромны Полтавской губернии Трумпельдору написал учащийся местного реального училища Григорий-Цви Шац.

Именно в Ромнах и прошла первая встреча единомышленников Трумпельдора по созданию коммуны-квуцы. 24 августа 1911 года там собрались семь молодых сионистов, студентов и учащихся гимназий, которым предстояло создать первую коммуну-квуцу. Среди них было пять парней и две девушки. Центром этой "конференции" был Трумпельдор, взявший на себя написание учредительных документов и ведение финансовых дел будущей коммуны. В создании коммуны нашли воплощение его наработки.

Первоначально Иосиф считал, что малые коммуны-квуцы, состав которых не превышает нескольких десятков человек, станут основной ячейкой будущего еврейского государства, заменив собой семью. Впрочем, от столь радикальной идеи Трумпельдор вскоре отказался, признав ее нереальность. Более жизненной, на его взгляд, была идея больших коммун, с сотнями членов, в которых бы сохранялись традиционные семейные ценности, основанные на законах иудаизма. На встрече в Ромнах Иосиф определил основные опасности, угрожающие единству членов квуцы — это проблемы, связанные с отсутствием товарищеских отношений между членами коммуны, и малое число женщин, примкнувших к коммуне.

Четырехдневная встреча в Ромнах закончилась общим решением участников примкнуть к Трумпельдору в предстоящем переселении на Святую Землю, где все были готовы посвятить свою жизнь сельскохозяйственному труду. Вскоре после конференции первым на Землю Израиля отправился юный последователь Трумпельдора девятнадцатилетний студент Цви-Григорий Шац, чья судьба типична для пионеров сионизма: он работал в еврейских сельскохозяйственных коммунах, во время мировой войны сражался в рядах Еврейского легиона и погиб в схватке с арабами в 1921 году.

С чувством глубокого удовлетворения Трумпельдор возвращается в Петербург. Он писал впоследствии: "С удовольствием я вспоминаю дни, проведенные в Ромнах. Действительно, это были замечательные дни. Небольшая группа людей, которые, возможно, еще слабы духовно и физически, которые не до конца понимают цели, к которым они стремятся — однако, собралась и сказала с гордостью "Мы"!"

В 1912 году Трумпельдор успешно заканчивает университет. Новоиспеченного юриста ждут заманчивые предложения работы в Петербурге и в родном Ростове. Однако Трумпельдор предан идеям сионизма и, вместо высокооплачиваемой работы в России, выбирает крестьянский труд в далекой Палестине. Уже в сентябре 1912 года Трумпельдор отправляется в Палестину, где планирует присоединиться к группе пионеров.