В 1928 году его переводят на оперативную работу и повышают в должности — он становится помощником уполномоченного учетно-статистического отделения Мелитопольского окружного отдела ГПУ. В качестве младшего оперативного сотрудника Павел курирует работу нескольких агентов, действовавших в болгарской, греческой и немецкой колониях-поселениях. Работа с агентами, осведомителями и кадровыми секретными сотрудниками требовала от нашего героя выдержки, терпения и хладнокровия, и здесь уместно вспомнить начальника Особого отдела Департамента полиции царской России полковника С. В. Зубатова, профессионала высшей пробы. Он неоднократно разъяснял своим подчиненным правила работы с секретными сотрудниками, отмечая, что единственное средство быть в курсе деятельности оппозиционеров — это иметь своих людей в каждой ячейке общества. А главная задача оперативного сотрудника спецслужб — организовать тонкую и четко функционирующую сеть секретных осведомителей, работающих повсюду.
«Пути поиска таких людей различны, — говорил Зубатов своим офицерам, — но метод один: офицер охраны должен быть человековедом. Повторяю и повторяю: не смотрите на дело приобретения сотрудника как на рыночную куплю-продажу. И ни в коем случае не относитесь к вашему человеку небрежно или, хуже того, с презрением, коего он, возможно, и заслуживает, ибо никто из нас не станет оправдывать Иуду, продавшего Христа. Однако упрячьте эти свои мысли и чувства поглубже. Вы, господа, должны смотреть на сотрудника как на любимую женщину, с которой находитесь в тайной связи. Берегите ее как зеницу ока. Один неосторожный ваш шаг — и вы ее опозорите. Помните это, относитесь к этим людям так, как я вам советую, и они поймут вас, доверятся вам и будут работать с вами честно и самоотверженно».
В феврале 1928 года Судоплатов вступает в ряды Всесоюзной Коммунистической партии большевиков — ВКП(б).
В августе 1928 года наш герой получает очередное повышение и переводится в столицу тогдашней Украины — город Харьков, где назначается помощником уполномоченного секретного отделения Харьковского окротдела ГПУ УССР. Секретный, а с марта 1931 года секретно-политический отдел в составе Секретно-оперативного управления ОГПУ и его отделения на местах занимались борьбой с активными антисоветскими партиями и группами, националистами, работой в среде творческой интеллигенции и духовенства.
В том же году Павел вступает в брак с коллегой по работе Э. К. Кагановой.
Затем, в отрезок времени до 1930 года (более точные данные в личном листке по учету кадров отсутствуют), П. А. Судоплатова переводят в центральный аппарат ГПУ УССР и назначают помощником уполномоченного Отдела информации и политического контроля. Этот отдел был образован путем слияния в ноябре 1925 года двух отделов — информационного и политконтроля — в единую структуру. Необходимо подчеркнуть, что в личном листке по учету кадров рукой Павла Анатольевича указана должность именно помощника уполномоченного. Об этом периоде работы нам известно мало, вероятнее всего, в новой должности сочетались как оперативная, в том числе агентурная, так и аналитическая составляющие.
«Мой рабочий день, — вспоминал П. А. Судоплатов, — начинался в десять часов утра и заканчивался в шесть вечера с коротким перерывом на обед. После этого шли встречи с осведомителями на явочных квартирах. Они продолжались с половины восьмого вечера до одиннадцати. Затем я возвращался на службу, чтобы доложить начальству о полученных мною оперативных материалах».
С 1922 года ГПУ, а позднее НКВД — КГБ и служба внешней разведки отправляли ежемесячные доклады советскому руководству о положении дел в стране, о трудностях и недостатках в работе различных предприятий и организаций, и эти данные учитывались, когда принимались важные решения на государственном уровне. Да, отслеживались и отдельные лица, и эта слежка была оправданной, потому что у советской власти были много врагов. И в то же время очень часто в гребенку подозрительности попадали невиновные люди. Вот как пишет об этом сам Судоплатов:
«По иронии судьбы отделение информации нашего отдела возглавлял бывший царский офицер Козельский, происходивший из древней и обедневшей дворянской семьи. Хотя этот человек и служил в царской армии, его симпатии к большевикам, проявившиеся в годы революции, позволили ему завоевать наше доверие. В 1937 году он покончил самоубийством, чтобы избежать ареста во время кампании чисток…»
Примерно до 1932–1934 года чистка кадров в ОГПУ происходила путем перемещения «подозрительных лиц» на хозяйственную и советскую работу. Так, в августе 1931 года по делу «Весна» были сняты с постов Л. Н. Бельский, полпред ОГПУ по Московской области; И. А. Воронцов, начальник Административно-организационного управления; Е. Г. Евдокимов, начальник Секретно-оперативного управления; С. А. Мессинг, начальник Иностранного отдела; Я. К. Ольский, начальник Особого отдела.
А П. А. Судоплатова в 1930 году переводят в резерв назначений ГПУ УССР, откуда отправляют заведующим культурно-воспитательной частью трудовой коммуны ГПУ УССР для правонарушителей в селе Ладан под городом Прилуки. Сам он вспоминает: «Я получил новое — весьма необычное, но весьма важное — задание, которое совместно контролировалось руководителями ОГПУ и партийными органами. Моя новая должность называлась: комиссар спецколонии в Прилуках для беспризорных детей. После Гражданской войны подобного рода колонии ставили своей целью покончить с беспризорностью детей-сирот, которых голод и невыносимые условия жизни вынуждали становиться на путь преступности. На содержание этих колоний каждый чекист должен был отчислять десять процентов своей заработной платы. При колониях создавались мастерские и группы профессиональной подготовки — трудовой деятельности ребят придавалось тогда решающее значение. Завоевав доверие колонистов, мне удалось организовать фабрику огнетушителей, которая вскоре начала приносить доход.
Благодаря положению моей жены в украинских партийных кругах я дважды встречался с Косиором, тогдашним секретарем ЦК Коммунистической партии Украины. Эти встречи проходили на квартире Хатаевича[9], куда нас приглашали в качестве гостей. Особое впечатление на меня производило, как оба руководителя смотрели на будущее Украины. Экономические проблемы и трагедию коллективизации они рассматривали как временные трудности, которые следует преодолевать всеми возможными средствами. По их словам, необходимо было воспитать новое поколение, абсолютно преданное делу коммунизма и свободное от всяких обязательств перед старой моралью. Наибольшее внимание следовало уделять развитию и поддержке новой украинской интеллигенции, враждебно относящейся к националистическим идеям. Потребовались еще шестьдесят лет и развал Советского Союза, чтобы стало очевидным: нужно было проявить, по крайней мере, терпимость и постараться понять противную сторону, а не стремиться во что бы то ни стало ее уничтожить».
В 1931 году заместителем председателя ОГПУ при СНК СССР назначается В. А. Балицкий, ранее занимавший пост председателя украинского ГПУ. Постепенно, как поступил бы на его месте каждый, он переводит в Москву нескольких своих доверенных сотрудников, в том числе в феврале 1932 года — П. А. Судоплатова.
Вначале Павел Анатольевич был инспектором, а затем — старшим инспектором Отдела кадров ОГПУ. Подобное назначение (кадры решают все!) может говорить о желании Балицкого держать под контролем все кадровые перемещения в центральном аппарате ОГПУ. В должности старшего инспектора П. А. Судоплатов курирует комплектование и перемещения по службе в Иностранном отделе ОГПУ. Он знакомится с начальником отдела А. Х. Артузовым и его заместителем А. А. Слуцким. В 1933 году он переходит на оперативную работу в разведке в должности оперативного уполномоченного.
С 1925 года ОГПУ стало одним из главных центров по подготовке разведчиков, и здесь можно выделить два направления: создание сети разведчиков-нелегалов, которых в числе прочего готовили для проведения диверсий во враждебных СССР государствах в случае войны, и физическое устранение политических противников рабоче-крестьянской власти за рубежом.
В составе органов госбезопасности подготовкой и проведением специальных операций за рубежом занимались два подразделения: Иностранный отдел и Особая группа при председателе ОГПУ. Именно в задачи Иностранного отдела входила ликвидация лидеров контрреволюции, а также расправа с предателями из своей среды.
Особая группа, созданная председателем ОГПУ В. Р. Менжинским во второй половине 1926 года, первоначально задумывалась как параллельный (независимый от ИНО) разведывательный центр, предназначенный для выполнения специальных операций стратегического характера. Создание структур с аналогичными задачами позволяло иметь каналы перепроверки информации, а в случае провала одной из групп можно было компенсировать неудачу активизацией другой, работающей в той же стране. Формирование разведывательного центра связано с именем Я. И. Серебрянского, ближайшего соратника и одного из учителей П. А. Судоплатова.
В 1930 году П. А. Судоплатов переходит из Отдела кадров на работу в Иностранный отдел ОГПУ. В дело опять вмешался случай. В 1933 году сотрудник ИНО Т. Кулинич, отвечавшая за оперативное наблюдение и борьбу с украинской эмиграцией на Западе, подает рапорт об отставке по состоянию здоровья. Начальник Иностранного отдела А. X. Артузов, по долгу службы знавший, что П. А. Судоплатов не только родился и вырос на Украине, но и имеет опыт оперативной и аналитической работы в местных условиях, предложил ему занять вакантную должность. Сначала Судоплатов становится оперуполномоченным 5-го, а затем 8-го отделения ИНО. К тому времени его жена Эмма тоже перевелась в Москву и получила назначение в Секретно-политический отдел.
«Видную роль в руководстве Иностранным отделом, — вспоминал Павел Анатольевич, — помимо Артузова и Слуцкого, играли Берман, Федоров (возглавлявший борьбу с эмиграцией), Шпигельглаз, Минскер, Эйтингон и Горожанин».
Артур Христофорович Артузов (Артур Евгений Леонард Фраучи, 1891–1937) в 1922–1927 годах возглавлял Контрразведывательный отдел ГПУ — ОГПУ, на этом посту руководил операциями «Трест» и «Синдикат-2», в результате которых были арестованы Б. В. Савинков и С. Рейли, а также разгромлены многие подпольные террористические группы. В 1931–1935 годах Артузов руководил Иностранным отделом ОГПУ. С мая 1934 года, по совместительству, — заместитель начальника IV (Разведывательного) управления РККА, в мае 1935 года освобожден от работы в ИНО в связи с переходом в военную разведку.