1928, сентябрь — поступил на инженерный факультет Тимирязевской академии; женитьба на Александре Григорьевне Мартыновой.

1932, 25 января — рождение сына Анатолия.

Сентябрь — окончил Институт механизации и электрификации сельского хозяйства, направлен по распределению редактором в Государственное издательство сельскохозяйственной литературы.

1934 — Фитин избран секретарём партийного комитета Сельхозгиза.

1934, октябрь — 1935 г., ноябрь — служба в РККА, в/ч 1399, г. Калуга.

1936 — назначен заместителем главного редактора издательства.

1938, 28 марта — зачислен в кадры НКВД СССР; учёба в Центральной школе НКВД.

10 октября — присвоено воинское звание младший лейтенант запаса.

Октябрь — Фитин начал службу на должности оперативного уполномоченного 5-го отдела ГУГБ НКВД СССР.

1939, январь — назначен заместителем начальника 5-го отдела.

1 февраля — присвоено специальное звание майор государственной безопасности.

13 мая — возглавил Иностранный отдел.

1940, 14 марта — присвоено специальное звание старший майор государственной безопасности.

Май — награждён орденом Красного Знамени.

Май—июнь — находился в спецкомандировке в Германии; в том же году оформлен брак с Лилией Блюхер.

1941, январь—февраль — спецкомандировка в Турцию; 3 февраля — 5-й отдел ГУГБ НКВД СССР преобразован в 1-е управление НКГБ СССР, Фитин назначается начальником управления.

17 июня — вызов в Кремль к И. В. Сталину.

22 июня — начало Великой Отечественной войны.

Июнь, конец месяца — ГКО СССР определил задачи внешней разведки.

20 июля — 1-е управление под тем же номером входит с состав НКВД СССР.