Так же, как и в жизни Даниленко-Карина, переломным для Судоплатова стал 1921 год. Его 44‑я стрелковая дивизия была переброшена на Волынь, в город Житомир. Бандиты уже готовили здесь силы для синхронного удара из-за кордона и внутреннего мятежа, который они громко называли «всенародным восстанием против большевиков», хотя их главари банально продались полякам и отрабатывали свои тридцать сребреников.
При выполнении одного из контртеррористических мероприятий сотрудники Особого отдела дивизии попали в засаду, устроенную бандитами. В завязавшемся бою многие чекисты погибли. «В Особом отделе, понесшем тяжелые потери, – вспоминал Павел Анатольевич, – срочно потребовался телефонист, он же – шифровальщик. Так я был послан на работу в органы государственной безопасности. Это было началом моей службы в ВЧК».
Главной задачей Особого отдела дивизии в то время было оказание помощи местной ЧК в проникновении в бандитское подполье, которым из-за кордона руководили Петлюра и Коновалец. Чекистам удалось завязать диалог с руководителями подполья на местах и вступить с ними в переговоры. Павел Судоплатов, несмотря на свои 14 лет, выступал содержателем явочной квартиры, на которой проходили эти переговоры. «Опыт общения с главарями формирований украинских националистов, – пишет он в своих мемуарах, – помог мне в дальнейшем. На своей собственной шкуре испытал я, каково иметь дело с заговорами в подполье».
Война с бандформированиями Петлюры и Коновальца продолжалась почти два года и закончилась компромиссом: бандиты согласились разоружиться в обмен на амнистию. «Произошло это лишь после того, – пишет Судоплатов, – как кавалерийский отряд в две тысячи сабель, посланный Коновальцем в Житомир, был окружен частями Красной Армии и сдался (имеется в виду бой 17 ноября 1921 года в районе села Малые Миньки возле местечка Базар на Житомирщине. – А.В.). Банда Коновальца потерпела сокрушительное поражение. В этих боях погиб мой старший брат Николай, служивший в погранвойсках на польской границе. Я же подал рапорт о переводе в Мелитополь, чтобы быть поближе к семье и иметь возможность помогать ей».
По возвращении домой Судоплатов находился в основном на комсомольской работе. В феврале 1925 года окружком ЛКСМУ снова направил его на работу в органы ОГПУ. Он становится младшим оперативным сотрудником учётно-статистического отделения окружного отдела (ОО) ГПУ и отвечает за работу осведомителей в греческом, болгарском и немецком поселениях Мелитополя. За активную и плодотворную работу Судоплатов был награждён серебряными часами.
В 1927 году Судоплатова переводят в Харьков уполномоченным информационно-осведомительного отдела ГПУ УССР. Здесь, на службе, он познакомился со своей женой Эммой. Она родилась в Гомеле 1 мая 1905 года и окончила гомельскую женскую гимназию с золотой медалью. В 1922 году она стала секретарём-машинисткой у Менделя Марковича Хатаевича, ответственного секретаря Гомельского губернского комитета РКП(б). В 1923 году он получил назначение на такую же должность в Одессу и взял Эмму с собой. «Именно в Одессе Эмма и перешла в местное ГПУ, – пишет Судоплатов. – Ей поручили вести работу среди проживавших в городе немецких колонистов. Голубоглазая блондинка, она говорила на близком к немецкому идише и вполне могла сойти за немку».
После перевода в Харьков, столицу тогдашней Украины, Эмме как образованной и привлекательной женщине доверили работу осведомителя в среде украинской творческой интеллигенции – писателей и театральных деятелей – по линии Секретно-политического отдела (СПО).
Как пишет Судоплатов, рабочий день у чекистов начинался в десять часов утра и заканчивался в шесть вечера. После этого начинались встречи с осведомителями на явочных квартирах. Встречаться со своими осведомителями в дневное время было не положено. Было известно, что Сталин работает допоздна, и сотрудники ГПУ Украины работали в таком же режиме. Вот почему встречи с осведомителями проходили по вечерам и продолжались до одиннадцати вечера. Затем нужно было вернуться на службу и доложить начальству о полученных оперативных материалах.
В 1929 году СПО ГПУ Украины возглавил Израиль Моисеевич Леплевский – выходец из бедной еврейской семьи рабочего-табачника, в молодости член «Бунда». До этого в 1925–1929 годах он возглавлял Одесский окружной отдел ГПУ Украины и принимал Эмму на работу. В 1929–1931 годах он, не имея образования, стал начальником Секретно-оперативного управления (СОУ) ГПУ УССР и одновременно начальником Особого отдела (ОО) Украинского военного округа, а начальником СПО назначил Генриха Самойловича Люшкова – выходца из бедной еврейской семьи одесского портного. В 1931 году они оба вместе с председателем ГПУ Украины Всеволодом Аполлоновичем Балицким переезжают в Москву, где Балицкий становится заместителем председателя ОГПУ СССР, Леплевский – начальником ОО ОГПУ СССР, а Люшков – помощником начальника СОУ ОГПУ СССР, начальником которого был Генрих Григорьевич (Енох Гершенович) Ягода.
Как указывают в своей книге «1937. Большая чистка. НКВД против ЧК» (2009) Михаил Тумшис и Александр Папчинский, «при содействии Люшкова в Москву, в аппарат СПО перебрались и его коллеги по работе в ГПУ Украины – М.А. Каган и Э.К. Каганова. Эмма Карловна Каганова (настоящее имя Суламифь Соломоновна Кримкер) была хорошей знакомой Люшкова, он дал ей рекомендацию при вступлении в партию. Вместе с Кагановой в Москву переехал и ее муж, будущий начальник знаменитого 4‑го Управления НКВД – НКГБ П.А. Судоплатов. Он стал работать в 1‑м отделении ОК ОГПУ, под началом “украинца” Н.Л. Рубинштейна».
В феврале 1932 года в Отделе кадров центрального аппарата ОГПУ Судоплатов был назначен на должность старшего инспектора, курировавшего перемещения по службе и новые назначения в ИНО (внешняя разведка) ОГПУ. Его жена Эмма получила назначение в СПО ОГПУ. В её обязанности входила работа с сетью осведомителей в создаваемом Союзе писателей СССР (создан в 1934 году), а также в среде московской творческой интеллигенции.
Начальником ИНО с 1 августа 1931 года был легендарный чекист Артур Христианович Артузов, создатель и первый начальник советской контрразведки (КРО), с июля 1922 по ноябрь 1927 года руководивший знаменитой операцией «Трест», в ходе которой была скована разведывательно-подрывная деятельность белоэмигрантских объединений на территории СССР. Узнав, что Судоплатов родом с Украины, Артузов забрал его к себе и поручил ему работу по украинской эмиграции.
21 мая 1935 года Артузова сменил Слуцкий. Он предложил Судоплатову стать нелегалом и работать за кордоном. «И я согласился, – пишет Судоплатов. – После чего сразу приступил к интенсивному изучению немецкого языка – занятия проходили на явочной квартире пять раз в неделю. Опытные инструкторы обучали меня также приемам рукопашного боя и владению оружием. Исключительно полезными для меня были встречи с заместителем начальника Иностранного отдела ОГПУ – НКВД Шпигельглазом (член “группы Яши”. – А.В.). У него был большой опыт работы за границей в качестве нелегала – в Китае и Западной Европе». В апреле 1933 года Судоплатов становится оперуполномоченным 5‑го,
