Как мы уже писали, в 1907 году «подвиги» Грегуса и его подручных заинтересовали писателей и журналистов, в результате пытки в Рижской сыскной стали предметом расследования Государственной Думы. Однако у непосредственного начальства претензий к Ивану Эмериковичу не было, за преступные деяния его так и не наказали. Наоборот, Грегус регулярно получал награды и повышался в чинах. А когда под давлением общественности изредка случались проверки, они заканчивались пшиком. «Что же касается практикуемых, по слухам, в Сыскном отделении пытках, то весьма возможно, что там они применяются, и, быть может, в широких даже размерах, но так как Грегус человек ловкий и действует всегда умело и осторожно, то дознать это совершенно не представляется возможным», – не без восхищения писал начальник Лифляндского губернского жандармского управления генерал-майор Иван Дмитриевич Волков.
С ним был согласен и прокурор Петроградского окружного суда, утверждавший в 1914 году, что иной кандидатуры на пост помощника начальника столичной Сыскной он не видит. Однако уже началась Первая мировая… Российскую империю охватила ксенофобия. А Грегус, хоть и чех, был когда-то подданным Австро-Венгерского императора и даже отслужил срочную службу в австрийской армии. Вдобавок какой-то недоброжелатель донес, что как-то, будучи пьяным, Иван Эмерикович пел песню, восхваляющую германского кайзера. В итоге Грегуса не только не перевели в Петроград – его и в Риге с должности сняли. Он был причислен к Департаменту полиции, но без содержания.
Грегус написал жалобное прошение министру внутренних дел, в котором умолял назначить его на хоть какую-нибудь должность по полиции. Также он подал на высочайшее имя ходатайство о «разрешении ему и членам его семьи впредь именоваться Марковскими» (в то время подобные ходатайства, поступавшие от «русских немцев», были обычным явлением). По запросу начальства А.Ф. Кошко написал характеристику на бывшего подчиненного, указав, что Грегус – «талантливый сыщик, впрочем, более способный к розыску политическому, коим он больше и занимался». Оба прошения были удовлетворены. В феврале 1916 года Грегуса-Марковского назначили начальником Харьковской сыскной полиции. «Зачистив» вверенное подразделение от прежних сотрудников и пригласив проверенных «коллег» из Риги, Грегус принялся за старое: пытки, истязания, вымогательства. Как и в Лифляндии, на него посыпались жалобы. Но, в отличие от Риги, местное начальство покрывать Грегуса не собиралось. Была назначена проверка, в результате которой выяснилось, что в комнате надзирателей Сыскной полиции подручные Грегуса пытали задержанных. При пытках (как и в Риге) они использовали резиновые палки – проверяющие нашли на «шкапе» в кабинете начальника Сыскной кусок колесной резиновой шины, залитый свинцом, а другие орудия пыток маскировали в полицейском музее среди изъятых у преступников предметов.