Деятельность Малиновского началась с 1901–1902 гг., когда он начал сближаться с прогрессивными рабочими кругами. Около 1906 г. он был избран секретарем Союза рабочих по металлу и принадлежал к числу талантливейших ораторов, выделился своим выступлением, кажется, на съезде врачей в 1909 г., после чего был арестован в конце года, и ему было воспрещено жительство в С.-Петербурге. Он переехал в Москву и в 1910 г. поступил на службу в охранное отделение за 50 руб. в месяц, обратил на себя внимание начальника этого отделения, который оценил его недюжинные способности. Он стал получать командировки за границу, где встретился впервые и с Лениным и его приверженцами, которые обратили внимание на его агитаторские способности. В то время он был еще меньшевиком, в кругах коих пользовался огромной популярностью, его называли даже “русским Бебелем”. В 1912 г., в январе, Малиновский был командирован в Париж на социал-демократическую конференцию в числе других агентов охранных отделений. Он явился на эту конференцию как видный деятель в рабочем движении от Союза металлистов. Здесь он себя проявил приверженцем партии большевиков-ленинцев и сразу занял видное положение, подкупив Ленина своим рассказом, что он лишь постепенно и после самого серьезного размышления и наблюдения решил перейти от меньшевиков к большевикам. На конференции он был избран в Центральный Комитет партии и этим комитетом был намечен в Четвертую Государственную думу по предложению Ленина. Таким образом, первая мысль о проведении Малиновского в Думу принадлежала Ленину.
По возвращении своем в Москву Малиновский доложил начальнику охранного отделения о намерении Центрального Комитета партии провести его в Думу. Департамент полиции ухватился за эту мысль и, доложив министру внутренних дел, решил оказать, со своей стороны, содействие к проведению Малиновского в Думу. Таким образом он и прошел в Думу. Будучи уже избранным в члены Думы, Малиновский в конце октября 1912 г. ездил по поручению Ленина в село Зуево (на границе Владимирской губернии) под вымышленным именем Эйвальда пригласить депутата от рабочих Самойлова на конгресс в Краков. Состоя членом Думы, Малиновский произносил речи, частью составленные им самим, частью Лениным, Зиновьевым и другими лицами. Но раньше произнесения речи корректировались директором Департамента полиции. Таким образом, происходила какая-то игра между Лениным и департаментом, причем роль последнего была чисто провокаторская, тогда как Ленин и не подозревал, что Малиновский служит в охранке. Когда он, по моему настоянию, оставил Думу и уехал за границу, то в печати за границей распространились слухи о настоящей роли Малиновского. Приехав в Австрию, он явился к Ленину, и, несмотря на противоречивые объявления причин своего ухода из Думы, он был оправдан партийным судом, а появившиеся в печати и в обществе слухи о провокаторстве Малиновского были опровержены самим Лениным»