В конструкции пистолета использована популярная схема немецкого «Вальтер» РР. Автоматика действует на основе отдачи свободного затвора-кожуха, полностью охватывающего ствол. Возвратная пружина затвора надевается непосредственно на ствол. Для перезаряжания вручную на затворе в задней части с двух сторон сделана насечка. Выбрасыватель смонтирован открыто в пазу затвора-кожуха сверху справа, позади окна затвора. Ударный механизм — куркового типа, с открытым курком и двуперой боевой пружиной, расположенной в рукоятке позади магазина. Нижний изгиб боевой пружины служит защелкой магазина. Курок имеет боевой и предохранительный взводы. Спусковая тяга имеет на конце рычаг взвода, служащий также разобщителем. Наличие специального зуба в конструкции курка позволяет вести стрельбу самовзводом. Спуск — с предупреждением. В пистолетах первых выпусков спусковой крючок имел слишком большой свободный ход, и его «выбор» при скоростной стрельбе приводил к значительному сбиванию наводки. Со временем этот недостаток был устранен. Флажковый предохранитель, расположенный в тыльной части затвора слева, в верхнем своем положении одновременно запирает курок и сцепляет затвор с рамкой. По сравнению с исходным «Вальтер» РР, предохранитель ПМ значительно усовершенствован его действие надежнее, а поворот при выключении сверху вниз более естественен для работы кисти руки. Выключение предохранителя можно производить большим пальцем руки, удерживающей оружие, т. е. пистолет может «управляться» одной рукой.
Простейшие прицельные приспособления размещены на затворе и рассчитаны на дальность стрельбы до 50 м. Однорядный магазин на 8 патронов размещается в рукоятке. Боковые окна в корпусе магазина позволяют судить о его наполненности. По израсходовании патронов подаватель магазина поднимает затворную задержку. Выступ затворной задержки служит отражателем при выбросе гильзы. Наклон рукоятки — 102 градуса. Пластиковые щечки рукоятки представляют собой единую деталь и крепятся к рамке винтом. На левой стороне рукоятки внизу, почти заподлицо со щечками укреплена скобка для крепления ремешка. Конструкция ПМ включает 25 деталей.
Носится пистолет в кожаной поясной кобуре с клапаном, застегиваемым ремешком на шпенек, карманом для запасного магазином, двумя скрытыми петлями ношения и петлей для протирки. Имеется особый ремешок, предотвращающий потерю пистолета. Кобура ПМ представляет собой вполне традиционный тип, сложившийся еще до второй мировой войны. Отделка пистолетов безбликовая, коричневой или черной окраски.