Вскоре после победы Маккарти на республиканских праймериз стало окончательно ясно, интересы каких социальных слоёв он будет представлять. В сентябре 1946 года Маккарти встретился с полковником Маккормиком, владельцем "Чикаго трибюн", ранее одним из лидеров комитета "Вначале Америка". Маккормик поддержал выдвижение Маккарти в сенаторы и призвал его к борьбе против инфильтрации в страну подрывных и враждебных американскому народу групп. Сам Маккарти уже на республиканском конвенте, одобрившем его кандидатуру, сказал: "работа сенатора Соединённых Штатов сейчас в десять раз важнее, чем в прошлом, из-за проникновения иностранных идеологий в нашу столицу". Таким образом, Джо Маккарти, ещё до появления в сенате США, позиционировал себя как выразителя интересов американских патриотов. Впрочем, это были и его собственные интересы, о чём свидетельствовала и его биография.
Победа на праймериз от республиканской партии практически гарантировала Маккарти избрание в сенат, поскольку демократы имели гораздо меньший электоральный базис в Висконсине. Его соперником от демократической партии был Говард Макмюррей, бывший "нью-дилер" и член законодательного собрания штата. Избирательную кампанию Маккарти вёл тщательно, стараясь избегать каких-либо досадных случайностей. На одном из предвыборных митингов в сельской глубинке ему был задан вопрос: каков его образовательный уровень и политический опыт по сравнению с оппонентом? Маккарти не стал заострять внимание на том, что он сам получил высшее образование, и весьма неплохое, а ответил: "Я всего лишь фермер, а не профессор". Через неделю в его рекламных объявлениях в сельских газетах появилась фраза: "Нам нужны фермеры в Вашингтоне, сейчас там слишком много профессоров".
На состоявшихся в ноябре выборах Маккарти получил 620, 430, а Макмюррей 378, 772 голосов. Он победил в 70 округах штата из 73.
3 января 1947 года Маккарти принёс присягу как сенатор США.
Только что избранным членам сената, по негласным законам этого учреждения, не полагалось слишком часто выступить с речами или предложениями. Джозеф Маккарти не стал нарушать этого неписаного правила. Он принимал участие в работе объединённого комитета по строительству, комитета по банкам и валюте; знакомился с коллегами; охотно откликался на предложения посетить те или иные мероприятия. Маккарти голосовал против продления рационирования продуктов; предложил поправку к закону о контроле над ценами на сахар, которая уменьшила срок его действия с 12 до 6 месяцев. В марте 1947 года он, вместе с другими сенаторами, аплодировал выступлению президента Трумэна и поддержал его просьбу о выделении средств Греции и Турции для борьбы с коммунистами (этот план связывался с именем тогдашнего министра обороны США Джеймса Форрестола). Маккарти голосовал против крупных общественных проектов; критиковал систему федеральной помощи образованию; поддержал закон Тафта-Хартли. Он также участвовал в работе подкомитета, созданного комитетом по военным делам для слушаний по апелляции группы немецких военнослужащих, осуждённых за расстрел американских военнопленных в Малмеди (Бельгия) во время Второй мировой войны.