Решив посвятить жизнь социалистическим идеалам, после окончания колледжа летом 1933 г. Ким едет в Австрию, в то время стоявшую на пороге фашистского переворота. Но предотвратить его уже было нельзя, и Филби женился на Л. Фридман, чтобы спасти боевую подругу от неизбежной расправы, перевез ее в Англию и развелся. Попробовал вступить в компартию, но, пока проходил проверку, был завербован советской разведкой.
По рекомендации знакомой, в начале июня 1934 г. он встретился в парке с важным человеком, который, по ее уверениям, мог его заинтересовать. После немногословного введения незнакомец предложил Филби стать советским агентом глубокого проникновения. Как потом выяснилось, вербовщиком был А. Дейч. С этого момента Ким порвал связи с компартией. Перед ним поставили задачу: попасть в британскую разведку Интеллидженс сервис (СИС) и разузнать как можно больше о ее планах и деятельности, касающихся СССР. По совету новоиспеченного агента, он привлек к работе своих друзей Г. Берджеса и Д. Маклейн. Сам Ким через некоторое время становится редактором журнала Ассоциации британских финансистов, симпатизировавшего нацистам. Это помогло ему сблизиться с немецким послом в Великобритании И. фон Риббентропом, который в недалеком будущем возглавит МИД Германии.
Филби продолжал встречаться с Риббентропом в Германии и сотрудниками немецкого посольства в Великобритании. Появились связи с германским министерством пропаганды Й. Геббельса.
Периодически Ким передавал советской разведке полезные политические новости.
Работа с министерством пропаганды длилась недолго, поскольку там отказались от услуг журнала, который представлял Филби. Его это не особенно расстроило — подоспело новое задание, связанное с Испанией.
Для советской разведки деятельность К. Филби была очень полезной. Ему же все это давалось психологически тяжело, поскольку он вынужден был проводить основную часть своего времени с теми людьми, которых ненавидел и, собственно, из-за чего стал советским агентом.
Предполагалось, что Филби в воюющей Испании займется не столько сбором данных о положении дел у мятежников генерала Ф. Франко, сколько расширит свои разведывательные возможности, чтобы впоследствии внедриться в британскую разведку. Ким работал в качестве военного корреспондента при генерале и обеспечивал Москву важной информацией о планах повстанцев, передвижении и вооружении их армии, об общей ситуации в стране. Его статьи о ходе испанского восстания попадают в поле зрения британской разведки, в результате чего Филби становится и ее доверенным лицом.