Находясь за границей, Сталин пишет работу "Марксизм и национальный вопрос", которую Ленин очень высоко оценивал. Ленин писал об этой работе: "В теоретической марксистской литературе... основы национальной программы с.-д. уже были освещены за последнее время (в первую голову здесь выдвигается статья Сталина)" [В. И. Ленин. Сочинения, т. XVII, изд. 3-е, стр. 116.]. Работа Сталина "Марксизм и национальный вопрос" явилась крупнейшим выступлением большевизма по национальному вопросу на международной арене до войны. Это была теория и программная декларация большевизма по национальному вопросу. Резко и сильно в этой работе были противопоставлены два метода, две программы, два мировоззрения в национальном вопросе -- II Интернационала и ленинизма. Сталин вместе с Лениным разгромил оппортунистические взгляды и догмы II Интернационала по национальному вопросу. Лениным и Сталиным была разработана марксистская программа по национальному вопросу. В своей работе Сталин дал марксистскую теорию нации, сформулировал основы большевистского подхода к решению национального вопроса (требование рассматривать национальный вопрос как часть общего вопроса о революции и в неразрывной связи со всей международной обстановкой эпохи империализма), обосновал большевистский принцип интернационального сплочения рабочих.
23 февраля 1913 года Сталин был арестован на вечеринке, устроенной Петербургским комитетом большевиков в зале Калашниковской биржи. На этот раз царское правительство высылает Сталина в далекий Туруханский край на четыре года. Сталин вначале живет в станке (в небольшом поселке) Костино, а затем, в начале 1914 года, царские жандармы, опасаясь нового побега, переводят его еще севернее -- в станок Курейка, к самому Полярному кругу. Здесь он проводит 1914, 1915 и 1916 годы. Это была самая тяжелая политическая ссылка, какая только могла быть в глухой сибирской дали.
Летом 1914 года началась империалистическая война. Партии II Интернационала позорно изменили пролетариату, перешли на сторону империалистической буржуазии. Только Ленин, большевики остались верны боевому знамени интернационализма, только партия большевиков сразу же и без колебаний подняла знамя решительной борьбы против империалистической войны. Отрезанный от всего мира, оторванный от Ленина и партийных центров, Сталин занимает ленинскую интернационалистскую позицию по вопросам войны, мира и революции. Он пишет письма Ленину, выступает на собраниях ссыльных большевиков в селе Монастырском (1915 г.), где клеймит позором трусливое и предательское поведение Каменева на суде над большевистской "пятеркой" -депутатами IV Государственной думы. Он приветствует (1916 г.) вместе с группой ссыльных большевиков легальный большевистский журнал "Вопросы Страхования", указывая, что задачей журнала является приложить "все усилия и старания к делу идейного страхования рабочего класса нашей страны от глубоко развращающей, антипролетарской и в корне противоречащей принципам международности проповеди гг. Потресовых, Левицких и Плехановых".