Мечтая об образовании для сына, мать много работала, и в 1888 г. Иосиф поступил в Горийское духовное училище. В течение 4 лет обучения Сосо был первым учеником. Но и здесь детей учили с позиции силы, и он, маленький и тщедушный, с покрытым оспинами лицом, со сросшимися двумя пальцами левой ноги и начавшейся вследствие ушиба атрофией плечевого и локтевого сустава левой руки, рос болезненно гордым и вызывающе грубым, как это часто бывает с детьми униженными, имеющими физические недостатки. В 1894 г. по окончании училища Сосо поступил в Тифлисскую духовную семинарию, но и здесь педагогика сводилась главным образом к наказаниям. В это время в семинарию проникли марксистские идеи, к которым приобщился и юный Джугашвили, став втайне от всех посещать марксистские диспуты. С этого момента в его жизнь вошла такая черта, как двоедушие. Тогда же Сосо чуть не стал поэтом: в журнале «Иверия» были опубликованы семь его стихотворений. У него появился любимый литературный герой – Коба, грузинский Робин Гуд из романа Казбеги «Отцеубийца». Это имя стало впоследствии на долгие годы партийной кличкой Сосо. Именно тогда в его характере, и без того скрытном, начали проявляться мстительность, неуемные вспышки гнева, стремление к утонченным издевательствам. Его стали бояться даже физически сильные, которых он использовал в борьбе со своими врагами. Друзей у него не было – он хотел командовать другими.
Сосо, теперь уже Коба, стал руководить марксистскими рабочими кружками, вступил в социал-демократическую организацию «Месаме-Даси», и в 1899 г. его исключили из семинарии. Он устроился на работу наблюдателем-вычислителем в обсерваторию, где прятал нелегальную литературу и листовки Российской социал-демократической рабочей партии (РСДРП). Коба сразу встал на позиции Ленина, приняв его тезис, что партия – это боевая, законспирированная, строящаяся на беспрекословном подчинении приказам и жесткой дисциплине организация, стоящая целиком на позициях марксизма и ставящая своей целью революцию. В 1901 г. в Тифлисе произошли первые кровавые столкновения рабочих с полицией. После этого в городе начались обыски и аресты. Искали и Кобу, но он успел бежать и на некоторое время скрылся в Гори, затем, уже будучи на нелегальном положении, вернулся в город и был направлен комитетом партии в Батум. Там Коба возглавил местную партийную организацию, которой руководил довольно деспотично. Уже тогда ходили слухи о его самоуправстве, нарушениях дисциплины, интригах, клевете на товарищей и даже доносах в полицию на своих соперников.