Сыма Цянь происходил из семьи потомственных историографов. Он был сыном придворного астронома Сыма Таня, посвятившего жизнь собиранию исторических материалов. Умирая, Сыма Тань завещал сыну довести до конца его труд. Сдав государственные экзамены, Сыма Цянь сделался придворным чиновником. По долгу службы он сопровождал У-ди в его многочисленных поездках по стране, накопив за время этих путешествий множество наблюдений, которые впоследствии использовал при создании своего труда. В 104 г. до н. э. Сыма Цянь приступил к написанию многотомного сочинения по истории Китая, над которым трудился более 10 лет.
Сыма Цянь был современником многих описываемых им событий. Многое из того, о чем он писал, он видел сам, со многим специально знакомился, когда приступал к написанию соответствующей главы.
Труд Сыма Цяня, названный им «Ши цзи» («Исторические записки»), состоит из 130 глав, расположенных по пяти отделам. «Исторические записки» последовательно излагают историю Китая с древнейших времен до правления У-ди (140—87) включительно. Кроме летописи событий, расположенных по царствованиям, и биографий выдающихся людей «Исторические записки» включают отдельные трактаты по вопросам культуры и быта, астрономии, географии, хронологии, генеалогии. Исключительный интерес представляют специальные экономические разделы, дающие обстоятельные сведения по сельскому хозяйству, налоговому обложению, торговле и другим вопросам. Ценные материалы по социально-экономическому строю имеются и в отделе биографий. Ряд глав «Исторических записок» посвящен описанию народов, живших за пределами Китая, в том числе народов Средней Азии.
Хотя труд Сыма Цяня и отражал в целом идеологию господствующего класса, однако личные взгляды Сыма Цяня далеко не всегда соответствовали требованиям конфуцианцев. Иногда Сыма Цянь в своем труде дает собственную оценку событий, расходящуюся с конфуцианской трактовкой. Во многих местах «Исторических записок» чувствуются симпатии автора к народным массам, в биографиях ряда представителей господствующего класса проскальзывает ироническое отношение к описываемым событиям. Сыма Цянь реалистически изображает придворную жизнь, не затушевывая ее темных сторон, описывая придворные интриги, жестокие расправы, продажность чиновников.
«Исторические записки» Сыма Цяня оказали огромное влияние на развитие исторической мысли в Китае. Их стиль и метод изложения стали предметом ревностного подражания.
В последующем времени китайские исторические труды строились по образцу «Исторических записок», в том числе труд второго замечательного ханьского историка Бань Гу.