Современники называют А.А. Карзинкина заядлым театралом. Он неплохо знал жизнь театра и его деятелей; в частности, дружил с К.С. Алексеевым-Станиславским. Регулярно посещал театр и оперу, участвовал в постановках Алексеевского кружка, организовал даже собственный домашний театр в особняке на Покровском бульваре. Последнее отчасти было данью московской моде: на рубеже веков многие купцы, по образцу Мамонтовых и Алексеевых, увлеклись театральными постановками на дому. Женой Александра Андреевича стала прима-балерина московского Большого театра красавица итальянка Аделина Джури (сценическое имя — Аделаида). В этом браке родилась дочь — дитя любви, — названная в честь матери и покойной сестры Александра Андреевича Соней — Сонюшей.
Карзинкин любил и ценил живопись. Время от времени он покупал картины знаменитых мастеров, но не пытался составить коллекцию или учредить галерею, как, например, те же Третьяковы. Так, будучи в Петербурге, он приобрел на академической выставке большой этюд И.И.Шишкина с лесной чащей.
Не став «галеристом», Александр Андреевич получил ценный опыт, который ему очень и очень пригодится… впрочем, об этом — ниже.
Но более всего Александра Андреевича привлекал мир печатного слова.
Человек традиционной культуры, Карзинкин не представлял себе жизнь без основы основ — книги. В зрелые годы его духовная, религиозная книжность дополнилась книжностью светской, притом весьма высокого уровня. Знакомые называют Карзинкина любителем литературы, особенно стихов. Так, В.Н. Муромцева-Бунина пишет: «После обеда Ян (дружеское прозвище И.А.Бунина. — А.Ф.) читал свои стихи. Александру Андреевичу понравился больше всего „Берег“, мне было приятно: мы сошлись во вкусах. Я всегда ценила его тонкое понимание стихов». Книги были настоящим увлечением Александра Андреевича. П.П.Муратов вспоминает: «Шкафы огромной библиотеки тянулись из комнаты в комнату. Карзинкин гордился тем, что у него была лучшая библиотека в России по истории Французской революции. Он собирался пожертвовать ее Московскому университету». Когда Павел Павлович спросил Карзинкина, что именно заставляет его интересоваться этой эпохой, то «со всегдашней скромностью своей он (Карзинкин. — А.Ф.) несколько смутился и как бы шепнул, по привычке своей, подняв палец и блеснув очками: „Страшное время, интересное время. Узнается человек-с“».
Карзинкин сам был крупным издателем просветительского направления. В дневнике И.А. Бунина от 20 декабря 1902 года содержится запись: «Карзинкин издал мои „Новые стихотворения“». А в 1914 году он стал соиздателем журнала «София». Кроме того, Александр Андреевич и сам регулярно вносил в науку солидный вклад. Его перу принадлежат книги и многочисленные статьи по нумизматике, а также работы, посвященные русским средневековым медалевидным знакам.