В 1810 году Оленин написал проект устава библиотеки. Отредактированный Сперанским проект получил силу закона под названием «Положение о управлении Императорской Публичной библиотекою» с определением основных функций ее — хранение книжных фондов, их классификация, обслуживание читателей.[118] Первоочередной задачей своей Оленин счел привлечение в библиотеку широко образованных сотрудников. Ими стали выдающиеся деятели культуры того времени: поэт и переводчик Н. И. Гнедич, лингвист А. Х. Востоков, знаменитый баснописец И. А. Крылов, библиограф В. С. Сопиков, перу которого принадлежал «Опыт российской библиографии» — труд, не утративший значения и в настоящее время. Позднее, в разные годы в библиотеке работали поэт А. А. Дельвиг, писатель М. Н. Загоскин, историк античной Греции акад. М. С. Куторга, специалист по истории Кавказа, член-корреспондент Академии наук М. Ф. Броссе и др. Привлечение писателей и ученых к работе в библиотеке способствовало преобразованию ее и превращению в один из крупнейших культурных центров России.
Другой сложнейшей задачей, возникшей сразу же перед Олениным, было создание подлинно национальной библиотеки. Дело в том, что книжное собрание, на основе которого создавалась библиотека, состояло в основном из иностранных изданий. Фонд же русской книги был ничтожно мал. Поэтому с 1811 года Оленин сумел обеспечить получение библиотекой обязательных экземпляров всех книг, выходивших в России. Комплектование отдела русской книги он поручил своему другу, знаменитому баснописцу, драматургу и поэту И. А. Крылову.
Правительством было принято решение об открытии Публичной библиотеки в 1812 году, однако военные события вынудили отложить это намерение. И торжественное открытие состоялось 2 (14) января 1814 года. На открытии среди приглашенных, которых было более 200 человек, находились поэт Г. Р. Державин, художник О. А. Кипренский, филолог А. X. Востоков, архитектор В. П. Стасов и др.
Торжественный акт начался краткой речью директора библиотеки А. Н. Оленина, после чего последовал доклад сотрудника библиотеки, известного литератора и переводчика Н. И. Гнедича «О причинах, замедляющих успех нашей словесности», направленный против увлечений иностранными обычаями и иностранной литературой, распространенных в среде писательской и светской. В заключение знаменитый И. А. Крылов, ставший в это время также сотрудником библиотеки, прочел свою басню «Водолазы».[119] Так императорская Публичная библиотека в Петербурге (ныне Российская национальная библиотека) начала свою деятельность, которая, продолжаясь до наших дней, вносила и вносит огромный вклад в культурную жизнь страны.