русский поэт и прозаик, литературный критик; отец писательницы М. В. Крестовской (в замужестве Картавцева) и скульптора И. В. Крестовского, дед художника Я. И. Крестовского. Учился в 1-й Санкт-Петербургской гимназии (1850-1857); под влиянием учителя словесности, переводчика и писателя В. И. Водовозова начал писать стихи и делать переводы. Учился на юридическом факультете Санкт-Петербургского университета (1857-1861). В 1857 г. опубликовал первые произведения. Отличался общительностью, был одаренным рассказчиком и декламатором, музицировал и рисовал; стал завсегдатаем литературных кружков, познакомился с Д. И. Писаревым, А. А. Григорьевым, Ф. М. Достоевским, М. М. Достоевским и многими другими писателями. Участвовал в различных периодических изданиях. В 1865-1866 гг. был членом-литератором комиссии по исследованию подземелий Варшавы, путешествовал по Волге (1867).
В 1868 г. вступил унтер-офицером в 14-й уланский Ямбургский полк. Выпустил «Историю 14-го уланского Ямбургского полка» (1873) и был переведен в гвардию (1874). По предложению Александра II составил «Историю лейб-гвардии Уланского Его Величества полка» (1876). В качестве журналиста, прикомандированного правительством к штабу действующей армии, принимал участие в русско-турецкой войне 1877-1878 гг. В 1880-1881 гг. секретарь при начальнике Тихоокеанской эскадры, с 1882 г. чиновник особых поручений при туркестанском генерал-губернаторе М. Г. Черняеве, в 1884 г. был причислен к Министерству внутренних дел. С 1892 г. до конца жизни был редактором газеты «Варшавский дневник». В 1857 г. в журнале «Общезанимательный вестник» опубликовал перевод оды Горация, рассказ в стихах «Офицерша», рассказ «Переписка двух уездных барышень». Очерк «Сплошь да рядом» и стихи поместил в журнале «Искра» (1859, 1861). Стихи, повести и рассказы, критические статьи печатал в журналах «Время» (1861), «Светоч» (1861), «Русское слово» (1861-1862).
Писал фельетоны для журнала «Модный магазин» (1862-1864) и газеты «Петербургский листок» (1864-1865), участвовал в журналах «Заноза» и «Оса» (1863), позднее очерки военного быта помещал в журналах «Заря», «Русский мир», «Нива», «Кругозор», «Всемирная иллюстрация». Во время русско-турецкой войны 1877-1878 гг. редактировал газету «Военно-летучий листок», писал корреспонденции для газеты «Правительственный вестник» и очерки для журнала «Русский вестник». Позднее очерки о Дальнем Востоке, Японии, Китае, Туркестане печатал в «Русском вестнике», выступал также в «Историческом вестнике», писал передовые статьи в газете «Свет» (1885-1892). Выпустил сборник стихов «Стихи» (тт. 1-2, Санкт-Петербург, 1862), принятый критикой неодобрительно. Некоторые стихотворения поэта стали популярными городскими романсами («Под душистою ветвью сирени», «Прости, на вечную разлуку»), баллада «Ванька-ключник» – известной народной песней. Переводил стихотворные произведения Анакреона, Алкея, Горация, Сапфо, римские элегии И. В. Гете, стихи Г. Гейне, Т. Г. Шевченко. Кроме того, его стихотворения «Владимирка» и «Полоса», часто приписываемые Н. А. Некрасову, – получили в народе статус революционных песен.
Автор либретто оперы Н. А. Римского-Корсакова «Псковитянка» по одноименной драме Л. А. Мея и оперы «Наташа, или Волжские разбойники» с музыкой К. П. Вильбоа. Прозаические произведения в жанре физиологического очерка издал в трех книгах «Петербургские типы», «Петербургские золотопромышленники», «Фотографические карточки петербургской жизни» (1865). Очерки военного быта издал в сборнике «Очерки кавалерийской жизни» (1892). Собранный при подготовке «Истории лейб-гвардии Уланского Его Величества полка» (1876) материал использовал в исторической повести «Деды» (отдельные издания 1875, 1885, 1891). Очерки о русско-турецкой войне, публиковавшиеся в журнале «Русский вестник», вошли в книгу «Двадцать месяцев в действующей армии (1877-1878)» (тт. 1-2, 1879).
Наиболее значительным произведением считается роман «Петербургские трущобы», написанный под влиянием и при поддержке Н. Г. Помяловского. Роман публиковался в журнале «Отечественные записки» (1864-1866), отрывки также в журнале «Эпоха» (1864), отдельным изданием вышел в 4-х томах (1867) и выдержал несколько переизданий. Антинигилистические романы «Панургово стадо» (опубликован в «Русском вестнике», 1869; отдельное издание Лейпциг, 1870) и «Две силы» (опубликован в «Русском вестнике», 1874) составили дилогию «Кровавый пуф. Хроника о новом Смутном времени Государства Российского» (тт. 1-4, 1875). Перу писателя также принадлежит роман-трилогия под условным названием «Жид идет»: «Тьма египетская» («Русский вестник», 1888, отдельное издание 1889); «Тамара Бендавид» («Русский вестник», 1889-1890, отдельное издание 1890); «Торжество Ваала» (не закончен; «Русский вестник», 1891). Умер в Варшаве, был похоронен на Никольском кладбище Александро-Невской лавры, затем перезахоронен на Литераторских мостках Волкова кладбища в Санкт-Петербурге.