Родился Алексей Константинович в Петербурге в знатной дворянской семье. Родители его разошлись сразу после рождения сына. Детские годы прошли в имениях матери и позже дяди на Северной Украине. Получил хорошее домашнее образование.
В 1834 был зачислен в Московский архив министерства иностранных дел, затем был на дипломатической службе в Германии, в 1843 получил звание камер-юнкера. Много ездил по России, бывал за границей. В 1840-е начал работать над историческим романом «Князь Серебряный». Окончил его в 1861. В этот же период написал ряд баллад и лирических стихотворений. В 1854 вместе со своими двоюродными братьями Жемчужниковыми создал сатирическую литературную маску Козьмы Пруткова и сборник его сочинений.
Во время Крымской войны Толстой поступил на военную службу и был назначен флигель-адъютантом. Однако, не испытывая особой тяги к службе, Толстой в 1861 подал в отставку и поселился в своем имении под Петербургом. В 1866-1870 опубликовал историческую трилогию, включавшую трагедии «Смерть Иоанна Грозного», «Царь Фёдор Иоаннович», «Царь Борис».
Скончался 28 сентября 1875 года в селе Красный Рог Черниговской губернии от случайной передозировки лекарства.
