До ссылки в Вятку у Герцена были тёплые отношения со своей кузиной Натальей Захарьиной. И после того, как Герцен попал в опалу и оказался в ссылке, у него начался роман с Натальей в письмах.
В ссылке Герцен сменил несколько квартир, самая известная из них находилась на улице Спасской. В молодости он много кутил, особенно летом 1835 года.
Тогда Герцен увлёкся Прасковьей Медведевой, женой одного из вятских чиновников. Муж был старше Прасковьи в два раза, и 25-летняя романтически настроенная девушка влюбилась в Герцена. Роман длился примерно месяц. После смерти мужа Прасковья хотела узаконить отношения с Герценом, но он к этому времени охладел к ней.
Герцен усилил переписку с Захарьиной и скоро понял, что на этот раз серьёзно влюблён в неё и, кажется, может добиться взаимности. Но общие родственники были против их брачного союза. Позже Герцен отправился во Владимир, где жила девушка, и буквально украл её, после чего они поженились.