Первым владельцем усадьбы был граф Владимир Григорьевич Орлов, один из пяти знаменитых братьев Орловых, трое из которых (Григорий, Алексей и Федор) приняли участие в заговоре 1762 года, возведшем на престол Екатерину II. В середине 1770-х годов, граф решил поселиться в Семеновском, дав ему название Отрада.