Сад получил своё название от Никольского морского собора и изначально располагался только к югу от него — у канала Грибоедова. В 1873 году с северной стороны собора, на месте пустующей площади, по предложению купца О. Тупикова был разбит сквер. Император Александр II, присутствовавший на его открытии, пожелал, чтобы новый сквер стал частью Никольского сада и был открыт для всех желающих.
Согласно городской легенде, Тупиков согласился разбить сквер на собственные средства при условии, что ему достанутся камни, которыми ранее была вымощена площадь. Для каких целей купцу понадобились эти камни — неизвестно.