В 1817 году в этом месте был наведен деревянный плашкоутный мост через реку Крестовку. В 1827 году по проекту инженера П.П. Базена здесь соорудили постоянный деревянный пятипролетный мост ригельно-подкосной системы. В таком виде он простоял более ста лет.
За время своего существования переправа неоднократно ремонтировалась в дереве и меняла названия. Сначала мост назывался Крестовский, затем Каменно-Крестовский (1849–1875 годы) и Малый Крестовский (1860–1920-е годы). В 1920-х годах за мостом закрепилось его современное название — Мало-Крестовский.
В 1962 году на месте старой переправы по проекту инженера Ю.Л. Юркова и архитектора Л.А. Носкова соорудили однопролетный железобетонный мост двухшарнирной арочной системы. Новый Мало-Крестовский мост стал одним из ярких примеров мостовой архитектуры Ленинграда того времени.