Крюков канал был прорыт в 1719–1720 годах под руководством старшего подрядчика строительных работ Семена Крюкова, в честь которого и получил свое название. До 1780-х годов канал проходил от набережной Невы до реки Мойки. В 1782–1787 годах Крюков канал протянули на юг до реки Фонтанки, а берега одели в гранит. В те же годы через канал перекинули шесть типовых мостов. Они были деревянными трехпролетными балочными на каменных опорах с гранитной облицовкой, средний пролет — разводной подъемного типа.
Мост, открывшийся в 1785 году там, где Крюков канал пересекает реку Мойку, был сооружен по такому типовому проекту (имя автора проекта до нас не дошло).
В первые годы после открытия мост называли Конюшенным — по Набережной Конюшенной улице (такое наименование носила в XVIII левобережная набережная Мойки), затем — Канавским, Канальным и Канавным, по Крюкову каналу. В середине XIX века за мостом закрепилось название Тюремный — по городской тюрьме, расположенной рядом, в здании Литовского тюремного замка (здание до наших дней не сохранилось).
В марте 1919 года мост переименовали по имени большевика Матвеева Сергея Матвеевича – комиссара воинской части, убитого на Восточном фронте при ликвидации мятежа Чехословацкого корпуса.