Малая Дмитровка – в целом очень интересная улица в истории застройки Москвы между кольцевыми трассами Бульварного и Садового колец, то есть между старейшими кольцевыми системами московских городских укреплений Белого и Земляного городов. Как и все улицы центра Москвы, сегодня застройка Малой Дмитровки включает значительное количество достаточно хаотичных вторжений различных периодов ХХ в. Тем не менее, сегодня в облике улицы значительную часть составляют городские усадьбы, имеющие достаточно старую основу допожарной Москвы, хотя их сегодняшнее архитектурное решение в основном сложилось в конце XIX и начала ХХ вв.
Сравнительно небольшая (неширокая) Малая Дмитровка сегодня уступает в общем впечатлении соседней «столичной» Тверской, хотя усадебный облик Малой Дмитровки – напоминание о том, что возможно, начальный отрезок Тверской до Пушкинской (Страстной) площади – первоначально (до XV в.) – часть именно Дмитровской дороги (через Новослободскую, Бутырку, Савеловское шоссе), а ответвление на Тверь и далее на Новгород сложилось позднее.
До Петра I Малую Дмитровку в основном занимали городские слободы, в частности – Слобода воротников – сторожей московских ворот, о которой сегодня напоминают Старопименовский и Воротниковский переулки. С XVIII в. Малую Дмитровку занимают городские усадьбы.