Парк получил своё название по озеру, долгое время существовавшему на этом месте. Озеро отличалось чистой водой и возможностью рыбной ловли. История парка началась с 1829 года, когда берега озера отделали уступами, обложили дёрном и аллеи обсадили растительностью. В 1847 году парк обнесли чугунной решёткой. Со временем мелкий водоём заболотился и загрязнился, что сопровождалось неприятными запахами. Городскими властями было принято решение засыпать озеро, что делалось постепенно. В 1889 году оно было окончательно засыпано. Оставшиеся после неё зелёные насаждения стали основой парка, названного Николаевским сквером (Ленинский садик, Университетский сад).
Известно, что в конце XIX века парк служил одним из основных мест гуляний казанцев, которых привлекала играющая по вечерам музыка. В парке находился ресторан Ожегова, павильоны фотографий Вяткиной. Летом функционировал фонтан, установленный в 1894 году, зимой на месте фонтана заливался каток. В 1925 году на катке парка «Чёрное озеро» начал культивироваться хоккей с мячом. Тем самым, начинается история казанского хоккейного клуба «Динамо».
В 1927 году парк «Чёрное озеро» был передан спортивному обществу «Динамо» (спортивно-массовому подразделению НКВД АТССР) на 12 лет на безвозмездной основе. По истечении этого срока все сооружения были переданы горкомхозу. В 1930-е годы у выхода из парка к улице Лобачевского установили «Арку влюблённых» («Арку вздохов»), которая, по распространённому мнению, обладает уникальными акустическими свойствами. В 1970-х годах в парке была построена уникальная детская игровая площадка в виде деревянной крепости. Была серьёзно повреждена пожаром и снесена в середине 1990-х годов. Постановлением Кабинета Министров РТ № 626 от 10 ноября 2002 года городской сад «Чёрное озеро» был включён в государственный охранный реестр недвижимых памятников архитектуры и градостроительства республиканского значения. Сильный ураган, прошедший в 2007 году, повалил несколько деревьев в парке. На их месте разбили клумбы.
Сейчас парк «Чёрное озеро» является популярным местом отдыха горожан. Близость крупных учебных заведений привлекает в парк молодёжь. В парке «Чёрное озеро» регулярно проводятся различные мероприятия. Во время проведения мероприятий работают игровые площадки и выставки. В парке находятся качели, горки, большое количество скамеек, и одноимённое кафе.