Глухая четырехугольная башня долго не имела особого имени и называлась «глухой», «малой», «четырехугольной», «другой от Авраамиевских ворот». Название Зимбулка получено примерно с середины ХIХ века. Происхождение названия составляет одну из еще неразгаданных тайн Смоленской крепости. Некоторые исследователи высказывали предположения, что её необычное название произошло от прозвища «Зимбули», которое носил один из жителей Вяземского уезда, трудившийся на строительстве крепости, либо участвовавший в её обороне в начале XVII века.
Декор башни отличается оригинальностью. Её углы не имеют полуколонок – пилястр. Но зато в своей нижней части эта башня имеет облицовку, состоящую из двух рядов белого камня. На внешней стороне она проходит непосредственно над валиком. Подобная облицовка есть и на соседних пряслах стены. Причем имеется она как на внутренней стороне, так и на внешней. Пояс из белокаменных блоков начинается от проездной арки у Никольских ворот и обрывается у Долгочевской башни.
В начальный период обороны Смоленска от войск Речи Посполитой гарнизоном этой башни командовали Кузьма Ильищев и посадский человек Роман Березнев. Под их руководством, согласно «росписи Шеина» находилось «к наряду, на подъем, и по городу по стене Воровской полусохи 38 человек».
К концу XVII века, согласно «смете Гура Вахрамеева» на внешней кладке башни от верхнего яруса до «городовых зубцов» прошли две «розселины».
В 1706 году перед башней с внешней стороны было возведено земляное укрепление. Рядом с башней, справа от неё в толще стены имеется «форточка» – проход, образовавшийся на месте одной из печур подошвенного боя.
В начале XX века башня была отремонтирована. Небольшие вертикальные трещины, проходившие по её стенам, заделали, а сверху она была стянута железными связями. Её нижний ярус использовался как склад строительных материалов. Однако, из-за отсутствия крыши, вода от дождей и таявшего снега застаивалась в башне, что способствовало образованию сырости и плесени. Это, в свою очередь, вело к разрушению кладок стен и фундамента, как самой Зимбулки, так и соседних прясел стены. В 1920-х годах на ней была устроена железная крыша, но во время Великой Отечественной войны её сняли оккупанты. Деревянная крыша на Зимбулке появилась только в 1980-х годах во время масштабной реставрации крепостной стены.