По преданию икона была привезена в Тамбов святителем Питиримом и первоначально поставлена на вратах города с юго-западной стороны. К 1692 году относится первое чудо от иконы. В чем именно оно заключалось, сведения не сохранились, но видимо в том, что иконы защитила город от внезапного нападения врагов.
Сам образ является точной копией Ильинско-Черниговской иконы, хранившейся в Соборном храме г. Бельска, который расположен недалеко от родины святителя Питирима — г. Вязьмы. Попав в Тамбов она постепенно приобрело наименование Тамбовской и стала отличаться от Ильинско-Черниговской тем, что по обе стороны от Богородицы появились изображения святой мученицы Евдокии и святого Алексия человека Божия, как предполагают это святые покровители родителей святителя.
Позже на месте, где первоначально находилась икона была сооружена Петропавловская церковь, она в 1778 году была перенесена на одноименное кладбище, а купцом Иваном Уткиным была сооружена каменная церковь в честь святого апостола первомученика архидиакона Стефана, с приделом святителя Димитрия Ростовского. Тамбовская икона теперь пребывала в новом храме в алтаре в левом приделе над жертвенником. Из-за того, что она была в алтаре, мало кто ее видел и постепенно стали забывать о таком образе Богородицы.
В конце XVIII века, пришел однажды в Архидиаконскую церковь неизвестный священник, который едва передвигал ноги. Служащим в церкви он рассказал, что он заштатный священник Калужской губернии и несколько лет уже страдает расслаблением ног и не может ходить. Возложив всю свою надежду на Царицу Небесную он просил исцеление. Года через три ему было во сне видение. Он увидел икону Божией Матери, лик которой он твердо запомнил, а также он услышал голос, который объявил ему: «Отыщи эту икону, молись перед ней, и ты получишь исцеление, а теперь тебе пока подается облегчение от твоей болезни». Проснувшись он почувствовал некоторую силу в ногах, встал сам и начал понемногу ходить. Желая получить полное исцеление, он решил отыскать увиденную во сне икону. Был в разных городах и селениях и, наконец, добрался до Тамбова. Здесь обошел все храмы, но не нашел того, что искал. Оставалось посетить лишь Архидиаконо-Стефановскую церковь, в которой осмотрев иконы взошел в алтарь и в левом приделе обрел то, что так долго искал. Священник упал на пол и долго не вставал, сделавшись как бы мертвым. Встав на ноги начал молиться, а затем приложился к иконе и тут же получил полное исцеление.
В 1820 году помещику Михаилу Николаевичу Петухову, жившему в Тамбове в сонном видении было приказано переставить икону в храме на более видное место. Петухов на собственные средства исправил и позолотил серебряную ризу на иконе, сделал киот, после чего икона была перенесена из алтаря и поставлена в киоте недалеко от правого клироса.
В 1835 году вместо старой тесной церкви был устроен трехпрестольный храм, прихожане просили тогдашнего правящего епископа Тамбовского и Шацкого Арсения (Москвина) правый придел храма освятить в честь Тамбовской иконы Божией Матери. Архипастырь исполнил их благочестивое желание, назначив в тоже время праздновать Тамбовской иконе одновременно с Ильинско-Черниговской 16/29 апреля.
Несколько позже этого события для Святого Образа была изготовлена сень у второго столба за правым клиросом, куда она и была перенесена. Под сенью, вокруг чудотворной иконы расположена другая, большая икона,с изображением на ней двух Ангелов, как бы держащих в руках своих образ Божией Матери. В 1910 году на эту большую икону, вместо бывшей до этого металлической ризы, от семьи купцов Алексеевых устроена сребропозлащенная риза. В 1892 году епископ Тамбовский и Шацкий Иероним (Экземплярский), в благодарность за исцеление от болезни глаз, увеличил на иконе венец над Ликом Богоматери и украсил ризу 14 топазами, а дочь его пожертововала на ризу аметистовое ожерелье. Тогда же тщанием Аристарха и Екатерины Болдыревых устроена на саму икону золотая риза, а для ношения Святой Иконы – серебряный, в роде футляра, оклад.
К особенностям Тамбовской иконы, по сравнению с начертанием Ильинско-Черниговской, относиться изображение предстоящих, справа – святого преподобного Алексия, человека Божия и слева – святой преподобномученицы Евдокии. Есть местное предание, что это – святые, имена которых носили родители святителя Питирима. Другую особенность составляет крест на ризе Божией Матери, в 1,5 вершка, серебряный, со святыми мощами разных святых. Он пожертвован дворянином Николаем Николаевичем Даниловым в 1891 году Крест этот перешел к жене Данилова от ее предков – Мерлиных, родоначальница которых, из княгинь Татарских, при святом Крещении получила его от своего крестного отца, одного из митрополитов Русской церкви.
В 1888 году по ходатайству жителей города установлен 16/29 апреля из всех церквей города к Тамбовской святыне крестный ход, который и совершался торжественно каждый год вплоть до 1918 года.
Сам храм, где пребывала икона в 1900 года по указу Священного Синода стал именоваться не Архидиаконо-Стефаниевским, а Богородичным.
В 1922 году в период изъятия церковных ценностей с иконы были сняты все драгоценности и золотая риза. Последнее упоминание о Тамбовской иконе Божией Матери относится к 1925 году. В годы советской власти она была утрачена. Но сохранился чудотворный список, который ныне пребывает в Покровском соборе г. Тамбова.