Каменный Иоанно-Златоустовский храм взамен обветшавшей деревянной церкви был построен на рубеже сороковых и пятидесятых годов XVIII века. Его освящение состоялось в 1751 году. Строительство церкви велось на средства купца Ивана Семеновича Аравина. Иоанно-Златоустовская церковь стала одним из первых в городе каменных храмов, возведенных после разрешения на возобновление каменного строительства.
В конце 80-х годов XVIII столетия к храму были пристроены колокольня и два придела в честь Тихвинской иконы Божией Матери и во имя святых мучеников Флора и Лавра и великомученика Димитрия Солунского. Жертвователями на их строительство стали представители одной из известных в то время купеческих фамилий Костромы -- братья Дмитрий, Алексей, Иван и Михаил Дурыгины. Старший из них, Дмитрий Петрович Дурыгин, в последней четверти XVIII века был городским главой и многое сделал для восстановления Костромы после опустошительного пожара 1773 года.
С 1867 по 1917 год - на протяжении 50 лет - настоятелем Иоанно-Златоустовского храма был протоиерей Стефан Смирнов, выдающийся представитель костромского духовенства, отец архиепископа Амвросия (Смирнова; 1874-1938) - видного иерарха Русской Православной Церкви XX столетия.
С 1917 по 1938 год - в самое трагическое время гонений на Церковь -настоятелем храма служил протоиерей Павел Князев (1868-1940), который неоднократно арестовывался органами ОГПУ и окончил свою жизнь в ссылке в Казахстане.
В 1929 году церковь во имя святителя Иоанна Златоуста, после закрытия и последующего разрушения Успенского кафедрального собора в Костромском кремле, стал кафедральным храмом города. В 1930-1932 годах здесь служил священномученик Димитрий (Добросердов), архиепископ Можайский, в те годы управлявший Костромской епархией. С 1932 по 1936 год управляющим епархией, который нес свое святительское служение при Иоанно-Златоустовской церкви, был священномученик Никодим (Кротков), архиепископ Костромской и Галичский, принявший мученическую кончину в 1938 году.
В 1944 году в Иоанно-Златоустовский храм была перенесена главная святыня Костромского края чудотворная Феодоровская икона Божией Матери, хранившаяся в этой церкви до 1964 года.
С 1959 по 1961 год в храме во имя святителя Иоанна Златоуста неоднократно совершал богослужения временно управлявший Костромской епархией архиепископ Дмитровский Пимен (Извеков; 1910-1990) впоследствии Патриарх Московский и всея Руси.
На протяжении XX века Иоанно-Златоустовская церковь - несмотря на неоднократные попытки властей оставалась одним из трех храмов Костромы, избежавших закрытия в годы гонений.
В настоящее время при Иоанно-Златоустовском храме действует воскресная школа для детей и взрослых, православное общество трезвости. В приходе совершают свое служение четыре священника и два диакона. С 1991 года настоятелем храма является протоиерей Валерий Бунтеев, секретарь Костромской епархии.