Имя его начинает появляться в летописях с 1277 года, когда он сопровождал отца и брата Дмитрия в Орду, откуда они должны были принять участие в организованном ханом Менгу-Тимуром походе на непокорных кавказских ясов (аланов).Дмитрий повёз тело отца домой, а Константин Борисович пошёл с ханом Менгу-Тимуром на ясов, для чего Борис с сыновьями и был вызван в Орду. Константину Борисовичу после смерти отца достался Ростов, а Дмитрию — Углич, что стало причиной долгих семейных раздоров, то затухавших, то разгоравшихся с новой силой в течение 14 лет.
В 1293 году Андрей Александрович, князь Городецкий, заняв великокняжеский Владимирский престол, задался целью подчинить своей власти удельных князей, найдя верных себе помощников в лице князя Константина и князя Фёдора Ярославского; последним пришлось вступить в длительную борьбу с противниками великого князя Андрея.
Константин Борисович не гнушался призывать в помощь татар, тогда как Дмитрий занимал активную антитатарскую позицию. Первая серьёзная стычка между братьями чуть не привела к войне, но столкновение было предотвращено ростовским епископом Игнатием. В это время Ростовом, видимо, владел Дмитрий, поскольку Константин Борисович участвовал год спустя в походе городецкого князя. Андрея Александровича против великого князя владимирского Дмитрия Александровича и среди прочих городов Северо-Восточной Руси был сожжён Ростов.
Связи Константина Борисовича с татарами помогли ему снова получить Ростов после смерти (1285 г.) его двоюродного дяди углицкого князя Романа Владимировича, не оставившего наследников, т.к., явно с подачи Константина Борисовича, хан Тудан-Менгу распорядился дать ярлык на Углич Дмитрию Борисовичу, и тот вынужден был оставить Ростов, который сразу же занял Константин Борисович. Спустя 3 года Дмитрий, поддерживавший великого князя Дмитрия Александровича, выбил брата из Ростова и сослал его в Углич. Несмотря на то, что Константин Борисович поддерживал Андрея Александровича в его борьбе за великий стол, ему не удалось уберечь Углич от погрома и опустошения т. н. Дюденевой ратью, которую навёл (1293 г.) на Северо-Восточную Русь Андрей.
В том же году Дмитрий Борисович умер без наследников, и Константин Борисович снова стал ростовским князем, а в Углич отправил княжить своего сына Александра. В один год с Димитрием Борисовичем скончался великий князь Димитрий Александрович, и брат последнего Андрей уже законным порядком занял великокняжеский стол. Честолюбивый Андрей стремился, кажется, забрать в руки удельных князей, которые, в свою очередь, не хотели поступиться своими правами. Князья образовали два враждебных лагеря: в одном, с Андреем во главе, стояли прежние приверженцы его, Федор Ярославский и Константин Ростовский; в другом — Михаил Тверский, Даниил Московский и Иван Переяславский. На бурном съезде во Владимире, в 1296 году, в присутствии ханского посла, споры уладились, но это примирение было только кажущимся): Андрей вскоре всё-таки пошел на Переяславль.
В 1301 году, на Дмитровском съезде, князья опять рассуждали о спорных делах, и большая часть их примирилась, — не примирились только, почему-то, по известиям одних летописей, Иван переяславский и Михаил тверский, а по другим — Иван переяславский «заратися» еще с Константином ростовским; но «смири их владыка Семен».
После этого съезда летописи не заносят на свои страницы ничего из общественной деятельности Константина Борисовича ростовского: они отмечают только его семейные дела: смерть супруги его и вторичную его женитьбу. Константин Борисович скончался в орде в 1307 году.
Он женат был дважды. Первая супруга его, скончавшаяся в 1299 г., неизвестная нам ни по имени, ни по происхождению. Во второй раз Константин женился в орде у какого-то, как сказано в летописи, «Кутлукорткы». Дети у него были только от первого брака, а именно: Александр, Василий и, может быть, дочь, та княжна ростовская, на которой женился в 1297 году Юрий Данилович.