«Чермный» на древнеславянском языке означает «красивый». Федор действительно был красавцем огромного роста. Родился он примерно в 1238 г. в семье смоленского князя Ростислава Мстиславовича. После смерти в 1240 г. на смоленский престол вступил его троюродный брат Всеволод Мстиславович. В 1249 г. Всеволод умирает бездетным, а на смоленский престол вступает старший сын Ростислава Глеб. Красавцу же Федору Ростиславичу в том же году был выделен ничтожный удел на востоке Смоленского княжества, с городом Можайском.
Около 1260 вступил в брак с Анастасией Васильевной(или Марией Васильевной), молодой ярославской княгиней, дочерью Василия Всеволодовича, но фактически управление Ярославским княжеством после смерти всех мужчин первой ярославской княжеской династии было в руках её матери Ксении. В начале 1260-х родились две их дочери, упомянутые в летописях, а в 1265 согласно легенде — сын Михаил.
В период с не ранее 1266 по 1276, возможно, пребывал в Золотой Орде, где, по легенде, его полюбила ханша Джиджекхатунь и благоволил хан Менгу-Тимур, они сватали свою дочь за него, несмотря на живую жену. Впрочем, Анастасия вскоре умирает, Фёдор пытается вернуться в Ярославль, но этому воспротивилась княгиня Ксения с боярами, объявившие князем малолетнего Михаила. Фёдор, оставшись в Орде, женится во второй раз, на дочери хана, в православии Анне, получив за неё большое приданое (36 городов) и большой почёт у монголов. Рождаются сыновья Давид и Константин, в то время как старший сын Михаил умирает в Ярославле. После этого Фёдор с семьёй отъезжает в Ярославль с ханским ярлыком на княжение.
В 1276 имя Фёдора впервые упоминается в летописи в связи с погребением великого князя Василия Ярославича. В 1277—1278 вместе с другими князьями участвует в походах Орды против осетин и волжских булгар.
В 1278 г. по указанию хана Менгу-Тимура князья Федор Чермный и Михаил Белозерский устроили карательную экспедицию в Волжскую Булгарию. По данным профессора Мифтахова они разрушили 40 городов и 600 селений. Арабские источники свидетельствуют об особой жестокости воинства Чермного и Белозерского.
В 1275 получает в наследство Можайск. В 1278—1279 в Смоленске умирают его братья Глеб и Михаил и Смоленское княжество переходит к Фёдору. В 1279—1281 годах он, предположительно, пребывает в Смоленске, а 1281—1292 годах — вновь в Орде, в том числе участвует в междоусобице Андрея и Дмитрия Александровичей, закончившейся разорением в 1281 году ряда русских городов ордынцами и русскими же. В 1285 безуспешно осаждает Смоленск его племянник Роман Глебович.
В 1293 году вместе с князем Андреем Александровичем Городецким участвует в походе татарской рати под предводительством золотоордынского полководца Дюденя (Тудана) в Северо-Восточную Русь. В результате этого похода были разорены 14 городов, в числе которых: Владимир, Суздаль, Юрьев, Переславль, Дмитров, Москва, Коломна, Можайск, Волок. В 1294 Фёдор получил от пришедшего к власти во Владимире Андрея Александровича Переяславль-Залесский, но Дмитрий Александрович отказался от великого княжения под условием возвращения ему Переяславля. Тогда Фёдор, уходя из города, сжёг его. В 1297 другой племянник Фёдора — Александр Глебович — «берёт лестью княжение смоленское», в 1298, а возможно и повторно в 1299, Фёдор пытается безуспешно силой вернуть город.
Князь умирает в 1299 году в Ярославле, приняв схиму. Глубина предсмертного покаяния является главным основанием его последующей канонизации. Впрочем, Е. А. Ермолин полагает, что князь лелеял планы крещения Орды. Ярославское княжение переходит к его сыну Давиду. Накануне присоединения Ярославля к Московскому государству, в 1463 году, архимандрит Христофор обрёл в ярославском Спасском монастыре мощи князя и его сыновей Давида и Константина, они были размещены в Спасо-Преображенском соборе монастыря. В 1467 году все трое были канонизированы. Это первые ярославские святые. В период с 1989 до 2011 года мощи ярославских чудотворцев находились в Федоровской церкви Ярославля, где сейчас остались только частички мощей. В настоящее время мощи покоятся в раке в новом Успенском соборе Ярославля.