После гибели отца Ярополк предпринял попытку объединить под своей властью всю Русь. Он победил в междоусобной борьбе брата, Олега Древлянского, другого брата, Владимира Новгородского, заставил покинуть пределы страны и присоединил их земли к своим владениям, став верховным правителем Руси. Привлек к себе на службу печенежскую орду хана Илдеи. Заключил новый мирный договор с Византией. Вел дипломатические переговоры с Римом. По свидетельству Иоакимовской летописи, Ярополк дал христианам, жившим на Руси, “волю великую”, что вызвало недовольство язычников.
Дата рождения и мать Ярополка неизвестны. Впервые его имя упоминается в «Повести временных лет» в 968 году, когда во время набега печенегов на Киев княгиня Ольга заперлась в городе с 3 внуками, одним из которых был Ярополк.
Главным советником при молодом Ярополке был воевода Свенельд. В 975 году Олег Святославич убил на охоте сына Свенельдова, Люта. Оттого поднялась вражда между Ярополком и Олегом, говорит летописец, и постоянно подговаривал Свенельд Ярополка, стремясь отомстить за сына своего: «Пойди на своего брата и захвати волость его». В 977 году Ярополк пошел на брата своего Олега в Древлянскую землю. Олег вышел против него, и исполчились обе стороны. Но в битве Ярополк победил Олега, который погиб во время бегства. Ярополк горько переживал смерть брата, плакал над ним и говорил Свенельду: «Смотри! Этого ты хотел!» Когда похоронили Олега, Ярополк наследовал его волость.
В 980 году Владимир вернулся на Русь с варяжским войском. Сначала он отбил Новгород, затем захватил Полоцк и после двинулся на Киев. В окружении Ярополка оказался изменник, воевода Блуд, который вступил в сговор с Владимиром. Блуд уговорил Ярополка покинуть Киев и укрыться в укреплённом городе Родне на реке Рось. После длительной осады в Родне начался голод, что заставило Ярополка под нажимом Блуда вступить в переговоры с Владимиром. Когда Ярополк прибыл на переговоры к брату, два варяга «подняли его мечами под пазухи».
«Повесть временных лет» датирует гибель Ярополка и вокняжение Владимира 980 годом. Более ранний документ «Память и похвала князю Владимиру» (Житие князя Владимира от монаха Иакова Черноризца) приводит точную дату вокняжения — 11 июня 978 года. Из ряда хронологических соображений историки признают вторую дату более вероятной. Скорее всего, убийство Ярополка произошло именно 11 июня.
В 1044 году племянник Ярополка, Ярослав Мудрый, велел вырыть из могилы кости дядьёв Ярополка и Олега, крестить их останки (запрещённое христианскими канонами деяние) и перезахоронить их рядом с Владимиром в Десятинной церкви в Киеве.
Правление Ярополка — время дипломатических контактов с германским императором Оттоном II: русские послы посетили императора на съезде князей в Кведлинбурге в декабре 973 года. Согласно немецкой «Генеалогии Вельфов», родственник императора граф Куно фон Энингэн (будущий герцог Швабии Конрад I) выдал замуж свою дочь за «короля ругиев». По одной из версий, Кунигунда стала женой князя Владимира после смерти его супруги, византийской царевны Анны. Другая версия связывает помолвку дочери Куно с Ярополком.
С правлением Ярополка также связана чеканка первых найденных историками собственных монет Древнерусского государства, напоминающих арабские дирхемы — так называемые «псевдодирхемы Ярополка» (известно чуть более 10 экземпляров). Вместе с тем следует полагать, что ещё во времена Рюрика была потребность в чеканке монет.
По данным Никоновской летописи, к Ярополку приходили послы из Рима от папы. О симпатиях Ярополка к христианству сообщает известная по выпискам историка В. Н. Татищева Иоакимовская летопись.