По выражению летописца, был добр, милостив нравом, богобоязлив.
Владимир Мономах, ставший в 1113 году великим князем киевским, в 1114 году по смерти сына Святослава сделал Ярополка переяславским князем.
Как переяславский князь Ярополк участвовал в многочисленных походах против половцев, в 1116 году вместе с войсками отца он выступил против минского князя Глеба. Летописи говорят, что все население города Друцка было выведено им в южные переяславские земли. Ярополк поддерживал хорошие отношения с престарелым отцом, который часто доверял ему командовать войсками в войнах с половцами, вместе со старшим братом Мстиславом. В 1125 году Ярополк отразил нападение половцев на Переяславское княжество в битве у Полкостеня.
Ярополк стал великим князем киевским в 1132 году после смерти старшего брата — Мстислава. В момент вокняжения ему было уже 49 лет, преклонный по тем временам возраст. Под его прямым контролем находился только Киев с окрестностями. Смелый воин и способный полководец, Ярополк был слабым политиком, не сумевшим остановить распад государства на отдельные княжества.
Яблоком раздора стала родовая столица Мономаховичей — Переяславское княжество. По сложившейся практике на переяславский престол обычно садился старший в роду. После перехода Ярополка на стол в Киеве, согласно лествичному праву оно должно было достаться старшему после Ярополка среди потомков Мономаха — его младшему брату Вячеславу. Однако, вероятно по уговору с Мстиславом Великим, Ярополк по своём переходе из Переяславля в Киев перевёл на своё место его сына Всеволода Мстиславича. Младшие Владимировичи Юрий и Андрей, не без оснований, увидели в этом шаге намерение Ярополка сделать Мстиславичей своими наследниками, и Юрий выгнал Всеволода из Переяславля. Ярополк попытался погасить конфликт и перевел в Переяславль из Полоцка другого сына Мстислава — Изяслава. Этот шаг оказался ошибочным: в Полоцке начался мятеж, к власти вернулись изгнанные потомки Всеслава-«чародея», и княжество обособилось от Киева. Поскольку и кандидатура Изяслава не устроила Юрия, переяславским князем в итоге стал «законный» наследник — Вячеслав Владимирович. Изяслав Мстиславич переместился в Туров.
Однако Вячеславу не нравился Переяславль, стоявший на пути всех половецких набегов по левому берегу Днепра. В 1134 году он вернулся в Туров, отняв его у Изяслава. Последний был недоволен. Ярополк вновь попытался произвести передел столов: он предложил Юрию Переяславль, но с условием, что тот отдаст Изяславу Ростов. Однако Юрий удержал за собой большую часть Ростовского княжества. Оскорбленный Изяслав ушёл в Новгород к брату Всеволоду и заключил союз с черниговскими князьями, которые, после отказа Олега и Давыда Святославичей искать киевского престола, оказались вне круга претендентов на верховную власть в Руси и искали любой возможности изменить текущее положение вещей. Началась война.
В конце 1134 года Ярополку удалось договориться с Изяславом, отдав ему Волынское княжество; князя волынского Андрея Владимировича Доброго он посадил править Переяславлем. Однако война с черниговцами и их союзниками половцами не прекращалась, они вторгались за Днепр и опустошали Киевскую область. Нерешительность великого князя и его натянутые отношения со всеми родственниками усугубляли ситуацию. В следующем году Ярополк был разбит на р. Супое войсками Всеволода Ольговича и по миру согласился уступить ему Курск и Посемье, которыми за 8 лет до этого Всеволод расплатился с Мстиславом Великим за невмешательство того в спор за черниговское княжение между Всеволодом и его дядей Ярославом Святославичем. Ослаблением авторитета киевского князя воспользовались новгородцы: в 1136 году они выгнали племянника Ярополка, Всеволода Мстиславича, отложились от Киева и провозгласили «вольность во князьех».
Последний раз потомки Мономаха объединились в 1138 году, когда Всеволод Ольгович вновь начал войну с Ярополком. На сей раз под знамена киевского князя собрались войска Киева, Переяславля, Ростова, Полоцка, Смоленска, полки из Галича и 30-тыс. венгерское войско, которое прислал ему король Венгрии Бела II Слепец. Осада Чернигова заставила Всеволода Ольговича заключить мир (1139). Незадолго до смерти Ярополк в свою очередь оказал Беле II помощь против его внутренних врагов.
18 февраля 1139 года 57-летний Ярополк умер, передав трон брату Вячеславу. Погребен «в голубце» у церкви св. Андрея; вдовствующая супруга его, Елена, в 1145 г. перенесла тело Ярополка в самую церковь и положила рядом с телом Янки, сестры Мономаховой.
В 1116 году Ярополк женился на аланке Елене, которая родила сына Василько Ярополковича.