Яровой служил в силовых структурах с 1992 года. В 2010-м он стал главой внутренних войск МВД.
В 2012 году был назначен советником министра службы министра МВД Украины. В 2012–2014 годах занимал должность советника министра департамента обеспечения деятельности министра, стратегического анализа и прогнозирования МВД Украины.
В 2014 году его назначили первым заместителем министра внутренних дел Украины. С февраля 2014-го главой МВД был Арсен Аваков.
13 июля Аваков подал заявление об отставке с должности. Подать в отставку его попросил президент Украины Владимир Зеленский.
15 июля Верховная Рада Украины приняла заявление Авакова об отставке и уволила его. Сам Аваков на заседание парламента не пришел.
Вместо него новым министром 16 июля Верховная Рада назначила депутата от «Слуги народа» Дениса Монастырского.