Родился 14 октября 1963 года в с. Срочная, Переяслав-Хмельницкого района Киевской области.
В 1985-1987 гг. учился в Калининградской специальной средней школе милиции МВД СССР.
С 1989 по 1993 г. учился в Академии внутренних дел Украины по специальности "Правоведение".
Женат на Маргарите Яреме (1965 г.р.). У супругов трое детей: сын Валерий (1988 г.р.) и дочери - Илона (1992 г.р.) и Роксолана (2008 г.р.).
У Виталия Яремы есть брат Александр (1960 г.р.).
После окончания школы работал в Переяслав-Хмельницком зверхозяйстве. В 1981-1983 гг. служил в армии.
В декабре 1983 года устроился милиционером в вневедомственную охрану при Днепровском райотделе милиции Киева.
После окончания школы милиции в 1987 году назначен участковым инспектором милиции Днепровского райотдела Киева. С 1990 г. проходил службу на должностях оперуполномоченного и заместителя начальника отдела уголовного розыска Днепровского райотдела.
В июне 1993-го назначен замначальника отдела - начальником отделения отдела по борьбе с групповыми и организованными преступлениями управления уголовного розыска Киева.
С декабря 1994 года работал замначальника управления уголовного розыска - начальником отдела по борьбе с групповыми и организованными преступлениями. В 1997 году возглавил управление уголовного розыска, а в декабре 1999-го- назначен первым замначальника Главного управления уголовного розыска МВД.
В марте 2001 года возглавил управление милиции на Львовской железной дороге.
С февраля 2003 года - первый замначальника Главного управления - начальник управления по борьбе с организованной преступностью милиции Киева.
В августе-ноябре 2003 г. работал заместителем начальника Департамента уголовного розыска - начальником управления по борьбе с организованной преступностью. После, по 2005 год, был первым замначальника Департамента уголовного розыска МВД.
С февраля 2005 года Ярема возглавлял управление милиции в Киеве.
В 2006 году избран депутатом Киевского горсовета от Блока «Наша Украина».
Пост начальника киевской милиции покинул в марте 2010 года, после назначения Николая Азарова премьер-министром, в том же году ушел на милицейскую пенсию.
На парламентских выборах 2012 года прошел в Верховную Раду по мажоритарному округу в Дарницком районе Киева от ВО "Батькивщина". В январе 2013-го избран заместителем председателя комитета ВР по борьбе с коррупцией и организованной преступностью.
27 февраля 2014 года назначен первым вице-премьер министром Украины в Кабмине Арсения Яценюка. Ответственный за координацию работы силовых органов.
19 июня 2014 года Верховная Рада назначила Ярему Генеральным прокурором Украины по представлению президента Петра Порошенко.
9 февраля 2015 года подал в отставку и был снят с должности. 10 февраля Верховная Рада дала согласие на его отставку
10.02.2015