Врховна команда је на почетку рата наредила формирање Добровољачких одреда. Тако су већ 4.августа 1914.године формирана четири добровољачка одреда: Златиборски у Ужицу под командом мајора Косте Тодоровића, Руднички у Београду под командом мајора Војислава Танкосића, Јадарски у Јадру под командом мајора Војина Поповића-Војвода Вук, и Горњачки у Свилајнцу под командом коњичког капетана Велимира Вемића. Добровољачки одреди су требали да делују као претходница српске војске у борбама, да нападају бочне непријатељске формације и позадину ,стварају забуну у њиховим редовима.
Горњачки добровољачки одред је основан у Свилајнцу 4.августа 1914. године на подручју Китина ћуприја, среска болница, на десној обали Ресаве. Капетан Вемић је држао говор том приликом.Одред је имао око 500 бораца распоређених у три чете под командом капетана Душана Николајевића, капетана Васе Ранковића и поручника Миливоја Динића.
Горњачки добровољачки одред је упућен на исток ка Бугарској у случају њеног уласка у рат и био је стациониран у манастиру Горњаку. У време Церске битке одред је прикључен ужичкој војсци и борио се на Церу. Током Дринске битке одред се борио на Романији где је Вемић рањен па је за команданта постављен поручник Миливоје Динић.
После Дринске битке три одреда су расформирана и припојена Јадарском добровољачком одреду. Јануара 1915.године основан је Добровољачки батаљон на челу са Војводом Вуком који се повлачио у Грчку,опорављао и у бици на Кајмакчалану на Грунишком вису 29.новембра1916.године је погинуо. После тога је од 4000 војника остало око 450 који су укључени у два регуларна пешадијска пука.