Начинал карьеру в родном городе Зренянин, в команде «Пролетер». Затем провел сезон-2006/07 в «Банате», где забил 2 гола в 25 матчах и по общему мнению провел впечатляющий сезон, помог своему клубу избежать вылета из высшей сербской лиги. В 2007 году подписал четырехлетний контракт с белградским «Партизаном», где в первом же сезоне сумел стать чемпионом страны. Зимой 2008 года Тошич вместе с партнером по «Патризану» Адемом Ляйичем подписал контракт с «Манчестер Юнайтед». Он получил разрешение на работу в Англии 28 ноября 2008 года, а 2 января 2009 года трансфер был окончательно согласован. Сербский полузащитник выступал за «Юнайтед» под номером «14». В отличие от своего более молодого одноклубника, Тошич сразу же переехал в Англию, и в оставшейся части сезона-2008/09 3 раза появлялся на поле в красной футболке, а также регулярно принимал участие в играх резервистов.
29 января 2010 года Тошич был арендован немецким «Кёльном» до конца сезона 2009/10.
15 июня 2010 года Тошич перешёл в московский ЦСКА, подписав контракт на 5 лет.
