Так как германцы враждовали между собою, римское правительство пыталось поднять их друг против друга. На Балканском полуострове места, где некогда жили вестготы, заняли остготы, освободившиеся после смерти Аттилы. Остготы беспокоили восточную империю так же, как за 100 лет до того вестготы. Император Зенон, желая от них отделаться, предложил их вождю Теодориху, в качестве римского наместника, отвоевать у Одоакра Италию.

Все племя остготов с женами, детьми и имуществом на телегах двинулось кругом Адриатического моря по знакомой германцам дороге. Одоакр был разбит Теодорихом, погиб от руки убийцы, а его германцев Теодорих принял на свою службу и обещал сохранить за ними земли. В свою очередь, остготам он выделил треть земель римских помещиков.

Теодорих (умер в 526 г.) правил в Италии как наместник империи, но был совершенно независим от восточного императора. Он старался закрепить свое положение брачными связями с другими германскими королями — вестготским, вандальским, франкским.

В управлении Италией ничего не изменилось. Теодорих обращался к римскому сенату с глубокопочтительными письмами. Он окружил себя учеными римскими советниками, выслушивал пышные речи и стихи придворных ораторов. Сам он провел молодость в Константинополе, но не был грамотен: для подписи ему подавали шаблон с прорезанными буквами, и он мазал по дощечке черной кистью.