První dochovaná zpráva z roku 1233, obec však zřejmě vznikla již koncem 12. století (a obsahovala drobný kostel sv. Jana Křtitele). Za Václava I. bylo poté přibližně v polovině 13. století založeno horní město s mincovnou (ve 40. letech došlo k nálezu stříbra), což znamenalo významný nárůst obyvatelstva.

Opevnění Jihlavy bylo vybudováno za Přemysla Otakara II., který městu udělil také stavební řád. V Jihlavě bylo kodifikováno horní právo (roku 1249, vedle práva městského) – poprvé ve střední Evropě. Za husitských válek se Jihlava přidala na stranu katolickou, přes opakované obléhání nebyla husitskými vojsky nikdy dobyta. Na dnešním Masarykově náměstí byla roku 1436 vyhlášena Basilejská kompaktáta. Jihlavu dobyl Jiří z Poděbrad, kterého odmítala uznat králem. V 16. a na začátku 17. století prožila Jihlava svou renesanci. Ve městě se také prosadila reformace. Město výrazně zpustlo za třicetileté války, kdy jej dobyli Švédové. Jihlava byla již od doby založení horního města obcí převážně německou. Výrazné zastoupení Němců v Jihlavě vydrželo až do roku 1945. Jan Lucemburský roku 1311 Jihlavu vykoupil do svého vlastnictví. Roku 1323 Jihlavu osvobodil od zemské berně ze statků, roku 1324 ji udělil právo skladu a nákupu veškeré do města dovezené soli a roku 1331 ji poté osvobodil od placení mýt a cel v Čechách i na Moravě. Za vlády Jana Lucemburského postihlo Jihlavu roku 1328 zemětřesení. Karel se již jako markrabě snažil získat důležitou Jihlavu pod svou kontrolu. Jihlavě také roku 1345 dal v léno mnoho dolů v okolí města. Karel IV. povýšil jihlavský horní soud na vrchní horní soud – byl odvolacím soudem pro horní města nejen v českých zemích. Roku 1347 a 1359 Karel IV. potvrdil Jihlavě všechna práva a privilegia.