Свое прозвище Иван получил, вероятно, от привычки носить с собой постоянно кошелек ("калиту") с деньгами для раздачи милости. В течение долгого времени он оставался в тени старшего брата московского князя Юрия Даниловича. Но уже тогда его имя связывалось в летописи с успехами московской политики. В 1304 году, в отсутствие Юрия, Иван отправился в Переяславль оборонять его от тверских князей. Вскоре под городом появились тверские полки под началом боярина Акинфа. Три дня тот продержал Ивана в осаде; на четвертый день явился из Москвы боярин Родион Несторович, зашел тверичам в тыл; Иван в то же время сделал вылазку из города, и неприятель потерпел полное поражение.

Когда в 1319 году Юрий Данилович получил великое княжение. и уехал в Новгород, Москва оставлена была в полное управление Ивана. С этих пор он вступает на историческое поприще. Восемнадцать лет его правления были эпохой усиления Москвы и ее возвышения над остальными русскими городами. Главным средством к этому усилению было особенное умение Ивана ладить с ханом. Он часто ездил в Орду и вскоре заслужил расположение и доверие Узбека. В то время как другие русские земли страдали от татарских вторжений, владения князя Московского оставались спокойными, наполнялись жителями и, сравнительно с другими, находились в цветущим состоянии. "Перестали поганые воевать русскую землю, - говорит летописец, - перестали убивать христиан; отдохнули и опочили христиане от великой истомы и многой тягости и от насилия татарского; и с этих пор наступила тишина по всей земле".

В княжение Ивана был построен дубовый Кремль, защищавший не только центр прежнего города, но и посад за его пределами. Вокруг Кремля одно за другим возникали села. Бояре охотно переходили к Московскому князю и получали от него земли с обязанностью службы; за боярами следовали вольные люди, годные к оружию. Иван заботился о внутренней безопасности, строго преследовал и, казнил разбойников и воров и тем самым давал возможность ездить торговым людям по дорогам.

В первые же годы своего правления Иван добился того, что в Москву из Владимира была переведена митрополичья кафедра. Это сразу сделало Москву духовной столицей Руси. Калита умел приобрести расположение митрополита Петра, так что этот святитель живал в Москве больше, чем в других местах, умер и был погребен в ней. Гроб святого мужа был для Москвы так же драгоценен, как и пребывание живого святителя: выбор Петра казался внушением Божьим, и новый митрополит Феогност уже не хотел оставить гроба и дома чудотворца. Другие князья хорошо видели важные последствия этого явления и сердились; но поправить дело в свою пользу уже не могли. Во все продолжение своего княжения Калита ловко пользовался обстоятельствами, чтобы, с одной стороны, увеличить свои владения, с другой - оказывать влияние на князей в прочих русских землях. В этом помогала ему более всего начавшаяся вражда между Тверью и Ордой. Княживший в Твери князь Александр Михайлович принял в 1327 году участие в народном восстании, в котором тверичи убили татарского посла Чолкана и всю его свиту.

Узбек очень рассердился, узнав об участи Чолкана, и, по некоторым известиям, послал за московским князем, но, по другим известиям, Калита поехал в Орду сам, торопясь воспользоваться тверским происшествием. Узбек дал ему ярлык на великое княжение и 50 000 войска. Присоединив к себе еще князя суздальского, Калита пошел в Тверскую волость; татары пожгли города и села, людей повели в плен и, по выражению летописца, положили пусту всю землю Русскую. Спаслись лишь Москва да Новгород, который дал татарским воеводам 2000 гривен серебра и множество даров. Александр бежал в Новгород, потом в Псков, но и оттуда его вынудили в 1329 году уехать в Литву. Обстоятельства продолжали благоприятствовать Москве. Александр, хотя вернулся в Псков и прожил там десять лет, но был уже бессилен. Брат его, Константин, управляя разоренной Тверской землей, угождал Московскому князю, любимцу хана. Князья других русских земель поставлены были в такое же положение. И князь Суздальский, Александр Васильевич, и другие князья Ростово-Суздальской земли стали его подручниками. По смерти Александра Васильевича в 1332 году, Калита удержал за собой Владимир. Одну из своих дочерей Иван отдал за Василия Давыдовича Ярославского, а другую - за Константина Васильевича Ростовского и самовластно распоряжался уделами своих зятьев.

Князья рязанские поневоле должны были повиноваться Ивану и ходили со своей ратью, куда он им приказывал, ведь Рязань была на окраине Руси, и за свою строптивость первой могла подвергнуться жестокой каре из Орды. Углич был присоединен Калитой посредством купли. Кроме того, он покупал и выменивал села в разных местах: около Костромы, Владимира, Ростова, на реке Мете, Киржаче и даже в Новгородской земле, вопреки новгородским законам, запрещавшим князьям покупать там земли. Он заводил в Новгородской земле слободы, населял их своими людьми и таким образом также имел возможность внедрять свою власть.

В 1337 году Александр Тверской помирился с ханом и получил обратно свое княжество. В 1339 году Иван поехал в Орду с доносом на Александра. Вслед за тем тот получил приказ явиться к хану. Александр поехал, уже сознавая, что судьба его решена. И действительно - и он сам, и его сын Федор были казнены. Калита вернулся в Москву в великой радости, послал в Тверь и приказал снять с церкви св. Спаса колокол и привезти его в Москву. По понятиям того времени это было очень чувствительное унижение. Погребен в Москве в Архангельском соборе.