ИС-2 разработан на Челябинском Кировском заводе (ЧКЗ) в конце 1943 года, когда стало ясно, что предыдущая модель тяжёлого танка ИС-1 (ИС-85) обладает недостаточным для тяжёлого танка вооружением. Опыт боевого использования 85-мм пушки Д-5 на самоходно-артиллерийской установке СУ-85 и опытные стрельбы по трофейным тяжёлым немецким танкам показали, что орудие Д-5 не позволяет достичь решительного превосходства над вооружением немецких танков, более того, по своей бронепробиваемости оно уступает немецким 88-мм танковым пушкам и 75-мм пушке KwK 42 L70, установленной на танке «Пантера». Также следует отметить, что 85-мм пушка Д-5Т на дистанции 500—1000 малокалиберным бронебойным снарядом могла пробить лоб немецкого тяжёлого танка «Тигр I» только при попадании, близком к нормальному; верхняя лобовая деталь «Пантеры» не пробивалась вовсе. Это ставило новый советский тяжёлый танк в невыгодное положение на фоне постоянно увеличивающейся численности «Пантер» на Восточном фронте.

Поскольку основным использованием тяжёлых танков был прорыв сильноукреплённых полос обороны противника, насыщенных долговременными и полевыми фортификационными сооружениями, то осколочно-фугасное действие снарядов играло столь же (если не более) важную роль, как и бронебойное. 85-мм снаряды, заимствованные от зенитного орудия 52-К, вообще не имели фугасного варианта (они были осколочными); хотя при установке некоторых типов взрывателей их можно было использовать в качестве фугасных, но их действие было немногим лучше, чем у 76-мм боеприпасов. Этот факт также был проверен самоходной артиллерией — для борьбы с ДОТами и сильными ДЗОТами советские командиры предпочитали СУ-122, а не СУ-85. Однако башня и конструкция монтажа орудия у танка ИС имели значительный резерв по установке более мощных артсистем.