T-62于20世纪50年代晚期作为稍早的T-54和T-55的继承型而发展,并于1965年第1次公开露面。它在外表上和稍早的T-54很相似,但它具有较长也较宽的车体、1个新式炮塔和1门新式主炮,同时也可以从T-54的第1组路轮和第2组路轮间的明显间隙来加以区别,因为T-62的路轮间距均相同,而且T-62的主炮具有炮膛排烟器。T-62的车体是全焊接结构,前斜板有10cm厚。炮塔是铸造装甲,厚度从前面的17cm至后面的6cm不等。驾驶员乘坐在车体的左前部,其他3名乘员则在炮塔中:车长和射手在左侧,装填手则在右侧。引擎和传动系统是十分可靠的扭力杆式,包括5组路轮,惰轮前置,传动轮后置。U-5TS主炮是滑膛炮,它可以举升仰角正17°,俯角负40°。1挺PKT762mm机枪和主炮同轴配置。T-62刚开始就役时并没有装设防空机枪,后来许多T-62都在装填手舱位上装上制式DSHKl2、7mm武器,这种T-62被命名为T-62A。
T-62共携带3种弹药:高爆弹头、翼稳脱壳穿甲弹头和高爆战防弹头。翼稳脱壳穿甲弹头的炮口初速达1689m/s,有效距离1600m。当弹药发射时,弹底板(弹身周围可以脱离的“制动器”)会在弹药离开炮管时脱离,然后弹身的安定翼会展开使弹身在飞行时稳定。根据以色列的报导,此型弹药可以在1000m的距离外贯穿30cm的装甲。它的115mm炮弹是以人力进行装填,但火炮发射后会自动回到设定的角度以使空弹壳自炮膛退出,然后移上斜槽穿过在炮塔后部的小圆门抛弃。T-62共有3种异名同类型:T-62M是改良型主力坦克,T-62K是指挥坦克,M1977是装甲救济车。大约有19000辆的T-62仍在世界各地服役,许多T-62已采用附加新型装甲、履带、侧裙及火炮来提高其性能。