塔身底层东面辟有券门，门高1．3米，宽0．65米。部分塔层开设券形门窗。塔层之间，以叠涩砖和菱角牙于出檐，每层砖檐的转角处原悬风铃。塔顶刹座呈八角形，每面正中开伴游网一佛龛，龛内置佛像一尊。刹座上承托宝珠式刹身，其上为巨大的桃形攒尖式塔刹。塔室采用厚壁空心式木板楼层结构，内径约2米，原有木梯可以盘旋登至塔顶。

塔始建年代未详，据塔上风铃铭文可知，塔至迟在明代万历年间已竣工。李俊塔始建于明万历年间，清康熙五十四年到乾隆五十九年曾三次维修。1986年，自治区文物管理委员会对该塔进行全面维修。

1986年维修时，从塔刹内发现了一批珍贵的文物，有铜像19尊、陶佛像1尊、铜镜6面、墨铭板7块、铜铭板1块、经书2卷及部分古钱币。