《酷吏列传》中酷吏十二人（外加侯封和晁错）中暗含层层递进的结构设计，从汉初到汉武帝时期，酷吏数量渐多，集中出现于汉武帝时期，残酷程度越发严重，且酷吏的个人品行似乎在逐渐降低。这种递进式的结构设计表现了一种社会现象：从吕后到文帝、景帝再到武帝，酷吏人数逐渐增多，在武帝时期形成了爆发式增长，其中最为残忍、性格最为毒辣的人集中在汉武帝时期。司马迁将矛盾集中于汉武帝时期，显然是有所用意的，这字里行间透露的是司马迁对汉武帝时期酷吏盛行的讽刺，是对武帝的间接性劝谏。
（一）从汉初到汉武帝酷吏数量和残忍程度的层层递进
如果按照出现时间和酷烈程度区分，酷吏可分为五层。第一层为侯封、晁错和郅都，这都是汉初武帝之前的官吏。第二层为宁成和周阳由，是汉武帝初年的官吏。第三层为赵禹和张汤，是为汉武帝制定惩办条例的官吏。第四层为最残忍的义纵、王温舒、尹齐，减宣和杜周。第五层为不知名的后来的大批酷吏。从数量上来看，汉武帝当朝期间，知名的酷吏就有九人，可见酷吏几乎集中出现于武帝时期。
从酷吏的酷烈程度看，越后来出现的酷吏手段越狠毒。司马迁指出汉初时，国家修生养息，法令宽松，举国上下一片安乐。“破觚而为圆，斫雕而为朴，网漏于吞舟之鱼，而吏治烝烝，不至于奸，黎民艾安。”吕后时，独有侯封一人为酷吏；孝景时，有晁错、郅都、宁成、周阳由。景帝时，“是时民朴，畏罪自重”，当时的百姓害怕犯罪，守法自重。郅都可作为酷吏之贤，宁成不如郅都廉洁，周阳由在两千石的官员中，最为暴酷骄恣。这是第一层和第二层。
在宁成、周阳由陆续去世之后，“事益多，民巧法，大抵吏之治类多成、由等矣。”这是司马迁承前启后之辞，暗示黑暗的武帝酷吏政治正式开始，接下来几名酷吏陆续出场。自赵禹和张汤编订法令，制定惩办条例以后，司马迁又曰“用法益刻，盖自此始。”这是第三层递进，表现出汉朝法律越发严酷，大概从张汤、赵禹二人制定法令之后开始。
紧接着，最毒辣的第四层酷吏开始出现。义纵和王温舒二人首先上场，义纵以严酷凶悍处理政事，其酷烈程度要甚于之前的张汤、赵禹等。被比作比乳虎还凶恶的宁成都对其侧行迎送，可想义纵的酷烈程度了。然而，后来居上的王温舒并不畏惧义纵，所以史公称“温舒至恶”。这一批批酷吏残酷有余，丝毫不输他们的“前辈”。王温舒的确是酷吏中最甚者，之前的酷吏处理完案件是“道不拾遗”，而温舒到了“野无犬吠之盗”的程度。“自温舒等以恶为治，而郡守、都尉、诸侯二千石欲为治者，其治大抵尽放温舒。而吏民益轻犯法，盗贼滋起。”这是第四层递进。
自温舒以后，官员纷纷效仿他，第五层不知名的大批酷吏登上政治舞台。酷吏大兴的后果只会使局势越发严重。于是越来越多的盗贼不断兴起，朝廷只能任命更多的酷吏，制定更严苛的法令，杀更多的盗贼、无辜百姓来稳定局面，加上“沈命法”的推行，导致官员也互相隐匿。在此是第五层的递进，也是酷吏政治几乎到达了鼎峰。“故盗贼寖多，上下相为匿，以文辞避法焉。”社会秩序已经混乱不堪，从朝廷官员到平民百姓，几乎上下一片都在逃匿法令，真是可唉可叹！《读史管见》中有云：“又因太史公亲睹其害，不胜叹息痛恨于当时也。故其传酷吏也，既著其威之加于人，即著其害之受于己。”此言真是深知太史公用意所在。司马迁对国家命运的担心和对统治者以暴制暴的斥责也跃然纸上。
这样我们很容易看出一条线索在其中，从景帝时期的民风淳朴到后来武帝时期的盗贼滋起，这个层层递进的结构设计，将武帝推行的酷吏政治一步步推向了高潮。这条线索是为了表现汉武帝时期虽法网严密，作奸犯科之人的势头却如如雨后春笋一般，难以遏制，这也映照了司马迁开篇以德礼化百姓，才能长治久安的主张。对德政的呼吁恰恰是对繁刑峻法的反对，这也正是司马迁在《酷吏列传》中想要向汉武帝传达的意思。