时全国共有两千多所监狱。南北朝时的监狱体制基本上继承了汉朝体制，但北朝除了监狱外，还挖地为狱，叫做地牢。
说起古代衙门里的监狱，人们可能会立即联想到“苏三起解”里的洪洞县监狱。这是现今保存最完整的古代监狱之一。洪洞县监狱设在县衙大堂口右角，主要是便于随时提审犯人。监门内有一照壁，通道只有一面，为了防止囚犯逃跑。一入监门，就有接连拐四个直角、五道门的甬道，接着是一条约一米多宽的“胡同”。“胡同”的两边是两排低矮的监房，关押一般的杂犯；“胡同”的南尽头，往东拐直角弯是内监所在，专门关押死刑重犯。内监是四合院形，东西南三面是普通式监房，北面有两幢无窗窑洞式监房，这是关押死刑待解女犯的女监，相传名妓苏三就曾在此关押。从洪洞县监狱，可了解到古代监狱建造和设置的大概情况。
监狱，古人称为“囹圄”，顾名思义，是专门囚禁犯人的地方。作为衙门的一个重要组成部分，除中央司法机关设立的监狱外，地方各级衙门，尤其是州（包括府、郡）县衙门也都设有监狱。
汉代的监狱名目、种类繁多。据《汉书?刑法志》等记载，汉代全国共有二千余所监狱，仅京城长安就有监狱二十几种：有专门关押高