古代的冰窖建在地下，隔绝阳光和空气，冬天将冰放入，由于冰窖基本不通风，且无光照，深于地下，热量难以传导进入冰窖，所以可以长时间保存冰块；老北京时冰窖分为两种，第一种为官办冰窖，另一种为民办冰窖，二者一共有有十多座。

官办冰窖多为砖石砌筑的拱形地下冰窖，民办冰窖则皆为挖掘土坑，窖穴贮冰。官办冰窖分两类，一类直接为皇宫服务的御用冰窖，一类为官衙或王府服务的吏用冰窖。