活塞空压机压缩过程在气缸中且会产生大量的热量因此需要对其冷却，如果是多级活塞机则需要对每一级进行冷却。很多机型也会在排气口处对压缩空气进行冷却，并将压缩空气中的水分和润滑油进行分离。冷却剂主要有空气、水、润滑油等。因为空气冷却效果较差一般主要应用在小型活塞机上。冷却器目前主要分为列管式冷却器、套管式冷却器、蛇管式冷却器以及板式冷却器。
列管冷却器是由平行排列的光圆管子胀接在一个圆桶形壳体上，压缩空气则在换热管外流动并通过特设的挡板气流则会垂直掠过管束，冷却水则在换热管内流动。压缩空气从冷却器管一端进入然后从另外一端排出。当气体被冷却后其密度会增加就会随着流动的方向下沉，需要保证压缩空气的流速则隔板间距一般先大然后逐渐减小。
套管式冷却器是在管子的外面再套一根管子，这样压缩空气在管子之间的间隙流动，冷却水则在管内流动。设计过程中为了增加传热面积内管的外侧一般都焊有纵向的翅片。为了避免内外管子热膨胀不一致，压缩空气在管间流动的套管式冷却器，一般压力不能超过200bar。如果外管直径较大压力高时则需要增加管壁厚度。对于压力更高的压缩空气一般采用气体在内管流动而冷却水则在管间流动。
蛇管式冷却器是将管子绕成螺旋状并安装在一个壳体中，当气体在管内流动时水会在壳体里面流动。冷却水则通过壳体底部进入然后从上部流出。当冷却水增加其温度也会升高从而实现自然对流的作用。这种类型冷却器其结构相对简单工艺要求也不高，但是这种只适用于排气量小、压力大小不限的活塞机。
板式冷却器主要分为平板式和螺旋板式两种，冷却器的元件主要由平板与两板之间类似V型铁嵌条以及平板两侧波浪形的翅片焊接而成。翅片的主要作用就是增加其热传导面积。
