利用城市自來水供水總管取水的具體做法是:在比較大的單位、團體的建筑物自來水入口總管的前端(上流)開取水口，并在其后端(下流)開回水口。熱泵的供水管和回水管分別接通自來水總管的取水口和回水口。這樣，在供水管水泵的抽吸作用下，自來水可源源不斷地流過熱泵的水側換熱器。熱泵便會從中汲取熱量(冬季)或排放熱量(夏季)。這樣，熱泵只是巧妙地利用了水與制冷工質間的溫度處，而卻沒有絲毫水量的消耗。
顯然，這種安排的假設條件是這些部門的自來水消耗量大，而且不會間斷，冬季不致因流量太小，導致結冰。顯然，這種靠不斷消耗的自來水溫差工作的熱泵容量必定是有限的。而且自來水的消耗量在全天里也是很不均衡的，白天耗量大，可利用的熱量也較大，但夜間耗量小，可用熱量也小。
所以，它作為辦公室之類，只需白天運行的用戶來說，尚可應用，但對需要全天運行的熱泵機組而言，在夜間自來水耗量大大降低之后，就很難保證了。
