水垢是由過飽和的水溶性組分形成的。水中溶解有各種鹽類，如碳酸氫鹽、碳酸鹽、硫酸鹽、氯化物、硅酸鹽等，其中以溶解的碳酸氫鹽如Ca(HCO3)2、Mg(HCO3)2最不穩定，極容易分解生成碳酸鹽。因此，當冷卻水中溶解的碳酸氫鹽較多時，水流通過換熱器表面，特別是溫度較高的表面，就會受熱分解，其反應如下：
當循環水通過冷卻塔，溶解在水中的CO2會逸出，水的pH值升高，此時，碳酸氫鹽在堿性條件下也會發生如下的反應：
Ca(HCO3)2＋2OH→－CaCO3↓＋2H2O＋CO2－3
如水中溶有適量的磷酸鹽與鈣離子時，也將產生磷酸鈣的沉淀：
2PO3－4＋3Ca→2＋Ca3(PO4)2↓
上述一系列反應中生成的CaCO3和Ca3(PO4)2等均屬難溶性鹽，它們的溶解度比起Ca(HCO3)2來要小得多。同時，它們的溶解度與一般的鹽類還不同，其溶解度不是隨著溫度的升高而加大，而是隨著溫度的升高而降低，屬反常溶解度的無機鹽。如CaCO3的溶度積為：20℃為5.22×10－9；25℃為4.8×10－9；40℃為3.03×10－9。水溫升高更易飽和。
因此，在換熱器傳熱表面上，這些難溶性鹽很容易達到過飽和狀態而從水中結晶析出，尤其當水流速度小或傳熱面較粗糙時，這些結晶沉淀物就會沉積在傳熱表面上，形成了通常所稱的水垢。由于這些水垢結晶致密，比較堅硬，又稱之為硬垢。常見的水垢成分有：碳酸鈣、硫酸鈣、磷酸鈣、鎂鹽、硅酸鹽等。
