Die Wärmepumpe nimmt gespeicherte Wärme aus der Umwelt (Luft oder Wasser) bei niedriger Temperatur auf (kalte Seite) und gibt sie mittels Energiezufuhr bei höherer Temperatur wieder ab (warme Seite). 
Dies geschieht mittels Verdampfer, Verdichter und Verflüssiger, die die wichtigsten Bestandteile jeder Wärmepumpe sind. Ein Kältemittel wird verdampft und nimmt dabei Niedertemperatur-Wärme auf. Der Kältemitteldampf wird verdichtet. Beim anschließenden Verflüssigen wird die gespeicherte Wärme bei höheren Temperaturen wieder frei gesetzt. Beim Kühlschrank kommt das gleiche Prinzip zur Anwendung, nur dass an die Stelle der Wärmequelle das Kühlfach und an die Stelle des Heizkörpers der Wärmetauscher tritt, welcher sich beim Kühlschrank auf der Rückseite findet.
Für die Erzeugung von Warmwasser wird meist die Energie der Umgebungsluft genutzt. Nachteilig ist, dass die Umgebungsluft immer dann am kältesten ist, wenn der Wärmebedarf am höchsten ist, nämlich im Winter. Und das mindert den Ertrag der Wärmepumpe. Denn je größer die Temperaturunterschiede zwischen Wärmequelle und der Nutzwärme, umso mehr Energie ist bei gleichem Ergebnis zum Antrieb der Pumpe notwendig. Energetisch günstiger ist daher z.B. das Erdreich als Wärmequelle. In 1 bis 2 m Bodentiefe sinken die Temperaturen auch im Winter in der Regel nicht unter 5°C. Es gibt verschiedene technische Ausführungen von Wärmepumpen: