Le principe de fonctionnement d'une PAC est exactement celui d'un réfrigérateur.
Alors qu'un réfrigérateur transfère la chaleur pour rafraîchir son atmosphère intérieure, la PAC transfère la chaleur de l’air extérieur pour l'injecter à l’intérieur de la maison. Car l’air, même froid, contient de la chaleur.
On définit deux milieux : la source froide (d'où l'on extrait l'énergie) et la source chaude (où on la réinjecte). La température réelle des sources n'intervient pas dans cette définition, bien que le dispositif soit surtout intéressant dans le cas où la source chaude a une température plus élevée que la source froide
Un circuit frigorifique transfère l'énergie grâce au changement d'état (liquide / gaz) du fluide utilisé. Le moto-compresseur assure la compression du fluide dans le condenseur (source chaude) afin que le changement d'état souhaité se produise à une température élevée. La pression du fluide est alors réduite au moyen d'un « détendeur » (terme impropre car on agit sur la phase liquide, incompressible : l'expression réducteur de pression est plus adéquate) avant d'entrer dans l'évaporateur (source froide) pour que le changement d'état voulu se produise à basse température. L'inversibilité du cycle peut être obtenue au moyen d'une vanne à quatre voies qui permet de choisir l'échangeur (voir ci-dessus) vers lequel la phase gazeuse est dirigée et, corollairement, l'échangeur alimenté par la phase liquide. Cette vanne (si elle existe) permet donc de choisir quelle source sera froide (ou chaude).
La température de la source froide doit nécessairement être supérieure à la température d'évaporation du fluide et celle de la source chaude inférieure à celle de condensation du fluide pour que ces changements d'état se produisent. Dans le cas contraire, les changements d'état ne se produiraient pas et l'efficacité du circuit frigorifique ne serait qu'au mieux de 1 ou 0.
Certaines PAC ont pour source froide l'air extérieur ou rejeté par la ventilation (air-air ou air-eau), d'autres un circuit d'eau (eau-eau, plus rarement eau-air). La source chaude est définie par le deuxième terme et consiste soit en un circuit d'eau, soit en l'air du volume habitable.
Les PAC utilisant la chaleur du sol sont appelées pompes à chaleur géothermiques. Cette appellation peut prêter à confusion avec le chauffage urbain géothermique qui utilise la chaleur à haute température du sous-sol profond, mais c'est un système très différent. Un capteur de sol est souvent constitué d'un circuit d'eau glycolée enterré en moyenne à soixante-dix centimètres de profondeur, en général sous un jardin. Ces systèmes sont utilisés pour transférer de l'énergie du sol vers une habitation, pour les besoins en chauffage l'hiver. Ces systèmes sont économiques par rapport au prix d'installation d'une PAC et plus performants.
Le chauffage au sol dans l'habitat, alternative aux radiateurs traditionnels, est une bonne source chaude car il ne nécessite pas une température élevée. Dans le cas opposé, les radiateurs doivent être surdimensionnés pour pouvoir fonctionner à "basse température". S'ils ne le sont pas, une autre source d'énergie sera nécessaire pour augmenter la température du circuit et assurer leur fonctionnement (voir limitation de la température dans le chapitre précédent).
D'autres pompes à chaleur qui utilisent l'air comme source froide (refroidissement de l'air pour chauffer de l'eau de piscine par exemple) mais le rendement est moindre et la période de fonctionnement est plus restreinte. Les risques de givrage peuvent être importants lorsque la température de l'air extérieur est basse et l'hygrométrie élevée. L'investissement peut en revanche être bien moins important.
Les systèmes vendus au grand public ont une puissance thermique de 15 à 20 kW ce qui est équivalent à la gamme basse de puissances des chaudières au gaz ou au fioul.
Certains modèles sont réversibles, c'est-à-dire capables de transférer de la chaleur de la maison vers l'extérieur. Ces machines ont l'avantage de pouvoir servir de climatisation si les échangeurs de chaleur s'y prêtent : le plancher chauffant a une capacité relativement limitée à devenir plancher rafraîchissant mais les radiateurs ne conviennent pas (question d'aire d'échange et de génération de condensats) : il faut les remplacer par des ventilo-convecteurs nettement plus coûteux et générant d'autres contraintes (alimentation électrique, évacuation des condensats, bruit généré).
Les pompes à chaleur air/air peuvent utiliser l’air issu d’un puits canadien pour alimenter l’entrée d’air et améliorer ainsi leur efficacité. Dans la pratique, le débit d'air brassé réduit très fortement cet intérêt : le puits canadien ou provençal n'est efficace qu'avec un débit et une vitesse d'air limités.
En général, un puits canadien sert plutôt à réchauffer un tant soit peu l'air neuf admis dans le bâtiment. Avec de tels débits d'air, il vaut mieux récupérer l'énergie sur l'air rejeté et, éventuellement, réchauffer l'air neuf avec l'énergie récupérée. Il existe des PAC à double flux air-air qui réalisent cet échange tout en assurant les débits d'air et donc le renouvellement d'air contrôlé à l'intérieur du bâtiment.
La pompe à chaleur utilise la chaleur du sol, du l’eau ou de l’air, une énergie 100% renouvelable, gratuite et inépuisable. La pompe à chaleur permet ainsi d’économiser les énergies fossiles et de limiter les rejets de gaz à effet de serre dont le secteur du bâtiment est largement responsable.
Un des avantages majeurs de la pompe à chaleur est sa faible consommation d’énergie électrique par rapport à l’énergie thermique restituée. La pompe à chaleur permet en effet de couvrir 100% des besoins de chauffage d’un logement en consommant uniquement 30% d’énergie électrique. Les 70% restants sont de l’énergie renouvelable.