Une lunette astronomique est constituée d'une lentille limitée par un diaphragme circulaire.
La fonction pupille s'écrit
Le pouvoir de résolution en éclairage cohérent est défini à partir de l'image de deux sources ponctuelles.
Soit
la répartition angulaire d'amplitude de l'objet. L'image au foyer de la lunette possède une répartition angulaire d'amplitude
qui s'écrit à l'aide de la relation (13)
Lorsque l'on fait varier l'écartement des deux sources, les amplitudes et correspondent à deux taches lumineuses dont l'écartement varie dans les mêmes proportions, comme illustré par la figure ci-dessous.
La taille de chaque tache est de l'ordre de .
Si les deux sources sont très séparées (
)
les deux réponses impuslsionnelles seront aussi très séparées dans l'image : on observera deux taches. Dans le cas inverse les deux taches se fondent en une seule.
Le cas limite définit le pouvoir de résolution de l'instrument. C'est l'écartement minimum entre deux points séparés en deux taches individuelles. Par extension ce pouvoir de résolution donne la taille du plus petit détail visible dans une image.
La définition du pouvoir de résolution est assez empirique et dépend de l'instrument utilisé : une pupille carrée aura un pouvoir de résolution différent d'une pupille circulaire. En éclairage cohérent (addition des amplitudes) une définition possible est l'angle
entre le centre de la réponse impulsionnelle et son premier minimum négatif. La figure ci-dessous (colonne du milieu) montre que si
on a observe deux taches ``à peine'' séparées avec une intensité centrale I0 valant 80 pour cent de celle du maximum observée au centre des taches.
Pour une pupille circulaire, le pouvoir de résolution en éclairage cohérent vaut donc :
Ce résultat n'est pas applicable en lumière blanche (voir chapitre sur la cohérence) oł l'on somme les intensités proveant des deux sources et non leur amplitude. Le pouvoir de résolution en lumière incohérente vaut, selon la définition de Lord Rayleigh .