En imagerie conventionnelle en champ lointain, où tous les points de l'espace sont constamment illuminés pendant l'acquisition, on définit habituellement la meilleure résolution latérale théorique par le critère de Rayleigh, c'est-à-dire la distance entre deux diffuseurs ponctuels où le disque d'Airy central de l'un chevauche le premier anneau sombre du second, ce qui entraîne une chute d'intensité significative (au moins 26 %) entre les deux : r = (0,61 x longueur d'onde) / (ouverture numérique) – soit deux tiers de micron. La résolution en z (mise au point) est bien moins bonne, de l'ordre de quelques dizaines de microns.
La microscopie confocale est une technique de champ lointain conçue pour améliorer la résolution en illuminant un volume isolé, limité par la diffraction, et en collectant la lumière diffusée par ce même volume. La résolution est ici conventionnellement définie comme la dimension largeur-mi-hauteur de la réponse de diffusion mesurée : r = (0,41 x longueur d'onde) / (ouverture numérique), soit une résolution latérale légèrement supérieure à un tiers de micron, et une résolution environ trois fois inférieure en z (focalisation). Les techniques de champ proche visent à réduire encore davantage le volume illuminé.
La microscopie optique à balayage en champ proche (NSOM ou SNOM, selon que l'on suit les écoles IBM ou de Bell Labs) utilise une petite ouverture, située à l'extrémité de la métallisation d'une fibre optique effilée et métallisée, qui laisse échapper la lumière sur une très courte distance (un champ évanescent), illuminant ainsi un volume du diamètre de l'ouverture et d'une épaisseur de seulement quelques nanomètres. La lumière diffusée par ce volume est ensuite collectée en champ lointain.
Bien sûr, ce processus peut être inversé en collectant le faisceau par l'ouverture, à partir du même volume éclairé en champ lointain. Il est même possible d'éclairer et de collecter à la fois par la fibre, bien que chaque passage atténue le faisceau de plusieurs millions de fois, ce qui ne peut être utile que pour une diffusion très intense.
Le suivi topographique pour maintenir une distance constante entre la pointe et la surface s’effectue traditionnellement par rétroaction en force de cisaillement : la pointe est mise en oscillation latérale à la résonance d’une fourche à quartz, et la phase de vibration est ajustée pour garder une interaction constante avec la surface. Ce procédé est lent, peu sensible et provoque une usure de l’ouverture (agrandissement) en cas de contact avec une topographie marquée. Récemment, d’autres approches ont été développées, utilisant une ouverture similaire placée au sommet d’une pointe d’AFM creuse, permettant un retour d’information plus robuste.
Étant donné que des ouvertures plus petites éclairant un volume plus petit transmettent moins de photons, cette technique est en pratique limitée à des résolutions de 100 nm (ou, plus difficilement, peut-être la moitié). De plus, des artéfacts importants sont associés, par exemple, à la variabilité du débit de l'ouverture lorsqu'elle est maintenue près d'une surface ou à la variation de la hauteur de rétroaction due à l'interaction de la largeur (diamètre de l'ouverture + deux fois l'épaisseur de la métallisation) avec la rugosité de la surface ; et à la variation de polarisation le long de l'ouverture. Il est à noter que le balayage de ces ouvertures sur un bord (même en l'absence de topographie) génère un artéfact d'une taille égale à la moitié de la largeur de l'ouverture, parfois confondu avec la résolution.
La diffusion-SNOM (sSNOM), dont le TERS est un exemple, utilise une pointe physique pour définir le volume d'analyse spectroscopique, passivement, par sa présence physique, ou activement, par ses effets photoniques. Par exemple, une pointe physique balayée à quelques nanomètres de la surface d'un cristal TIRF, où un faisceau d'excitation entièrement réfléchi en interne produit un champ évanescent peu profond, génèrera de la lumière se propageant vers le champ lointain depuis le volume immédiatement environnant la pointe physique, ce qui définit ainsi la résolution.
Les techniques TESR et TEOS associées utilisent un revêtement métallique dont l'activité photonique lui confère le rôle d'antenne, transférant l'énergie du faisceau d'excitation en champ lointain vers le champ proche. Les « points chauds » "Hot Spots" à l'extrémité de la pointe sont des champs non propagatifs de dipôle électrique extrêmement fort, qui illuminent efficacement un volume de quelques nanomètres de diamètre seulement. Bien qu'il soit toujours nécessaire de déconvoluer la réponse en champ lointain, limitée par la diffraction, de la réponse en champ proche à l'échelle nanométrique, cette opération est possible et, dans le cas de diffuseurs puissants, s'avère facultatif, car l'amplification à la pointe peut être de l'ordre de 10⁻¹, voire plus.
Il y a actuellement beaucoup de discussions parmi les praticiens sur les définitions de la résolution pour les techniques TEOS et il reste du travail théorique à faire pour bien comprendre lesquels des mécanismes de contraste observés sont utiles.
L'image TERS (zone de balayage de 100 × 100 nm, avec un pas de pixel de 1,3 nm, temps d'acquisition total < 9 min, temps d'intégration de 100 ms par pixel), montrant une imagerie chimique à l'échelle nanométrique d'un seul nanotube de carbone avec une résolution spatiale de 8 nm, confirmée par l'analyse de section de l'intensité TERS.
Dans cet exemple présenté, l'image TERS (zone de balayage de 100 × 100 nm, avec un pas de pixel de 1,3 nm, temps d'acquisition total < 9 min, temps d'intégration de 100 ms par pixel), a montré une imagerie chimique à l'échelle nanométrique d'un seul nanotube de carbone avec une résolution spatiale de 8 nm, confirmée par l'analyse de section de l'intensité TERS.
En première approximation, cette résolution dépend du rayon de courbure de la pointe TERS elle-même ; ces « 8 nanomètres » résultent de la convolution du rayon de la pointe. Ainsi, la résolution TERS atteignable peut être estimée comme étant égale à la moitié du rayon de courbure de la pointe.
