Generalmente, la resolución se mide en segundos de arco, que es una medición angular de 1/3600 de un grado.

Existen dos maneras de calcular la resolución: el criterio de Rayleigh y el límite de Dawes.

La fórmula de Rayleigh depende de la longitud de onda específica de la luz. Como norma, se utiliza un color verde amarillento a 550 nm. Si bien el método de Dawes no depende del color, ambos métodos dependen de la apertura (diámetro) del telescopio. Mientras use la ecuación adecuada, independientemente de si es en pulgadas o milímetros, los resultados de la resolución siempre se darán en segundos de arco.

La resolución de Rayleigh se calcula como 5,45 / apertura (en pulgadas) ó 138 / apertura (en mm).

La resolución de Dawes se calcula como 4,56 / apertura (en pulgadas) ó 116 / apertura (en mm).

Respecto a la separación angular entre dos estrellas, tales como un par de estrellas dobles, puede verificar si su telescopio es capaz de ver si se trata de dos estrellas separadas o si las confunde como un solo objeto. Puede consultar el almanaque náutico para obtener una lista de objetos con una resolución en segundos de arco. Si se dan buenas condiciones de observación, debiera ser capaz de ver cualquier cosa con segundos de arco mayores a los de su telescopio. No olvide que este es un máximo teórico basado en la física. La resolución real puede depender de la calidad de fabricación.