Si lo que quieres es aplicar enfoque (o cualquier otro efecto) a una zona concreta usando la máscara de capa, yo lo haría así:
- Partimos de la imágen que queramos. Ahora nos vamos al menú de capas, duplicar capa.
- Seleccionamos la capa copiada en el cuadro de diálogo de capas. Aplicamos el efecto deseado a toda la capa. Ahora tenemos dos capas una con el efecto y otra sin él. Solo nos queda hacer transparente la zona en la que no deseamos el efecto, una forma de hacer esto es con la máscara de capa. Cuando añadimos una máscara de capa podemos dibujar sobre ella de tal forma que al aplicarla se volverá transparente en las zonas negras, opaca en las zonas blancas y más o menos tránslucida en las zonas con cierto nivel de gris.
- Capa -> máscara -> añadir máscara de capa. Podemos partir de de una máscara totalmente opaca (blanco), o totalmente transparente (negro) e ir dibujando sobre ella en el color contrario con la herramienta más adecuada segun lo que nos interese conseguir.
- Una vez obtenido el resultado deseado usar Capa -> máscara -> aplicar máscara de capa.
- Un ejemplo de esto lo tienes en
http://gimpguru.org/Tutorials/SelectiveColorization/ que usan una máscara para dejar en blanco y negro parte de una imágen.
Lo que te comentan que hablabamos en el hilo es el filtro de máscar de enfoque. El problema del filtro de enfoque normal es que también aumenta el ruido. El filtro de máscara de enfoque suele basarse en aplicar un filtro para detectar bordes y usar el resultado como máscara para aplicar el enfoque solo en los bordes y no en las zonas planas para evitra poner de manifiesto el ruído.
No sé si he contestado a tus dudas...