Es un tema complicado (por lo menos lo es para mi, jeje). Aplicar Blur es una opcion, aunque no es muy profesional que digamos

. Para aplicar blur, asegurate de usar un pincel bien chiquito (tampoco de 1px, pero buen, uno chico) y sólo aplicar blur (graduá el porcentaje de Blur que quieras aplicar) sólo en las partes pixeladas o serruchadas.
Una opción más combincente es crear una máscara, donde con diferentes frises, trasparentes los bordes del cabello, como para que se funda un poco con el fondo. Además, si te das maña usando capas, ni quiera va a ser necesario que uses selecciones para estos tipos de cortes: duplicando la capa que querés cortar y aplicandole una máscara vas a obtener buenos resultados.
Particularmente, yo trato de no utilizar selecciones para objetos poco definidos (como el pelo) sino que utilizo máscaras, ya que me parecen más efectivas (aunque si te das maña con la pluma, vas a conseguir muy buenos resultados tambien).