Во-первых, маска на руке и пальто, кажется, немного оторвана ...
Во-вторых, вы редактируете, вероятно, в RGB, а не в L a b. Этот тип эффектов лучше всего выполнять в цветовых пространствах на основе яркости, в противном случае смешивание RGB без сохранения яркости может создать этот тип преобразования яркости между слоями. (Обратите внимание: прозрачность между слоями составляет , а не с сохранением светимости, если вы не находитесь в L a b!)
В-третьих, на ваших изображениях резкость и JPEG также улучшают воспринимаемые края, и вокруг этой руки много шума JPEG. JPEG не очень любит B & W ...
Но без полного разрешения этой области руки (в PNG! :-)) я не могу сказать больше.
Кстати: я предлагаю использовать перо в этом случае во время маскировки ...