Похоже, это глюк Photoshop, основанный на вашем скриншоте. Вы рисуете на маске, или, по крайней мере, вы должны быть, поскольку у вас выбрана маска слоя. Фотошоп, тем не менее, рисует непосредственно на изображении, а не на маске. (Тем не менее, это может быть случай, когда вы рисовали прямо на изображении, прежде чем выбрать маску слоя и сделать снимок экрана, и в этом случае вы уже знаете, как решить проблему.) Нет идеального программного обеспечения, и вещи, которые не должны случается случается время от времени. Все, что вы можете сделать, это повторить попытку (возможно, вам придется перезапустить Photoshop, чтобы он нашел свой мозг). Это не проблема с плагином / действием.
(Комментаторам: инструмент / плагин сглаживания скинов уже запущен, и результат находится на отдельном слое. Область, на которую влияет конечное изображение, контролируется маской слоя.)