То, что вы спрашиваете, является идеей Масок Светимости.
А именно, выбор пикселей в соответствии с их тональным диапазоном.
Подумайте о создании маски, в которой высокие значения (Pass through) назначаются для определенного тонального диапазона (Highlights / Midtones / Shadows), а низкие значения для всех остальных.
Эта маска выберет желаемый тональный диапазон.
Есть много замечательных уроков об этом.
Моя любимая Маска светимости: Полное руководство для Kickstarter .
Существует также множество инструментов для автоматизации и улучшения процесса генерации Масок Светимости.
Новый инструмент, с которым я столкнулся, кажется самым простым в использовании, но при этом очень мощным (допускает точный выбор) - NBP Lumizone .