Каждый известный мне формат изображения (JPEG, PNG, TIFF и т. Д.) Может представлять только прямоугольные изображения. Это означает, что если вы не определите свой собственный формат изображения, это просто невозможно сделать.
Единственное, что вы можете сделать, это работать с прозрачностью. Даже если само изображение будет по-прежнему прямоугольным, если его круглая часть непрозрачна, оно будет выглядеть, например, как круглое изображение при отображении на веб-сайте.
Я не думаю, что Darktable может это сделать. Однако GNU Image Manipulation Program (GIMP) может. Вы можете использовать выделения и маски слоев для управления альфа-каналом (прозрачностью) вашего изображения. В Интернете есть различные учебники по этому вопросу (например, https://www.gimp.org/tutorials/Layer_Masks/).. При сохранении изображения необходимо выбрать формат изображения, поддерживающий прозрачность. Например, PNG и TIFF, а JPEG - нет.