Я работал над обработкой изображений и распознаванием изображений. Не для распознавания улыбки на картинке; но процесс может быть таким:
Алгоритм анализирует видеопоток в режиме реального времени (отображение «живого предварительного просмотра» на заднем экране для точечной и снятой камеры), чтобы обнаружить лицо людей, а затем определить, есть ли улыбка на обнаруженных лицах или нет .
Если вы заинтересованы в распознавании лиц, вы можете прочитать эту статью в Википедии.