OBS Advanced Masks — это плагин с открытым исходным кодом для создания фильтров сложных и настраиваемых масок для своих сцен и источников OBS, например источника с вебкамерой.
Один из наиболее используемых на данный момент плагинов для придания нужной вам формы вебкамеры на стриме, зачастую используется с плагином Move для создания анимаций с изменением формы при переключении сцен.
Данный плагин позволяет делать источники в форме эллипса, звезды, сердца и др. с более гибкой настройкой для придания еще более интересной формы.
Более подробно вы можете прочитать о проекте и так же его скачать на Github или в разделе OBS Plugin со страницы автора данного плагина.