Нет кнопки "Закрыть" на фотографии

А какой плагин вы используете? На сайт ссылку дадите?

Придётся воспользоваться плагином. Или ещё каким нибудь «Профессиональным способом% Например ,без плагина. Но лучше с ним. Геморроя меньше. Благо в репозитарии WordPress их «Видимо не видимо» Воспользуйтесь одним их них. Благо что современная платформа WordPress с лёгкостью позволяет это сделать.