здравствуйте ! как заблокировать ip и домен на openvpn сервере ? чтобы не заходили на сайт ?

Используйте маршрутизацию ОС. В Linux это ip route.

Например:
ip route add prohibit 8.8.8.8

а куда вписывать это ? напимер хочу mail.ru заблокировать

Ну на счет ip адресов уважаемый ValdikSS тебе подсказал уже а вот на счет доменов думаю лучше поставить Adguard и через него можно уже в кастомный список добавлять домены не нужные ну и реклама плюс будет блокироваться.