[uanog] Postfix + Dovecot + Rspamd + ClamAV.

Alex Cherevko allliv at gmail.com
Mon Jun 4 14:30:51 EEST 2018


Привет,

> Прошу простить, что не по теме исходного письма.
> Но с решением похожей проблемы мне помогло отключение офлоадинга и 
> чексум. Ключи -tso -txcsum -rxcsum в ifconfig в rc.conf на внешнем 
> интерфейсе..

> Пробовали такой вариант?
> Или проблема только с openvpn и в остальном с сетевой подсистемой нет
проблем?

Проблема в целом с сетью. Я пробовал все, включая 5 тикетов с саппортом,
тесты на чистых машинах, совместные тесты с сотрудниками DO.
На FreeBSD 11 - еще более-менее, после -tso -txcsum -rxcsum.
На 10.3 даже после этого "pkg audit -F" занимает 2 минуты, "portsnap fetch
update" занимает вечность.

Для сравнения, разница межно скоростью сети в Ubuntu и FreeBSD без
выключения tso txcsum rxcsum в 100-200 раз (!), после выключения в 13-16 раз
(!).
Учитывая, что все остальные сервисы живут в каком-то виртуальных машин с
Ubuntu, не вижу смысла в дальнейших усилиях получить адекватный performance
FreeBSD в DO.

Кратко результаты тестов на файлике в 100MB:

DO NYC3, Ubuntu 18.04						210  MB/s
DO NYC3, FreeBSD 11.0-RELEASE +tso +txcsum +rxcsum		2470 KB/s
DO NYC3, FreeBSD 11.0-RELEASE -tso -txcsum -rxcsum		16.1  MB/s
DO NYC3, FreeBSD 10.3-RELEASE +tso +txcsum +rxcsum		1115 KB/s
DO NYC3, FreeBSD 10.3-RELEASE -tso -txcsum -rxcsum		13.4  MB/s

Детально:

---------------------------
DO NYC3, Ubuntu 18.04
---------------------------
curl http://speedtest-nyc3.digitalocean.com/100mb.test > /dev/null
  % Total    % Received % Xferd  Average Speed   Time    Time     Time
Current
                                 Dload  Upload   Total   Spent    Left
Speed
100  100M  100  100M    0     0   210M      0 --:--:-- --:--:-- --:--:--
210M

---------------------------
DO NYC3, FreeBSD 11.0-RELEASE
---------------------------
//// vtnet0: flags=8843<UP,BROADCAST,RUNNING,SIMPLEX,MULTICAST> metric 0 mtu
1500
////
options=6c07bb<RXCSUM,TXCSUM,VLAN_MTU,VLAN_HWTAGGING,JUMBO_MTU,VLAN_HWCSUM,T
SO4,TSO6,LRO,VLAN_HWTSO,LINKSTATE,RXCSUM_IPV6,TXCSUM_IPV6>

curl http://speedtest-nyc3.digitalocean.com/100mb.test >/dev/null
% Total    % Received % Xferd  Average Speed   Time    Time     Time
Current
                                 Dload  Upload   Total   Spent    Left
Speed
100  100M  100  100M    0     0  2178k      0  0:00:47  0:00:47 --:--:--
2470k

//// ifconfig vtnet0 -tso -txcsum -rxcsum
//// vtnet0: flags=8843<UP,BROADCAST,RUNNING,SIMPLEX,MULTICAST> metric 0 mtu
1500
////
options=6c04b8<VLAN_MTU,VLAN_HWTAGGING,JUMBO_MTU,VLAN_HWCSUM,LRO,VLAN_HWTSO,
LINKSTATE,RXCSUM_IPV6,TXCSUM_IPV6>

curl http://speedtest-nyc3.digitalocean.com/100mb.test > /dev/null
% Total    % Received % Xferd  Average Speed   Time    Time     Time
Current
                                 Dload  Upload   Total   Spent    Left
Speed
100  100M  100  100M    0     0  20.0M      0  0:00:05  0:00:05 --:--:--
16.1M

---------------------------
DO NYC3, FreeBSD 10.3-RELEASE
---------------------------
vtnet0: flags=8843<UP,BROADCAST,RUNNING,SIMPLEX,MULTICAST> metric 0 mtu 1500
 
options=6c07bb<RXCSUM,TXCSUM,VLAN_MTU,VLAN_HWTAGGING,JUMBO_MTU,VLAN_HWCSUM,T
SO4,TSO6,LRO,VLAN_HWTSO,LINKSTATE,RXCSUM_IPV6,TXCSUM_IPV6>
curl http://speedtest-nyc2.digitalocean.com/100mb.test >/dev/null
  % Total    % Received % Xferd  Average Speed   Time    Time     Time
Current
                                 Dload  Upload   Total   Spent    Left
Speed
100  100M  100  100M    0     0  1312k      0  0:01:18  0:01:18 --:--:--
1115k

//// ifconfig vtnet0 -tso -txcsum -rxcsum
//// vtnet0: flags=8843<UP,BROADCAST,RUNNING,SIMPLEX,MULTICAST> metric 0 mtu
1500
////
options=6c04b8<VLAN_MTU,VLAN_HWTAGGING,JUMBO_MTU,VLAN_HWCSUM,LRO,VLAN_HWTSO,
LINKSTATE,RXCSUM_IPV6,TXCSUM_IPV6>

curl http://speedtest-nyc2.digitalocean.com/100mb.test > /dev/null
  % Total    % Received % Xferd  Average Speed   Time    Time     Time
Current
                                 Dload  Upload   Total   Spent    Left
Speed
100  100M  100  100M    0     0  16.6M      0  0:00:06  0:00:06 --:--:--
13.4M

---------------------------
Hardware и драйвера:
---------------------------

sysctl hw.model
hw.model: Intel(R) Xeon(R) CPU E5-2630L v2 @ 2.40GHz

ifconfig | grep media
        media: Ethernet 10Gbase-T <full-duplex>

virtio_pci0 at pci0:0:3:0: class=0x020000 card=0x00011af4 chip=0x10001af4
rev=0x00 hdr=0x00
    vendor     = 'Red Hat, Inc'
    device     = 'Virtio network device'
    class      = network
    subclass   = Ethernet

С уважением,
Александр




More information about the uanog mailing list