Versions Compared

Key

  • This line was added.
  • This line was removed.
  • Formatting was changed.

Программа сбора статистики для последующей ее обработки биллингом.

Table of Contents

NfSen

Nfsen — сборщик и анализатор Netflow с открытым исходным кодом, отображает статистику в веб интерфейсе в виде графиков.

Перед установкой Nfsen должен быть установлен Nfdump

Для установки Nfdump в Ubuntu/Debian

Code Block
languagebash
apt-get install nfdump

В CentOS:

Code Block
sudo yum install nfdump


Для продолжение установки Nfsen установим необходимые компоненты:

Code Block
languagebash
add-apt-repository universe
apt-get install apache2 php libapache2-mod-php librrds-perl librrdp-perl librrd-dev libmailtools-perl build-essential autoconf rrdtool libio-socket-inet6-perl

Скачаем Nfsen и распакуем:

Code Block
languagebash
mkdir /srv/nfsen
cd /srv/nfsen
wget https://sourceforge.net/projects/nfsen/files/stable/nfsen-1.3.8/nfsen-1.3.8.tar.gz
tar xzfv nfsen-1.3.8.tar.gz

Создадим файл конфигурации и откроем его в текстовом редакторе:

Code Block
languagebash
cd nfsen-1.3.8/etc
cp nfsen-dist.conf nfsen.conf

nano nfsen.conf


Если Ubuntu/Debian то в файле /srv/nfsen/etc/nfsen.conf 

  1. Изменить USER, WWWUSER и WWWGROUP на www-data
  2. В хеше %sources указать IP оборудования, которое должно совпадать с IP, указанного в Настройка > Сервер доступа
Code Block
languagebash
title/srv/nfsen/etc/nfsen.conf 
$BASEDIR = "/srv/nfsen";
$PREFIX  = '/usr/bin';
$USER    = "www-data";
$WWWUSER  = "www-data";
$WWWGROUP = "www-data";
 
%sources = (
    'upstream1'    => { 'port' => '555', 'col' => '#0000ff', 'IP' =>'195.158.00.000' 'type' => 'netflow' },
    'upstream2'    => { 'port' => '555', 'col' => '#00ff00', 'IP' =>'195.158.00.111' 'type' => 'netflow' },
 );

Запустим скрипт установки Nfsen:

Code Block
languagebash
cd ..
./install.pl ./etc/nfsen.conf

Запустим nfsen:

Code Block
languagebash
/srv/nfsen/bin/nfsen start

В конфигурации мы указал upstream1 с портом 555, по этому после запуска nsfsen он автоматически запустит nfcapd на порту 555 и будет писать данные в директорию /srv/nfsen/profiles-data/live/upstream1/.....

Для автозапуска при старте операционной системы выполним команды:

Code Block
ln -s /srv/nfsen/bin/nfsen /etc/init.d/nfsen
update-rc.d nfsen defaults 20

Осталось настроить конфигурацию веб сервера либо просто создать символическую ссылку в www директорию (после этого можно будет открыть nfsen в браузере, например http://ixnfo.com/nfsen/nfsen.php):

Code Block
languagebash
ln -s /srv/nfsen/www/ /var/www/html/nfsen
ln -s /var/www/nfsen/ /var/www/html/nfsen

После редактирования конфигурации, например когда нужно добавить или изменить источники, выполним:

Code Block
languagebash
cd /srv/nfsen/bin
./nfsen reconfig

Через некоторое время должны появится данные на графиках, также через tcpdump можно посмотреть приходят ли данные от сенсора:

Code Block
languagebash
tcpdump port 555 -e -n

Убедимся что nfsen запускается при запуске операционной системы:

Code Block
languagebash
systemctl is-enabled nfsen
systemctl is-enabled nfdump
systemctl enable nfsen
systemctl status nfsen

Если в операционной системе установлен flow-tools, то можно отключить его так:

Code Block
languagebash
systemctl is-enabled flow-capture
systemctl disable flow-capture
systemctl status flow-capture
systemctl stop flow-capture

Проверка/редактирование настроек сервиса

Code Block
languagebash
titlenfsen.service
vim /etc/systemd/system/nfsen.service


Сделать симлинк на файл traffic2sql

Code Block
languagebash
ln -s /usr/abills/Abills/modules/Internet/traffic2sql /usr/abills/libexec/traffic2sql 


Для сбора данных c Nfsen добавление данных в базу данных нужно добавить вызов файла traffic2sql на крон каждый час в /etc/crontab . В поле [NAS_IDS] указать NAS_ID. Для проверки вывода данных с потока поставить DEBUG=8.

По умолчанию путь для программы Nfdump указана по адресу '/usr/bin/nfdump'. Если программа установлена по другому пути - можно задать через аргумент FLOW_NFDUMP=/usr/local/bin/nfdump

Code Block
languagebash
 * */1 * * * root /usr/abills/libexec/traffic2sql [NAS_IDS] NFSEN=1 flowdir=/srv/nfsen/profiles-data/live/upstream1/

Пример:

 * */1 * * * root /usr/abills/libexec/traffic2sql 5 NFSEN=1 flowdir=/srv/nfsen/profiles-data/live/upstream1/

flow-tools

Установка flow-tools

ipcad

Установка на FreeBSD и Debian

Запуск скрипта обработки статистики
/etc/crontab

Code Block
languagebash
 */10 * * * * root /usr/abills/libexec/traffic2sql 8 flowdir=/usr/abills/var/log/ipn/

Если у Вас несколько NAS-серверов (коллекторов трафика), то для каждого нужно создать отдельную папку для логов.

Cisco

(aka kir)

Code Block
languagebash
no ip rcmd domain-lookup
ip rcmd rsh-enable
ip rcmd remote-host firewall 192.168.0.1  root enable
!
ip flow-export source FastEthernet0/1
ip flow-export version 5
ip flow-export destination 192.168.0.1 9996
!
access-list 100 permit 172.19.80.0 0.0.0.255 192.168.0.1
- Разрешаем прохождение пакетов на сервер статистики
access-list 100 dynamic ABILS permit IP any any
- Динамические правила будут добавляться тут
access-list 100 deny ip any any
Если правила нет, доступ пользователю по умолчанию закрыт!
!
interface FastEthernet0/1.21
 ip address 192.168.0.1 255.255.255.0
 ip access-group 100 in
Не забываем привязать группу правил к интерфейсу!
!

192.168.0.1 - Адрес коллектора для потока Netflow (flow-tools)

Для блокировки и открытия доступа можно использовать скрипт

Code Block
languagebash
/usr/abills/misc/cisco_access
   ACTION - Allow/Deny
   IP     - Client IP
   debug  - Make debug log

/usr/local/etc/sudoers

Code Block
languagebash
www   ALL = NOPASSWD: /usr/abills/misc/cisco_access


traffic2sql

ABillS IPN Traffic collector
Анализатор трафика для модуля IPN

Так как программа анализирует пришедшие за 5 миунт минут пакеты, и потом складывает их в базу при использовании динамических адресов система может не успеть внести трафик последних 5 минут перед разрывом сессии.


Перед использованием см. Установка flow-tools.

Запуск скрипта обработки статистики /etc/crontab

Code Block
languagebash
*/5 * * * * root /usr/abills/libexec/traffic2sql [NAS_IDS] flowdir=/usr/abills/var/log/ipn/

Параметры:

Code Block
languagebash
traffic2sql [NAS_IDS] [Options]

Пример вызова для серверов с ID 1,2,3:

Code Block
languagebash
/usr/abills/libexec/traffic2sql 1,2,3 flowdir=/usr/abills/var/log/ipn/

Опции:

NAS_IDSID (NAS) серверов доступа. Формат: 1,2,3 или 1-100
logРасположение файла трафика для trafd
INTERFACEИнтерфейс для trafd
flowdirКаталог, в который складываются файлы работы flow-capture. После обработки файлов ft*  они автоматически удаляются программой traffic2sql.
FLOWTOOLS_IP_AGGREGATION=1Агрегация потоков по IP адресам. Поднимает скорость анализа.
FLOWTOOLS_FT_BACKUP=dirПереносить проанализированные файлы в бекапный каталог. Используется для отладки
DEBUGРежим отладки (1..6) режим 5 и 6 В БАЗУ ДАННЫЕ НЕ ВНОСИТ
DETAIL_ONLYСкладывать в базу только детализацию для активных клиентов (присутствующих в /Monitoring), сам подсчет трафика и ведение сессий не производится
UNKNOWN_IP_LOGВключить учёт адресов, не относящихся к активным пользователям
TCOLLECTORРежим глобального коллектора. Складывать весь трафик, полученный от коллектора
AMON_ALIVEИнтервал получения подтверждения активности от AMon. Интервал задаётся в секундах (Значение по умолчанию 120). Если на протяжении 3 интервалов не пришло ни одного пакета активности система закрывает соединение.
daemonРежим демона (пока в разработке)
FLOW_CATМестоположение Flow tools flow-cat
FLOW_PRINTМестоположение Flow tools flow-print
PREPAID_STOREИспользования отдельной таблицы для хранения значений предоплаченного трафика. Поднимает скорость анализа.
VIRUS_ALERT=1000Опция разрешает отслеживать заражённые хосты, которые рассылаю рассылают вирусы. В данной опции указывается количество мелких пакетов размером до 150 байт за единицу времени, при котором хост попадает в чёрный список
LOG_FILE='…'Файл ведения лога работы анализатора
TRANSACTION=1Вносить все данные одной транзакцией (ускоряет работу)