Мониторинг показателей контейнеров Docker с интеграцией Datadog

Эффективный мониторинг Docker выходит за рамки простого сбора чисел. Он включает в себя корреляцию показателей с производительностью приложений, установление интеллектуальных порогов и интеграцию журналов и следов для формирования полной картины. Без надлежащего мониторинга вы рискуете незамеченным спором о ресурсах, утечками памяти или сетевыми узкими местами, которые могут ухудшить пользовательский опыт или вызвать сбои.

Зачем использовать Datadog для мониторинга Docker?

Datadog — облачная платформа мониторинга и аналитики, которая обеспечивает внекоробчную поддержку Docker и контейнерных сред. Его интеграция автоматически захватывает более 50 метрик Docker, включая процессор контейнера, память, сеть и использование диска, а также метрики системного уровня от хоста. Более чем просто метрики Datadog может собирать журналы Docker и следы для унифицированного решения для наблюдения.

Основные преимущества использования Datadog для мониторинга Docker включают:

• Автоматическое обнаружение и пометка: Агент Datadog автоматически обнаруживает работающие контейнеры и обогащает их такими метками, как имя контейнера, изображение и ярлыки Docker. Это делает фильтрацию и группировку показателей по службе, среде или команде бесшовными.
• Реальные панели мониторинга и оповещения: Создавайте настраиваемые панели мониторинга с диаграммами, тепловыми картами и топологией просмотров. Настройте оповещения на основе порогов (например, CPU > 80%) или аномалий с использованием машинного обучения.
• Интеграция с платформами оркестровки: Datadog работает с Docker Swarm, Kubernetes, Amazon ECS и Azure Container Instances, обеспечивая постоянную видимость в гибридных средах.
• Корреляция полного стека: Объедините показатели Docker с мониторингом производительности приложений (APM), журналами и производительностью сети, чтобы отслеживать проблемы от здоровья контейнера до запросов, обращенных к пользователю.
• Предварительный контент: Datadog предоставляет внебиржевые панели инструментов для Docker, включая обзор контейнера, карту хоста и панели мониторинга процессов. Вы можете клонировать и настраивать их в соответствии с вашими потребностями.

Для команд, уже использующих Datadog для других частей своей инфраструктуры, добавление мониторинга Docker является простым и расширяет существующие рабочие процессы без необходимости использования другого инструмента.

Настройка Datadog с помощью Docker

Предпосылки

Перед началом убедитесь, что у вас есть:

• Учетная запись Datadog , зарегистрированная бесплатно ]
• Докер, установленный на хост-машине (версия 19.03 или более поздняя рекомендация]]
• ] Сетевой доступ к конечным точкам ввода Datadog (обычно или соответствующему сайту для вашего региона]
• Ваш ключ API Datadog (найден в интерфейсе Datadog в рамках интеграций > APIs]]

Установка агента Datadog в качестве контейнера Docker

Самый простой способ контролировать контейнеры Docker - запустить Агент Datadog сам как контейнер на хосте. Агент может быть развернут с помощью команды или как часть стека Docker Compose. Ниже рекомендуется команда:

docker run -d --name datadog-agent \
 -e DD_API_KEY=YOUR_API_KEY \
 -e DD_SITE="datadoghq.com" \
 -v /var/run/docker.sock:/var/run/docker.sock:ro \
 -v /proc/:/host/proc/:ro \
 -v /sys/fs/cgroup/:/host/sys/fs/cgroup:ro \
 datadog/agent:latest

Замените фактическим ключом. Установки громкости предоставляют Агенту доступ к гнезду Docker для обнаружения контейнеров, файловой системе хоста для обработки данных и файловой системе cgroup для метрик ресурсов контейнера. переменная среды должна соответствовать вашему сайту Datadog (например, для клиентов ЕС).

Для развертывания производства рассмотрите возможность использования Docker Compose или Kubernetes DaemonSet, если ваши контейнеры организованы. Datadog предоставляет официальные диаграммы Хелма для Kubernetes, которые автоматизируют многие этапы конфигурации.

Конфигурация агента через переменные среды

Поведение агента Datadog можно контролировать с помощью переменных среды.

• — Ваш API-ключ (обязательно).
• — сайт Datadog (по умолчанию ).
• — автоматически импортируйте ярлыки Docker в качестве тегов.
• — Импорт контейнерных сред в качестве тегов.
• [14] — [15] — [[[15]] — [[[15]] — [[[[15]]] — [[[[[[]]]]] — [[[[[[[[[]]]]]] — [[[[[[[[[[[]]]]]]]] — [[[[[[[[[[[[[[[]]]]]]]]]]] — [[[[[[[[[[[[[[[[[[[[[]]]]]]]]]]]]]] — [[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[]]]]]]]]]]]]]]]]]]]]]]]] —[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[]]]]]]]]]]]

Вы также можете включить дополнительную интеграцию, настраивая для сбора журналов контейнеров Docker или для получения APM-следов от контейнерных приложений.

Проверка установки

После запуска контейнера Агента запустите , чтобы подтвердить, что он успешно подключается к Datadog. Вы должны увидеть сообщения, такие как «nfo: sentry — sentry is disabled» (если Sentry не настроен) и «nfo: OK — DataDog agent is run» . В течение нескольких минут ваша учетная запись Datadog начнет получать метрики Docker. Перейдите на страницу Infrastructure > Containers в пользовательском интерфейсе Datadog, чтобы увидеть в реальном времени просмотр всех запущенных контейнеров.

Конфигурация коллекции метрик

Автоматические докерные метрики

После запуска Агент автоматически собирает полный набор показателей Докера.

• [[ФЛТ:19]], [[ФЛТ:20]], [[ФЛТ:21]]
• [[ФЛТ:22]], [[ФЛТ:23]], [[ФЛТ:24]]
• ,
• ,
• ,

Эти метрики собираются с интервалом по умолчанию 10 секунд.Вы можете настроить интервал, установив переменную среды или изменив основной файл конфигурации Агента.

Пользовательские метрики через Docker Checks

Datadog позволяет определять пользовательские проверки для сбора метрик, специфичных для приложений, из внутренних контейнеров. Например, вы можете использовать пользовательский Python-чек, который запрашивает внутренний API вашего приложения и излучает метрики калибровки или подсчета. Для этого установите пользовательский каталог конфигурации и проверьте файл Python в контейнер Агента:

-v /host/path/to/conf.d:/etc/datadog-agent/conf.d \
-v /host/path/to/checks.d:/etc/datadog-agent/checks.d

Затем создайте файлы конфигурации YAML в соответствии с и скриптами Python в соответствии . Агент автоматически обнаружит и запустит эти проверки. Этот подход является мощным для мониторинга таких показателей, как глубина очереди, задержка запроса или активные соединения.

Обогащение и обогащение

Теги являются основой размерной модели данных Datadog. Без надлежащих тегов метрики становятся шумом. Datadog автоматически маркирует метрики Docker с хостом, именем контейнера, изображением и другими атрибутами. Вы можете расширять теги , используя метки Docker или переменные среды. Например, вы можете добавлять для импорта конкретных меток в качестве тегов. Это позволяет фильтровать контейнеры по команде, среде, версии приложения или любым пользовательским метаданным, обеспечивая точную агрегацию и оповещение.

Кроме того, вы можете настроить Агента для сбора метрик только для контейнеров, соответствующих определенным именам изображений, или исключить конкретные контейнеры, используя переменные среды и .

Просмотр метрик и создание панелей инструментов

Использование предварительно созданных панелей Docker

Datadog предоставляет несколько внешних панелей для Docker: Docker - Обзор , Docker - Контейнер и Docker - Хост. Эти панели отображают ключевые показатели, такие как использование процессора, потребление памяти, пропускная способность сети и верхние контейнеры. Вы можете найти их в списке панели инструментов под «Docker» или путем поиска в пользовательском интерфейсе. Это отличные отправные точки и могут быть клонированы и настроены без ущерба для оригинала.

Создание пользовательских панелей

Чтобы создать панель инструментов, адаптированную к вашим услугам, нажмите Новая панель инструментов в Datadog. Добавьте виджеты, такие как графики временных рядов, таблицы запросов или тепловые карты. Для мониторинга Docker общие виджеты включают:

• Таймсерии — ЦП и память с течением времени для конкретных контейнеров или групп.
• Верхний список — Показать контейнеры с самым высоким использованием процессора или памяти.
• Изменить — Увеличение трека при перезапуске контейнера или ввода/вывода диска.
• Таблица — Отображение списка контейнеров с текущим использованием ресурсов вместе с тегами.

Используйте язык запросов Datadog для охвата метрик по тегам: например, , чтобы увидеть среднее использование процессора по всей фронтенд-сервисе в производстве. Вы также можете создавать переменные шаблонов, которые позволяют пользователям переключаться между средами, службами или группами хостов интерактивно.

Настройка оповещений

Оповещения превращают необработанные метрики в действенные уведомления. В Datadog можно создавать правила мониторинга для метрик Docker. Например, создавать монитор, который предупреждает, когда использование процессора любого контейнера превышает 85% в течение пяти минут, или когда использование памяти приближается к 90% от его предела. Используйте вкладку Monitor для определения условий и каналов уведомлений (электронная почта, Slack, PagerDuty и т. д.), Чтобы избежать усталости от оповещения, рассмотрите мульти-алертные мониторы, которые запускают один контейнер, или агрегированные мониторы, которые запускают только тогда, когда процент контейнеров превышает порог.

Продвинутые пользователи могут использовать мониторы обнаружения аномалий, которые используют машинное обучение для обнаружения необычного поведения без статических порогов, что особенно ценно для служб с переменной нагрузкой.

Лучшие практики для мониторинга Docker

1. Используйте последовательную стратегию маркировки

Контейнеры тегов с значимыми этикетками, которые отражают собственность, среду, название службы и версию. Это значительно облегчает сортировку, фильтрацию и оповещение. Например, используйте ярлыки Docker, такие как , и . Примените соглашения по маркировке через ваш конвейер CI / CD, чтобы каждый контейнер правильно помечался от развертывания.

2.Мониторинг на нескольких уровнях

Не полагайтесь исключительно на метрики уровня контейнера. Объедините их с метриками уровня хоста (память, диск, процессор), чтобы понять споры между контейнерами. Кроме того, отслеживайте метрики уровня оркестратора при использовании Kubernetes или Swarm, такие как состояние капсул и здоровье развертывания. Datadog интегрируется с Kubernetes, чтобы обеспечить полное представление о здоровье кластера.

3. Установите ограничения ресурсов и оповещения соответственно

Контейнеры Docker, которые не ограничены ресурсами, могут потреблять все ресурсы хоста. Всегда устанавливайте ограничения на процессор и память в ваших контейнерах. Затем настройте оповещения о пожаре, когда использование приближается к пределу (например, при 80% лимита памяти), чтобы дать вам время ответить, прежде чем контейнер будет убит OOM-убийцей Docker.

4. соотнести метрики с бревнами и следами

Скачок использования ЦП может быть связан с изменением кода или внезапным увеличением трафика. Сопоставляя метрики с журналами приложений (например, частотой ошибок) и следами (например, задержкой запроса), вы можете быстро идентифицировать первопричины. Datadog упрощает это, унифицируя журналы, метрики и APM под одной платформой - вы можете перейти от графа к соответствующим журналам одним щелчком мыши.

5. Регулярно проверяйте и настраивайте свой мониторинг

По мере роста ваших услуг ваши потребности в мониторинге меняются. Периодически просматривайте панели мониторинга, чтобы удалить устаревшие метрики, настраивать пороги оповещения на основе исторических данных и добавлять новые метрики для недавно введенных функций. Используйте страницу Datadog «Управление мониторами», чтобы найти шумные или неиспользуемые мониторы и либо архивировать, либо совершенствовать их.

6. Рассмотрим многоконтейнерные контейнеры (кубернеты)

Если вы запускаете контейнеры внутри контейнеров Kubernetes, помните, что несколько контейнеров могут совместно использовать один и тот же IP-адрес и объемные крепления. Datadog автоматически помечает метрики с именем контейнера, пространством и названием контейнера, что позволяет вам сверлить отдельные контейнеры в контейнере. Вы также можете настроить оповещения на уровне контейнера для обнаружения нездоровых контейнеров.

Расширенные возможности мониторинга

Вид на контейнер Live

Функция Datadog Live Containers предоставляет интерактивный список всех контейнеров, работающих в режиме реального времени, через вашу инфраструктуру. Вы можете искать, фильтровать и проверять показатели, процессы и сетевые соединения каждого контейнера непосредственно из пользовательского интерфейса Datadog, без необходимости в SSH в хосты. Это бесценно для специального устранения неполадок и планирования емкости.

Мониторинг процессов

Смонтировав файловую систему хоста , Агент Datadog может собирать метрики уровня процессов из внутренних контейнеров. Это позволяет увидеть, какие процессы в контейнере потребляют процессор или память. Мониторинг процессов включается путем настройки . Используйте его для выявления неправильных процессов во время реагирования на инциденты.

Оптимизация затрат через правовую защиту

Исторические показатели могут помочь вам защитить права контейнеров. Перепредставленные контейнеры отнимают ресурсы; недостаточно предоставленные могут вызвать проблемы с производительностью. Используйте Datadog's Metrics Explorer или панели инструментов для анализа тенденций использования ресурсов в течение нескольких недель. Сравните с пределом контейнера, чтобы увидеть, можете ли вы безопасно уменьшить ограничения памяти и сэкономить на облачных затратах.

Устранение общих проблем

Агент не может подключиться к Datadog

Если в пользовательском интерфейсе Datadog не отображаются метрики, проверьте, работает ли контейнер Агента и правильна ли клавиша API. Запуск . Общие причины включают сетевые прокси, блокирующие исходящие соединения с , или неправильную настройку . Убедитесь, что Агент может достичь конечной точки, используя из контейнера.

Метрики, отсутствующие для конкретных контейнеров

Если некоторые контейнеры не показывают метрики, проверьте, что они работают и что Агент имеет доступ к гнезду Docker. Проверьте, исключен ли контейнер по настройке . Также подтвердите, что контейнер не является коляской без ограничений по ресурсам; Datadog может по-прежнему собирать метрики, но они будут близки к нулю. Для контейнеров с очень коротким сроком службы (< 10 секунд) Агент может не успеть собрать метрики до их окончания.

Использование ресурсов агента High Datadog

Агент Datadog предназначен для легкого использования, но может стать ресурсоемким при сборе множества журналов или пользовательских метрик. Для уменьшения воздействия, ограничения сбора журналов только необходимыми контейнерами, увеличения интервала проверки или использования переменной среды для отключения мониторинга процесса, если это не требуется.

Для более подробного устранения неполадок обратитесь к руководству по устранению неполадок Datadog Docker .

Заключение

Интеграция Datadog с Docker обеспечивает всеобъемлющий, в режиме реального времени вид на производительность контейнера, что необходимо для поддержания высокой доступности, оптимизации затрат и быстрого решения проблем. Следуя шагам настройки, изложенным в этом руководстве, настраивая значимые теги и предупреждения, и принимая лучшие практики для мониторинга, вы можете преобразовать необработанные метрики контейнера в практические идеи. Начните с развертывания агента Datadog в качестве контейнера Docker, изучите предварительно построенные панели мониторинга и постепенно совершенствуйте свой мониторинг в соответствии с вашими конкретными операционными потребностями. Для дальнейшего чтения проконсультируйтесь с официальной Документация интеграции Datadog Docker и Блог Datadog по мониторингу Docker , чтобы оставаться в курсе новых функций и методов.