Иллюзия надежности: как метрики могут обманывать

В погоне за высокими показателями надежности, выраженными в процентах успешных операций, компании часто прибегают к манипуляциям с метриками, создавая иллюзию благополучия, а не реальную надежность. Существует несколько распространенных способов исказить картину, и вот некоторые из них.
Иллюзия надежности: как метрики могут обманывать
Изображение носит иллюстративный характер

Первый способ заключается в сокращении количества отслеживаемых индикаторов. Чем меньше метрик, тем меньше вероятность, что хоть одна из них выйдет за рамки целевых показателей. Второй метод – выбор недостижимых SLO (целевых показателей уровня обслуживания) для индикаторов, которые на первый взгляд выглядят впечатляюще, но на самом деле никогда не достигаются.

Следующий подход – это увеличение окна усреднения метрик. Краткосрочные всплески, которые могут ухудшить общую статистику, при усреднении за более длительный период становятся менее заметными, что позволяет скрыть реальные проблемы. Использование низких перцентилей вместо максимальных значений или средних значений в метриках задержки тоже может создать ложное впечатление о высокой производительности.

Наконец, самым коварным способом является измерение метрик в таких точках системы, где проблемы не будут видны. Это может означать измерение внутри приложения, в то время как реальные проблемы возникают на границе с пользователем. В конечном итоге, важно помнить, что цифры надежности не всегда соответствуют действительности. Фокусируйтесь на реальной надежности, а не на красивых отчетах, и помните, что метрики могут обманывать.


Новое на сайте

20856Ловушка под видом регистрации: как UAT-11985 крадёт аккаунты Google 20855Может ли виртуальная машина прочитать память хоста? 20854Как дешёвые Android-смартфоны превращаются в чужие прокси? 20853В Индии имя звонящего появится на экране вместе с номером 20852Как проверить готовность команды к звонку с клонированным голосом? 20851Уязвимости MarkLogic: делегированные права могли открыть путь к администраторскому... 20850Как GitHub закрыл лазейку, угрожавшую тысячам npm-пакетов? 20849Hirudo подменяет банковские приложения, чтобы обойти их защиту 20848Как Vghost превратил старую ошибку Linux в путь к root? 20847Уязвимости в PAN-OS и Cisco Secure Email Gateway уже используют атакующие 20846Как уязвимость GitLab могла открыть сервер для чужого кода? 20845Уязвимость SAP Cloud SDK могла отправить OAuth2-секреты злоумышленнику 20844Уязвимость в Nextcloud открыла путь к веб-оболочкам на серверах 20843Смогут ли малые ИИ-модели превратить бытовую технику в ботнет? 20842Пять уязвимостей NGINX: кому грозит риск и как закрыть его
Ссылка