Как определить оптимальное количество кластеров при кластеризации данных?

Алгоритм k-средних (k-means) группирует данные в кластеры, минимизируя расстояния между объектами внутри кластера. Он начинается со случайного выбора центроидов, затем объекты распределяются по ближайшим кластерам. После чего центроиды пересчитываются и процесс повторяется до сходимости. Главный минус алгоритма — зависимость от выбора k (количества кластеров) и чувствительность к начальному расположению центроидов.
Как определить оптимальное количество кластеров при кластеризации данных?
Изображение носит иллюстративный характер

Метод «локтя» помогает определить оптимальное количество кластеров. Суть метода в том, чтобы провести кластеризацию при разных значениях k и построить график зависимости внутрикластерной дисперсии от количества кластеров. «Локоть» на графике, где дальнейшее увеличение k не приводит к значительному уменьшению дисперсии, указывает на оптимальное количество кластеров.

Недостатки метода «локтя» в субъективности интерпретации графика (не всегда есть четкий локоть), зависимости от данных, не всегда корректной работы со сложными структурами данных. Поэтому для выбора оптимального количества кластеров также могут использоваться метод силуэта, gap statistic и иерархическая кластеризация. Метод силуэта измеряет качество разделения данных по кластерам. Gap statistic сравнивает внутрикластерную дисперсию с дисперсией случайных данных. Иерархическая кластеризация не требует заранее задавать количество кластеров.

K-средних применяется в сегментации изображений, для кластеризации текстов, обнаружения аномалий, а также в рекомендательных системах.


Новое на сайте

19224Многоступенчатая угроза VOIDGEIST: как злоумышленники скрытно внедряют трояны XWorm,... 19223Эпоха «вайбвейра»: ИИ и экзотический код в масштабных кибератаках группировки APT36 19222Почему переход на ИИ-управление рисками становится главным условием роста для современных... 19221Атака на телекоммуникации южной Америки: новые инструменты китайской группировки UAT-9244 19220Критические бреши Hikvision и Rockwell Automation спровоцировали экстренные меры... 19219Масштабная кампания ClickFix использует Windows Terminal для развертывания Lumma Stealer... 19218Критический март для Cisco: хакеры активно эксплуатируют уязвимости Catalyst SD-WAN... 19217Трансформация двухколесного будущего: от индустриального триумфа до постапокалиптического... 19216Смертельный симбиоз спама и эксплойтов: как хакеры захватывают корпоративные сети за 11... 19215Как новые SaaS-платформы вроде Starkiller и 1Phish позволяют киберпреступникам незаметно... 19214Инженерия ужаса: как паровые машины и математика создали гений Эдгара Аллана по 19213Трансформация первой линии SOC: три шага к предиктивной безопасности 19212Архитектура смыслов в профессиональной редактуре 19211Манипуляция легитимными редиректами OAuth как вектор скрытых атак на правительственные... 19210Как активно эксплуатируемая уязвимость CVE-2026-21385 в графике Qualcomm привела к...
Ссылка