В этом разделе мы будем говорить про метрики, с помощью которых подбираем оптимальные стратегии.
Вопрос: как мы выбираем стратегию для каждого конкретного проекта?
Если на сайте нет трекинговых данных, мы выбираем 1-ю стратегию. Ту, где используется поиск по триграммам.
Если трекинговые данные есть, мы можем отслеживать поведение пользователей. В таком случае все возможные комбинации (стратегия + доп. стратегия + предиктор) оцениваются по 6-ти метрикам.
Каждая метрика сравнивает реальную выдачу на сайте с идеальной выдачей. В расчет берутся первые 3, 15 и 50 товаров.
Идеальная выдача как раз основывается на поведении пользователей. А именно — на тех товарах, которые они смотрят по своим запросам в течении 7-ми минут.
Чем больше совпадений между реальной выдачей и идеальной, тем выше значение метрики.
Чтобы стало понятнее, давайте посмотрим на то, как работает одна из метрик.
Метрика № 1. Требует, чтобы товары в нашей выдаче были расположены согласно их популярности. Если сортировка не совпадает с ожидаемой, оценка снижается.
Например, запрос «полка». В идеальной выдаче на первом месте полка A, потом полка B, полка C и полка D.
В реальной выдаче у нас идет полка A, шкаф A, полка B и полка F. Первая позиция совпадает — стратегия получает баллы. Остальные позиции подобраны неверно — стратегия получает штраф.
Несмотря на то, что в реальной выдаче полка B присутствует, находится она не на своем месте. И чем дальше товар от своей идеальной позиции, тем больше будет штраф, который получит стратегия.
Метрика № 2. Эта метрика отбирает запросы, по которым в 90% случаев пользователи смотрели товары из одной категории.
К примеру, по запросу «смартфон» пользователи чаще всего смотрят товары из категории «Смартфоны». Соответственно, у нас есть идеальная выдача, где по этому запросу пользователь только смартфоны и получает.
Если в реальной выдаче мы обнаружим аксессуар для смартфона, стратегия будет оштрафована.
Тут мы смотрим не на позицию товара, а исключительно на его категорию. Выдача нашей стратегии должна состоять из товаров, которые принадлежат к этой категории.
Метрика № 3. Эта метрика отбирает запросы, по которым пользователи смотрели набор категорий.
Пример: запрос «триммер». По нему пользователи могут смотреть и товары из категорий «Садовые инструменты», и «Машинки по уходу за волосами».
Принцип оценки стратегии по этой метрике тот же, что и в предыдущем примере. Мы проверяем, состоит ли выдача из товаров, относящихся к нужным категориям.
Однако стоит учитывать, что мы принимаем в расчет только те категории, товары из которых смотрели более чем в 5% случаев. В примере с триммером пользователи:
📍в 50% случаев смотрели триммер для бороды;
📍в 47% случаев — триммеры для травы;
📍в 3% случаев — аксессуары для триммеров.
Мы ожидаем, что в выдаче не будет товаров из последней категории.
Метрика № 4. Если предыдущие метрики работали с категориями, то эта оценивает принадлежность товара из выдачи к конкретному бренду.
Для нее мы отбираем запросы, по которым в 90% случаев пользователи смотрели один и тот же бренд. От стратегии требуем, чтобы в выдачу попадали товары, которые относятся к этому бренду.
Категория тоже учитывается, но только когда в 90% случаев по запросу смотрели и бренд и конкретную категорию. В таких условиях выдача должна состоять из товаров, относящихся к двум этим группам одновременно.
Пример: по запросу AirPods в идеальной выдаче пользователи смотрят конкретный бренд (Apple) и конкретную категорию (наушники). Если в реальную выдачу помимо наушников от Apple попадают смартфоны или гарнитуры других производителей, стратегия получает штраф.
Метрика № 5. Это метрика атрибутных запросов. Атрибутным считается запрос, в составе которого присутствует значение атрибута из фида. Те самые характеристики товаров, о которых рассказывал Артем.
Соответственно, от стратегии мы требуем выдачу из товаров с указанными атрибутами.
Например, запрос «красное платье». В нем есть атрибут «красный». Если в выдаче будет «синее платье» (атрибут «синий»), стратегия получит штраф.
Стоит уточнить, что данная метрика проверяет ТОЛЬКО атрибуты. Если в выдаче будет «красная юбка», стратегия не получит штраф. Для компенсации этого недостатка есть 2-я метрика, условие которой — принадлежность товаров к одной категории.
Используя данные 2-х метрик мы можем точнее определить, в чем проблема: в категориях или в атрибутах.
Метрика № 6. Завершает наш список метрика, для которой отбираются запросы со 100% вхождением в название одного-единственного товара.
Чаще всего это запрос конкретной модели с набором букв и цифр. Мы требуем от стратегии, чтобы на первом месте в выдаче был искомый товар. Если он находится ниже, стратегия получает штраф.
Иииии, на этом все. По метрикам — точно. Но у нас ведь есть и вспомогательные инструменты для подбора стратегий. О них и поговорим в следующей части.