статья

Неявно нормализованный прогнозист с клиппированием для линейных и нелинейных многоруких бандитов с тяжёлыми хвостами

Юрий Дорн, Никита Корнилов, Николай Кутузов, Александр Назин, Эдуард Горбунов, Александр Гасников

arXiv:2305.06743

Цитировать публикацию

Implicitly normalized forecaster with clipping for linear and non-linear heavy-tailed multi-armed bandits

@article{dorn2024-forecaster-mab,
  title     = {Implicitly normalized forecaster with clipping for linear and non-linear heavy-tailed multi-armed bandits},
  author    = {Yuriy Dorn and Nikita Kornilov and Nikolay Kutuzov and Alexander Nazin and Eduard Gorbunov and Alexander Gasnikov},
  year      = {2024},
  journal   = {Computational Management Science},
  eprint    = {2305.06743},
  archivePrefix = {arXiv},
  url       = {https://arxiv.org/abs/2305.06743}
}

Скачать .bib

Алгоритм Implicitly Normalized Forecaster (INF) считается оптимальным решением для состязательных задач многоруких бандитов (MAB). Однако большинство существующих результатов о сложности INF опираются на ограничительные предположения, такие как ограниченность наград. Недавно был предложен родственный алгоритм, работающий как в состязательной, так и в стохастической постановке MAB с тяжёлыми хвостами. Однако этот алгоритм не использует доступные данные в полной мере. В этой работе мы предлагаем новую версию INF — Implicitly Normalized Forecaster with clipping (INF-clip) — для задач MAB с распределениями награды с тяжёлыми хвостами. Мы устанавливаем результаты сходимости при мягких предположениях о распределении награды и демонстрируем, что INF-clip оптимален для линейных стохастических задач MAB с тяжёлыми хвостами и хорошо работает для нелинейных. Кроме того, мы показываем, что INF-clip превосходит алгоритм best-of-both-worlds в случаях, когда различные «руки» трудно различить.