Сотрудники Walmart заявили, что система ИИ, которая должна определять воровство, не работает. Они требуют перестать сотрудничать с компанией, которая поставила эту технологию сети магазинов.
Сотрудники Walmart заявили, что ИИ компании Everseen, технологию которой в 2017 году внедрили в магазины, не работает. Walmart использует Everseen в тысячах магазинов, чтобы предотвратить кражи в кассах и киосках самообслуживания. Но сотрудники уверены, что он ошибочно определяет обычное поведение как воровство и часто не в состоянии остановить фактические случаи воровства. Один из сотрудников магазина сказал, что между собой они называют эту технологию Neverseen, потому что она постоянно ошибается (издание WIRED поговорило с ними на условиях анонимности).
История появления
Walmart начала использовать технологию Everseen для выявления краж в 2017 году. В июне 2019-го об этом впервые сообщили публично — в статье Business Insider. Там сообщалось о том, как уникальный A.I. используется для анализа и разбора информации с видеокамер, установленных в потолке. И что у него получается выявлять ситуации в реальном времени. Например, выяснить, что покупатель положил товар в свою сумку, не проведя его через сканер, и вызвать охрану к нужной точке.
Рекламное видео, о котором шла речь в той статье, объясняет:
Everseen преодолевает ограничения человеческого глаза. Используя современный искусственный интеллект, машинное обучение, системы компьютерного зрения и большие данные, мы можем обнаружить аномальную активность при покупках и другие угрозы для бизнеса. У нашего цифрового глаза идеальное зрение, и ему никогда не нужен выходной.
Но всё немного не так идиллично.
Группа объединенных сотрудников Walmart протестует против системы. Они создали видео, показывающее проблемы, с которыми сталкивается технология — отсутствие реакции на воровство (случайное или нет) в магазинах Walmart. Например, там видно человека, пробивающего себе два больших пакета с кексами Reese's. Поскольку они сидят друг на друге, сканируется только один, но A.I. полагает, что через сканер прошли оба.
Потом тот же человек пробивает два пакета с молоком, сложив их вместе и слегка заслонив их своим телом от камеры. Опять, только один пробит, но оба уходят к нему в сумку. Потом ещё страннее: он кладет свой смартфон рядом со сканером, и на экране перед ним через секунду выскакивает предупреждение, сообщая, что он должен подождать сотрудников магазина. Это сработала система антиворовства, выдав ложный положительный результат.
Сотрудники из инициативной группы повторяют эти же манёвры еще в двух супермаркетах. И объясняют, что без проблем «обманули» машинное обучение Everseen на $100. Один из рабочих говорит, что между собой они называют технологию «NeverSeen» — из-за её регулярных ошибок.
В чём страх
И всё бы ничего, пусть Walmart теряет свои деньги, она всё равно ежегодно получает $524 млрд выручки и $20 млрд прибыли. Но пандемия коронавируса сделала проблему куда более важной и неотложной. Кассы самообслуживания стали куда популярнее. Через них в Walmart теперь проходит даже больше товаров, чем через кассиров. И главная проблема тут даже не воровство, а ложные срабатывания. Которые тоже происходят с не меньшей частотой.
Рабочие говорят, они переживают, что такие срабатывания приводят к нарушению соц. дистанцирования. Они должны подойти, пообщаться и определить, происходит ли кража, или это какая-то другая проблема. Уже больше пяти сотен сотрудников Walmart (только по официальной статистике) умерли от коронавируса. Остальные — хотят по возможности контактировать с клиентами как можно меньше.
Everseen в ответ говорит, что их система отвечает только за 10% от общего числа вмешательств на кассах самообслуживания. А в остальном — как раз помогает увеличить число таких касс, что помогает людям общаться друг с другом пореже. Меньше сотрудников в целом нужны в магазине, и меньше столпотворений на кассах.
Ну и, конечно, есть бонус для самой Walmart. Охранники и обычные рамки-«пищалки» на выходе всё равно пропускают почти всех опытных воров. Есть даже целые категории людей, которые этим занимаются (shoplifters, tricks). А система, пусть и дорогая в момент установки, в пределах нескольких лет экономит сотни тысяч долларов на каждом магазине. Снижая потери от воровства, в том числе от самих сотрудников. Несколько десятков случаев ложных срабатываний за день — такое можно простить.
В Everseen говорят, что с касс самообслуживания воруют на два порядка (в 100 раз чаще), чем через кассиров. Раньше, чтобы как-то это предотвращать, компании ставили множество сенсоров, в том числе датчиков веса. Но работало это далеко не всегда, а опытные магазинные воры быстро научились это обходить (у них есть форумы и даже ютуб-видео, в комментариях к которым делятся секретами).
Теперь большинство крупных ритейлеров, обслуживающих миллионы клиентов каждый день, рассчитывают на компьютерное зрение и машинное обучение. Everseen из Ирландии — только одна из них. Walmart сама разрабатывает другую, пока неназванную платформу, чтобы не зависеть от сторонней фирмы. А Amazon использует похожую технологию в своей знаменитой сети супермаркетов Amazon Go, которая работает вообще без касс. Там они полностью полагаются на систему своих камер, которые записывают, какие вещи взял с собой покупатель, и сколько с его карточки потом нужно будет спросить. У Amazon, говорят, тоже бывают ложные срабатывания, но магазин потом все такие обращения быстро решает онлайн, и дает клиентам бонусы, так что недовольных покупателей почти не остается.
