Правда ли, что в умных магазинах без касс от Amazon вместо искусственного интеллекта работала тысяча индийцев?

В апреле 2024 года широкий резонанс вызвала новость о том, что в офлайн-магазинах Amazon вместо заявленного искусственного интеллекта работу выполняли сотни индийцев, наблюдавших за покупателями по видеокамерам. Мы проверили, так ли это.

Публикации о том, что Amazon якобы закрывает свои магазины с ИИ-технологией Just Walk Out («Взял и иди»), начали появляться сначала в американской прессе, а потом и в русскоязычных СМИ. 3 апреля издание РБК написало, что вместо ИИ товары сканировала 1000 индийцев, а публикация на сайте НТВ вышла под заголовком «Работу нейросети в умных магазинах Amazon выполняли тысячи индусов». Портал «ГородЧе» описал случившееся так: «Крупнейшая афера в области ИИ. 1000 индусов заменили искусственный интеллект. Amazon признался в крупной афере». Прокомментировали новость и в Госдуме РФ — по мнению депутата Алексея Говырина, «России не стоит связываться с Amazon», ведь «вместо того, чтобы взять десять кассиров и охранника, компания эксплуатировала тысячу индусов-удалёнщиков». Аналогичное утверждение опубликовало и издание «Холод»: «Amazon выдавал работу тысячи индийцев за искусственный интеллект», а на самом деле «кассиров просто перевели в другое место». Сообщения об афере разошлись и в Telegram — например, канал «Топор 18+» (3 млн просмотров на момент написания этого разбора) отметил: «Оказалось, что никакого искусственного интеллекта не было», а «ВПШ» (500 000 просмотров) написал, что «технология [Amazon] оказалась фейком». «За покупателями через камеры следила тысяча низкооплачиваемых индусов — они смотрели, какие товары вы взяли, и проводили покупку», — говорится в публикации.

Технология Just Walk Out — разработка компании Amazon, которая позволяет офлайн-магазинам обслуживать покупателей без касс и продавцов. На входе в магазин стоят турникеты, для входа нужно отсканировать QR-код в приложении Amazon Go. В торговом зале покупатель может взять товар с полки и положить себе в сумку или карман — тогда продукт вносится в предварительный список покупок (если вернуть товар на место, то он будет удалён из перечня). Когда человек покидает магазин через те же турникеты, приложение фиксирует итоговый список покупок, а через пару минут присылает электронный чек и списывает плату со счёта в Amazon.

С технической точки зрения такие умные магазины работают примерно так: в момент сканирования QR-кода покупателем видеокамеры считывают и запоминают его физические характеристики, а датчики движения и микрофоны начинают отслеживать перемещение человека по торговому залу. Система инфракрасных датчиков и сенсоров веса распознаёт, какие товары посетитель взял с полки и положил в сумку, а какие вернул на место. По информации на сайте Amazon, Just Walk Out сочетает в себе те же технологии, что и беспилотные автомобили: компьютерное зрение (область ИИ, связанная с анализом изображений и видео), слияние сенсорных данных (построение единой картины на основе информации, полученной от разных датчиков) и глубокое обучение (тип машинного обучения, который с помощью искусственных нейронных сетей обеспечивает цифровым системам возможность обучаться и принимать решения на основе неструктурированных данных).

Amazon начал разработки технологии Just Walk Out в 2012 году. Спустя четыре года компания открыла первый тестовый магазин для своих сотрудников, а ещё через два года запустила первый офлайн-магазин для широкой публики. Позже систему внедрили в магазинах Amazon Go, Amazon Fresh, супермаркетах других крупных ретейлеров и минимаркетах на стадионах, в аэропортах и прочих заведениях в США, Великобритании, Канаде и Австралии. В 2018 году основатель Amazon Джефф Безос в своём ежегодном письме акционерам писал, что технология Just Walk Out — способ «избавиться от худшего, что есть в физической розничной торговле: очереди на кассу».

Итак, действительно ли технология Just Walk Out полагалась не на ИИ, а на тысячу людей из Индии, которые дистанционно наблюдали за покупателями и вручную заносили их покупки в чек? Впервые упоминание о занятой в проекте тысяче индийцев появилось в издании The Information в мае 2023 года, но, как отметили спустя почти год сами авторы, осталось тогда без особого внимания. Они предположили, что это могло произойти из-за «отсутствия скептицизма в отношении любой технологии, связанной с искусственным интеллектом». The Information сообщало, что в проекте Just Walk Out задействовано более тысячи сотрудников, в основном базирующихся в Индии. Тогда же представитель Amazon подтвердил, что компания наняла людей в этой стране для отсмотра видеозаписей, но не уточнил, сколько их было и чем именно они занимались. 2 апреля 2024 года вице-президент Amazon Тони Хоггетт в интервью для издания The Information заявил о прекращении использования Just Walk Out в супермаркетах Amazon Fresh. И когда в статье с интервью издание снова упомянуло команду из Индии в контексте некоторых трудностей, с которыми столкнулись разработчики Just Walk Out, тогда-то деталь про тысячу индийцев и получила столько внимания в СМИ.

Однако в публикациях, обвиняющих Amazon в обмане, есть большая неточность касаемо того, зачем технологии Just Walk Out, помимо ИИ, нужно было столько сотрудников. ИИ-система требует постоянных корректировок, и даже самую простую нейронную сеть нужно сначала обучить на огромном количестве примеров с уже размеченными данными. В случае Just Walk Out это могли быть, например, заранее подготовленные кадры с покупателями, совершающими определённое действие, и пометки о том, что именно делает человек. Такой метод обучения нейросети называется «обучение с учителем». То есть прежде, чем ИИ сможет самостоятельно и качественно анализировать данные, человек должен подготовить для него тысячи образцов с разъяснениями. В разговоре с изданием Quartz неназванный бывший сотрудник Amazon, работавший с Just Walk Out, пояснил, что его индийские коллеги занимались именно разметкой данных для обучения ИИ-модели и что это является обычной практикой в машинном обучении. Также команда из Индии перепроверяла видео покупок, помеченные самой нейросетью как «события с низкой степенью уверенности», то есть результаты её анализа, в которых вероятны ошибки. В таких случаях люди отсматривали ролики и при необходимости пересчитывали сумму в чеке покупателя.

Изначально Amazon предполагал, что по мере совершенствования ИИ-модели перепроверять придётся не больше 5% покупок. На момент запуска Just Walk Out в 2016 году консультация человека требовалась почти во всех случаях, к середине 2022 года количество проверок уменьшилось до 70%, а в апреле 2024 года, по словам бывшего разработчика Amazon, снизилось до 20–50%, что всё равно было в разы выше изначального плана компании. При этом пресс-служба Amazon в комментарии USA Today заявила, что «сотрудники проверяют лишь небольшую долю покупок» и что «от года в год количество перепроверок людьми сокращается, несмотря на масштабирование проекта». На посыпавшиеся обвинения в подмене ИИ работниками из Индии представитель Amazon Сармишта Рамеш возразила, что эти сотрудники лишь аннотируют видеоизображения с целью совершенствования модели, лежащей в основе технологии Just Walk Out.

Подобная подстраховка искусственного интеллекта человеческим используется повсеместно, особенно на этапе тренировки ИИ-моделей. Например, OpenAI — создатель ChatGPT — в 2023 году платил тысячам фрилансеров по $15 в час за написание предлагаемых ответов на вопросы пользователей чат-бота, которые потом использовались для обучения ИИ. Примерно столько же предлагала компания Invisible за написание тренировочных разговоров, в котором работник поочерёдно выступал в роли пользователя и нейросети. За маркировку данных для беспилотных автомобилей некоторые фрилансеры получали $1 в час. У Amazon даже есть специальная платформа для найма таких сотрудников — Amazon Mechanical Turk, названная в честь шахматного автомата XVIII века, в котором на самом деле прятался живой шахматист, выдающий свои ходы за игру умной машины.

Человеческий труд широко используется не только для тренировки ИИ, но и для подстраховки и исправления допущенных им ошибок. Например, беспилотные такси компании Cruise на этапе тестирования требовали дистанционного вмешательства оператора-человека каждые 7–8 км, когда «водители-роботы» попадали на дороге в трудную ситуацию. А фрилансеры ChatGPT исправляли ответы чат-бота, помеченные пользователями как некачественные. Несмотря на быстрое развитие ИИ, он всё ещё во многом полагается на огромные человеческие ресурсы.

Тем не менее Amazon действительно решил отказаться от использования Just Walk Out в своих супермаркетах Fresh по ряду причин. По словам бывшего сотрудника компании, с которым поговорило издание Quartz, руководство планировало сделать это уже почти год — технология хорошо работала в небольших магазинах с маленьким выбором товаров и потоком людей, а вот для крупных торговых точек оказалась неподходящей. Датчики веса для отслеживания покупок, обходившие камеры в надёжности, были слишком дорогими в изготовлении ($350 каждый), а доля перепроверок людьми хоть и снижалась, но всё равно была значительно выше запланированных 5%.

Во многих публикациях о закрытии магазинов Amazon с технологией Just Walk Out не только искажена роль в проекте сотрудников из Индии, но и допущены другие неточности. Во-первых, эта технология уходит только из супермаркетов Amazon Fresh в США, но по-прежнему будет применяться в магазинах Amazon Go, некоторых точках Amazon Fresh в Великобритании и более чем 130 сторонних магазинах в аэропортах, учебных заведениях и кафе. Во-вторых, магазины Amazon Fresh в США не закрываются, просто на смену технологии Just Walk Out придёт новый гаджет — умные тележки Dash Cart, которые сканируют находящиеся в них товары. Некоторые супермаркеты Amazon Fresh уже несколько лет используют обе технологии одновременно вдобавок к традиционному методу оплаты покупок на кассе для тех, кто не является клиентом Amazon.

Таким образом, утверждения, что технология Just Walk Out оказалась фейком и что никакого искусственного интеллекта не было, а вместо него работала тысяча индийцев, не соответствуют действительности. Сотрудники (сколько их было — до конца непонятно, но большинство из них и правда находились в Индии) осуществляли обычную для ИИ-проектов работу по разметке данных, тренировке модели и исправлению допущенных ею ошибок. Решение отказаться от Just Walk Out в магазинах Amazon Fresh было обусловлено множеством неточностей в работе ИИ и дороговизной оборудования. При этом модель успешно показала себя в небольших магазинах, поэтому продолжит работать в десятках локаций в США, Великобритании, Канаде и Австралии.

Фото на обложке: Wikimedia Commons