Эксперимент показал неготовность ИИ к работе продавцом
В 2025 году компании Anthropic (разработчик искусственного интеллекта) и Andon Labs (специализируется на безопасности ИИ) провели эксперимент, который показал, что нейросеть пока не может вести розничную торговлю: ИИ попытался нарушить ряд американских законов, возомнил себя коммунистом и стал раздавать товары бесплатно.
В эксперименте исследователи обратились к простейшей модели бизнеса – торговому автомату: что может быть проще коробки, куда кладут товар и откуда за плату его берут?
Искусственному интеллекту Claude Sonnet дали имя Клавдий (Claudius), а местом для торговли выбрали офис Anthropic в Сан‑Франциско.
Клавдий мог сам выбирать ассортимент и устанавливать цены. Однако исследователи проявляли осторожность: напрямую общаться с поставщиками ИИ не разрешили, опасаясь нежелательных последствий. Искусственный интеллект искал товары в Интернете, но оформлял заказы через экспериментаторов-посредников. Меры оказались оправданными: несколько раз система пыталась совершить сделки, незаконные в США.
В то же время к людям ученые отнеслись с большим доверием. Конструкция не предусматривала замков: клиент оплачивал покупку через сервис мобильных платежей и самостоятельно забирал товар.
ИИ не мог отследить, воруют ли у него. Впрочем, практика показала: в этом не было нужды – нашлось немало способов получить продукцию бесплатно. По итогам первой фазы эксперимента, продлившейся с 13 марта по 17 апреля, исследователи констатировали: «Если бы Anthropic решила выйти на рынок офисного ритейла, мы бы не наняли Клавдия. Он допустил слишком много ошибок».
Чтобы отслеживать спрос и получать обратную связь, Клавдию позволили общаться через мессенджер с сотрудниками Anthropic, где стоял торговый автомат. В результате людям удалось убедить ИИ, что им необходимы вольфрамовые кубики; также у покупателей получалось торговаться с нейросетью, да так, что ряд товаров доставался им бесплатно; порой Клавдий сам устанавливал неожиданные скидки на товары, которые и так пользовались спросом, и т.д.
Наконец, часть средств Клавдий потерял из‑за «галлюцинаций». Платежи поступали через сервис мобильной оплаты Venmo, но в какой-то момент ИИ придумал несуществующий счет и стал просить клиентов переводить деньги туда. В итоге, начав работу 13 марта с первоначальным капиталом в 1000 долларов, Клавдий завершил эксперимент 17 апреля, имея на счету лишь 770.
Источник: Ведомости
Image for illustration only. Image source: Freepik.com
