Покупатели идут за советом к нейросетям, зачастую не задумываясь, что тем плевать на спрашивающих — у нейронок совсем другие задачи
Полина Носова

Материал комментируют:
Роман Ромачев Сергей Гатауллин
Чем больше люди пользуются нейросетями в повседневной жизни, тем больше несовершенств они в них находят. Например, ИИ способен ошибаться при выборе товаров и услуг, а пострадать от таких советов может и покупатель, и продавец.

Человек и нейросети имеют разные подходы, в данном случае — к выбору товаров и услуг. Эксперты отмечают, что «мы смотрим на отзывы, общий рейтинг производителей, продавцов». ИИ же ищет в интернете повторяемость, упоминания. Если о компании мало информации в сети, то нейросеть с большой вероятностью не расскажет о ней потребителю.

При этом россияне активно доверяют искусственному интеллекту в вопросах покупок. Согласно опросу «АльфаСтрахования», 47% респондентов пользуются нейросетями для поиска более выгодного предложения и сравнения товаров, 29% советуются с ИИ о выборе между несколькими вариантами товара.

При выборе дорогих покупок, гаджетов, авто к ИИ часто обращаются мужчины, женщины прибегают к нейросетям как к инструменту сравнения цен, поиска отзывов, анализа предложений.

Почему мы идем за советом по покупкам к нейросетям? С этим вопросом «Свободная Пресса» обратилась к кандидату экономических наук, специалисту по технической защите информации Сергею Гатауллину:

— Популярности нейросетей в ритейле и сфере услуг способствует гиперболизация выбора, то есть избыточный выбор или парадокс выбора. ИИ системы автоматизируют монотонный перебор однотипных карточек товаров и услуг, практически моментально обрабатывая огромный объем данных.

Доверие к нейросетям строится на иллюзии объективности, экономии времени, персонализации и человекоподобном интерфейсе взаимодействия.

«СП»: Чем обусловлены ошибки ИИ при выборе товаров и услуг? Неточностью запроса человека, большим количеством отзывов? Почему нейросети нас подводят?

— Ошибки при выдаче ответов генеративным ИИ пока регулярны и связаны с несколькими причинами.

Большие языковые модели обучены генерировать правдоподобный текст, а не проверять факты. При этом доступ таких систем к фактам ограничен сетевой информацией, которая как устаревает, так и может иметь искажения, например, недобросовестными практиками продавцов в виде массовых вбросов ложных отзывов о товарах и услугах. Со стороны пользователя размытые запросы приводят к практически бесполезным ответам.

«СП»: Почему мы спотыкаемся об ошибки нейросетей?

— Самая большая проблема заключается в экспертной асимметрии, то есть человек зачастую не обладает достаточными знаниями, чтобы распознать скрытую ошибку или предвзятость в убедительном ответе ИИ.

Нейросети не успевают за сменой информации, поэтому ошибаются, считает гендиректор коммуникационного агентства PR Dev, Алла Аксёнова:

— В интернете могут быть устаревшие карточки, рекламные публикации, накрученные отзывы, противоречивые характеристики или неполные сведения о наличии и цене.

Нейросеть способна с полной уверенностью пересказать такую информацию, смешать параметры разных моделей или даже привести несуществующую характеристику.

Это не обязательно происходит постоянно, но риск возрастает там, где данные быстро меняются: цены, наличие, условия доставки.

Гендиректор Агентства экономической разведки «Р-техно» Роман Ромачев:

— Ничего не стоит обучить ИИ создавать отзывы, использовать образ реального человека для накрутки положительных. Также легко научить нейросеть писать негативные отзывы для «гашения» конкурента. Технических проблем тут нет. Среди обучающих нейросети есть услуга продвижения бренда в них. Суть такая: нейросети будут рекламировать продукт, встраивать в контент, запрашиваемый пользователями социальных сетей.

Использовать ИИ проще, чем доказывать полезность своего продукта. Организации смогут впаривать людям чушь и накручивать отзывы через нейросети.

«СП»: Страдают ли компании от помощи ИИ в выборе товаров и услуг?

— Нейросети могут использоваться брендами для создания «ударного контента» в борьбе за репутацию. Например, магазин одежды дает человеку возможность загрузить свое фото для ИИ-генерации на себе наряда из его ассортимента, чтобы покупатель глянул, как он на нем сидит.

Такой безобидный сервис может использоваться для «одевания» известных личностей в откровенную или нелепую одежду, потом эти фото выдаются за реальные, ударяют по репутации.

«СП»: Нужно ли нейросетям доверять выбор товаров и услуг? Или же нам стоит продолжать полагаться на себя?

— Не рекомендую ни в коем случае доверять нейросетям. Их надо использовать в качестве помощников. Вы спросили, ИИ ответил, а конечное решение должно оставаться за человеком.

Нейросеть может предложить, а человек должен изучить, проверить. Важно сохранять критическое мышление, выбирать самому, тогда нейросеть будет хорошим помощником.