Документ может ввести ограничения на использование нейросетей онлайн‑платформами — в частности, если такие технологии применяются с целью повлиять на потребительское или иное поведение пользователей.
Речь идёт о ситуациях, когда ИИ‑программы анализируют активность человека в сети и побуждают его к определённым действиям — например, к совершению покупок — без его осознанного желания. В таких случаях платформы учитывают психологические, возрастные или социально‑экономические характеристики людей, чтобы оказать на них воздействие.
Согласно предложенному документу, разработчики и интеграторы систем ИИ будут обязаны информировать потребителей о недопустимости манипулирования их поведением с помощью подобных технологий. Ответственность за предотвращение таких манипуляций возложат на создателей и операторов сервисов: они должны гарантировать, что алгоритмы не подталкивают пользователей к решениям, которые те не приняли бы без скрытого давления.
Эксперты отмечают, что современные ИИ‑системы способны значительно усиливать воздействие цифровых сервисов. Анализируя огромные объёмы данных, алгоритмы формируют персонализированные рекомендации, повышая вероятность отклика, выгодного для платформы. Подобные методы широко используются:
-
в рекламной индустрии;
-
в рекомендательных системах;
-
в онлайн‑торговле;
-
в диалоговых ботах.
Например, сервисы могут подбирать контент или элементы интерфейса так, чтобы создать у пользователя ощущение срочности либо вызвать доверие.
Вместе с тем часть экспертов считает, что полностью заблокировать манипуляции через нейросети будет сложно. Поведение ИИ зависит от используемых моделей и контекста взаимодействия, а число возможных сценариев практически неограниченно — это затрудняет прогнозирование всех потенциальных уловок. Кроме того, слишком строгие нормы регулирования могут негативно повлиять на работу рекомендательных алгоритмов. Ведь такие системы помогают пользователям ориентироваться в большом объёме информации и облегчают поиск нужных товаров и услуг.
В Минцифры уточнили, что законопроект сейчас согласовывается с другими ведомствами, а окончательный текст документа ещё не утверждён. В ведомстве подчёркивают: развитие ИИ остаётся приоритетом, но его применение должно соответствовать интересам и правам граждан.
По имеющимся данным, сегодня уже 35 % интернет‑покупателей в РФ используют ИИ при выборе и покупке товаров. Ожидается, что в среднесрочной перспективе доля покупателей, обращающихся к ИИ‑помощникам, может вырасти до 74 %.
