Готовится законопроект, призванный ограничить замену в колл-центрах живых людей искусственным интеллектом (ИИ). Наши читатели постоянно жалуются на невозможность дозвониться до коммунальщиков, аварийных или сервисных служб. Любо никто просто не отвечает, либо линии вечно заняты. В лучшем случае, на звонок отвечает робот, который ничего не слушает, а просто говорит дежурные фразы. Технологии сейчас так двинулись, что порой человек даже не может понять, что общается с роботом! Тем более, если общение происходит посредством переписки в сети. Человек сутками может «стучаться» в чат-бот на базе ИИ и не понимать, что это робот, который не может реагировать на нестандартные ситуации и решать специфические проблемы. Темой наконец озаботились на государственном уровне: готовится законопрект «О регулировании систем искусственного интеллекта», которым предусматривается, что компании и госструктуры должны будут указывать, что общаются с гражданами по телефону или через интернет с помощью ИИ – если такие технологии применяются в их контакт-центрах. По мнению авторов, сегодня ИИ активно используется в call-центрах, чат-ботах, сервисах поддержки, но далеко не всегда пользователи осознают, что общаются не с человеком. Крупные коммерческие организации, в первую очередь банки, маркетплейсы, операторы связи злоупотребляют данной функцией при взаимодействии с клиентами. В ряде случаев они вовсе отказываются от call-центров и переводят всё общение с клиентами на голосовых помощников (ботов), а это не способствует оперативному решению проблем клиентов. В условиях, когда технологии становятся всё более реалистичными, вопрос честного уведомления выходит на первый план – как с этической, так и с правовой точки зрения. Информирование поможет минимизировать риски манипуляций, особенно в чувствительных сферах – например, при финансовом консультировании, обслуживании уязвимых категорий граждан или предоставлении медицинской информации. Пользователь должен понимать, когда он получает автоматизированный ответ, чтобы адекватно оценивать его значимость, точность и возможные ограничения. Кроме того, наличие функции переключения на живого специалиста по запросу усиливает контроль со стороны клиента и снижает риск недопонимания. Чат-бот или автоответчик на базе нейросети не всегда может решить проблему человека в нестандартной ситуации или решить ее вообще. При этом в поддержку часто обращаются люди в состоянии стресса и просто не могут разобраться, с роботом или человеком общаются, особенно это касается пожилых людей. Неверное решение, подсказанное «человекообразным» помощником, способно оказаться фатальным. Не в состоянии правильно сформулировать запрос к ИИ человек не получает на него оперативный ответ. Мало того, общение с роботом по телефону порой может оказаться не только непродуктивным, но даже опасным! Поскольку под видом ИИ-сервисов могут действовать злоумышленники, стремящиеся ввести человека в заблуждение, выманить личные данные или провести фишинговую атаку. Поэтому новым законопроектом предлагается следующее: если клиент или пользователь услуг общается с их поставщиком по телефону, ему следует предоставить возможность взаимодействия с оператором – человеком, а если через чат-бот в интернете – должно быть указание на автоматизированный характер формирования ответов и сообщений. Кстати, схожие инициативы развиваются сейчас и в других странах. Например, в Евросоюзе действует закон об искусственном интеллекте, который призван остановить распространение дезинформации и предписывает создателям генеративных моделей искусственного интеллекта вводить соответствующие уведомления.