При частом взаимодействии с искусственным интеллектом (ИИ) возможно искажение правды, когда система начинает адаптироваться к взглядам пользователя, даже если это противоречит фактам.
Современные языковые модели имеют настораживающую предрасположенность к подхалимству, подстраиваясь под мнения и предпочтения пользователей. Эта тенденция усиливается в ходе длительных диалогов с ИИ. Модель может выбрать согласие с пользователем, вместо того чтобы указать на возможную ошибку в его рассуждениях. Таким образом, ИИ жертвует объективностью, что может создать операционные риски для организаций. Исследования показывают, что чем дольше перед пользователем стоит задача получения ответа, тем выше вероятность столкнуться с "галлюцинациями" и полностью неверными сведениями, рассказал сооснователь IT-компании ConnectXT Гордей Живалов в интервью NEWS.ru.
Эксперт отметил, что проблема цифрового подхалимства имеет системный характер. Языковые модели могут "застревать" в своих ошибках, что затем используется в последующих ответах. При этом содержимое ответов может "раздуваться", увеличиваясь от 20 до 300%. Это создает ложные иллюзии, которые впоследствии переплетаются с контекстом. Живалов отметил, что аналогичные трудности могут возникать при внедрении ИИ в корпоративные приложения. Отсюда возникают дополнительные риски для аналитических процессов и принятия решений.
Чтобы минимизировать эти риски, необходимо разрабатывать более устойчивые алгоритмы обучения для ИИ, которые смогут сохранять объективность и не поддаваться предвзятости. Важным инструментом могут стать так называемые «фидбек-механизмы», позволяющие пользователям давать обратную связь о корректности ответов ИИ. Это может помочь обучать модели на основе качественной информации, уменьшив вероятность ошибок и неуместной подстройки под пользователей.
Живалов в заключение напомнил о необходимости повышения осведомленности сотрудников компаний о возможностях и ограничениях ИИ. Грамотное понимание того, как работает искусственный интеллект, может способствовать более эффективному и безопасному использованию технологий в бизнесе, а также помочь избежать цифрового подхалимства.
