Американский сенатор Берни Сандерс провел интервью с известной моделью ИИ Claude, которая раскрыла информацию о бесконтрольной торговле данными пользователей, которые компании используют для своих целей.
Беседа экс-кандидата в президенты США с этой программой была изложена в статье TheTechPencil.
На вопрос о том, какие угрозы существуют для демократии, Claude рассказала Сандерсу о манипуляциях, в ходе которых «ради прибыли» собираются сведения о поведении пользователей в интернете, их местоположении, а также о покупательских предпочтениях. Искусственный интеллект, зачастую не получая согласия от людей, формирует профили, которые затем перепродаются рекламодателям или политическим организациям.
«Лоббизм, профильная аналитика, микротаргетинг, разрушение информированного согласия» — такие проблемы, как упоминает в материале, признал ИИ-собеседник сенатора, отметив, что в условиях быстрого прогресса в данной области будет крайне сложно добиться эффективного регулирования.
Ранее Сандерс, который выступает за мораторий на создание новых дата-центров, предостерегал, что восстановление производственной сферы в США не принесет пользы, если рабочие места окажутся заменены ИИ. Он подчеркивал, что такие техномиллиардеры, как Илон Маск, инвестируют в искусственный интеллект, но не заботятся о нуждах трудового населения.
Кроме того, в феврале стало известно о Зои Хитциг, которая ушла из OpenAI в день запуска тестирования рекламы в ChatGPT. В новой системе персонализация для пользователей была активирована по умолчанию. По словам эксперта, массив медицинских данных и информация о личных предпочтениях и убеждениях людей, которые были собраны «потому что они уверены, что общаются с безмотивным созидателем», в итоге попадают в руки специалистов по маркетингу.
Существует опасение, что с развитием технологий конфиденциальность пользователей будет под угрозой. Эксперты подчеркивают необходимость разработки строгих законодательных норм, которые могли бы ограничить произвольный доступ к личным данным и обеспечить их защиту. Одним из возможных решений считается создание прозрачных механизмов для сбора и обработки данных, где пользователи будут контролировать свои личные данные и давать явное согласие на их использование.
Также некоторые специалисты предлагают внедрение систем анонимизации данных, что могло бы значительно снизить риски утечек и недобросовестного использования информации. Тем не менее, необходимо учитывать, что даже анонимные данные могут быть использованы в интересах крупных компаний, если существует недостаток в законодательстве и контроле за их обработкой.
