Флорида подала иск к OpenAI за угрозу детской психике

Этот иск стал первым в США против данной компании. По мнению государственных органов, интеллектуальная платформа ChatGPT, разработанная стартапом, представляет собой опасность, а его создатели вводят пользователей в заблуждение относительно возможных рисков.

Обвинения в адрес компании включают недобросовестные практики и халатное отношение к вопросам безопасности. В частности, указывается на то, что ChatGPT как минимум способствовал действиям массовых убийц, подстрекал к самоубийствам и способствовал ухудшению «критического мышления» среди пользователей.

Важным моментом является отсутствие эффективной системы родительского контроля, поскольку бесплатная версия ChatGPT не включает механизмы для проверки возраста, и учётные записи несовершеннолетних не требуют привязки к родителям.

«Сэм Альтман и ChatGPT выбрали путь развития ИИ, пренебрегая безопасностью наших детей. Они отдали предпочтение прибыли перед общественной безопасностью, и этого мы не потерпим в нашем штате», — заявил генеральный прокурор Флориды Джеймс Утмайер на пресс-конференции.

OpenAI в своём официальном обращении признала, что несовершеннолетние «нуждаются в надежной защите», и отметила, что уже внедрила современные меры, такие как инструменты для оценки возраста и уведомлений для родителей.

Специалисты в области цифровой безопасности подчеркивают важность создания эффективных механизмов защиты для несовершеннолетних пользователей. Это может включать в себя активацию фильтров контента, использование алгоритмов для обнаружения потенциально опасного поведения и регулярные проверки системы на предмет соответствия стандартам безопасности.