Глава отдела безопасности Anthropic подал в отставку, обеспокоенный растущими угрозами современного мира и их последствиями для технологий и общества.
Шарма, который возглавлял направление по защите данных, выразил в письме своим коллегам, что достиг всех поставленных целей на своей должности. Среди его достижений — работа над мерами по борьбе с биотерроризмом и анализ воздействия искусственного интеллекта на общество.
В дальнейшем эксперт намерен уделить внимание изучению поэзии. Ранее компанию покинули Херш Мехта, работавший в исследовательском отделе, и Бехнам Нейшабур, ведущий ИИ-специалист. Дилан Скандинаро, прежде работавший в области безопасности ИИ, отправился в OpenAI.
Ранее критики искусственного интеллекта высказывали опасения о потенциальной катастрофе в ближайшие годы из-за быстрого прогресса технологий. Эта идея находит все больше сторонников в Соединенных Штатах.
Многие эксперты также подчеркивают необходимость междисциплинарного подхода к разработке и регулированию ИИ. Обсуждаются вызовы, связанные с этической стороной технологий, а также их воздействием на рынок труда и повседневную жизнь людей. Например, замещение рабочих мест автоматизированными системами может привести к увеличению уровня безработицы в определенных секторах.
Кроме того, продолжаются дебаты о необходимости создания четкой законодательной базы для регулирования ИИ. Ученые и правозащитники высказывают опасения, что отсутствие норм может привести к неэтичному использованию технологий для слежки или манипуляций с общественным мнением.
Поэтому уход Шармы из компании вновь актуализирует важные вопросы, касающиеся ответственности разработчикoв ИИ и их роли в формировании будущего общества.
