Развитие искусственного интеллекта все сильнее тревожит человечество: доля людей, которых ИИ «нервирует», выросла с 39% в 2022 году до 52% в 2025-м. А эксперты предупреждают, что наиболее опасны не столько сами технологии, сколько возможность их неконтролируемого применения.
В исследовании лаборатории Массачусетского технологического института (MIT) 272 специалиста оценили 24 потенциальных риска и вероятность их катастрофических последствий до 2030 года. Катастрофой считались, например, гибель более миллиона человек, экономический ущерб свыше $100 млрд. или последствия цивилизационного масштаба – от краха демократических норм до исчезновения права на частную жизнь.
Средняя оценка вероятности ИИ-катастрофы составила около 10%, а при отсутствии ограничений и регулирования превысила 20%.
Главной угрозой эксперты назвали сценарий, напоминающий «Терминатора»: ИИ, вышедший из-под контроля и способный самостоятельно обучаться причинению масштабного вреда. Причинами могут стать технические сбои, действия злоумышленников или несовпадение целей системы с интересами человека. Среди потенциальных последствий – массовый обман и манипулирование людьми, разработка оружия, вмешательство в политику, кибератаки, создание еще более совершенных ИИ и даже его самораспространение.
Массовая безработица, которой часто пугают в связи с развитием ИИ, заняла лишь четвертое место. Второе и третье места получили связанные с первой угрозой риски: использование ИИ для разработки оружия и кибератак, а также концентрация передовых технологий и ресурсов в руках узкого круга людей, способная усилить социальное и экономическое неравенство.
При этом рост общественной тревоги пока почти не приводит к усилению контроля. Эксперты отмечают парадокс: решения о развитии ИИ принимают главным образом те, кто получает от него выгоду, тогда как наиболее уязвимые группы практически не имеют влияния на этот процесс. В отличие от авиации, фармацевтики и других потенциально опасных отраслей, где существуют стандарты, контроль и юридическая ответственность, механизмы регулирования ИИ пока находятся на стадии формирования.
Наиболее уязвимыми эксперты считают информационные технологии и национальную безопасность. Первая сфера особенно подвержена дезинформации, манипулированию общественным мнением и нарушениям приватности, вторая – кибератакам и появлению новых видов вооружений.
Высокие риски также характерны для финансового сектора, где ИИ одновременно используется для борьбы с мошенничеством и становится все более важной частью самой финансовой системы, повышая цену возможных сбоев.
Меньше всего, по оценке экспертов, пока уязвимы гостинично-ресторанный бизнес, сельское хозяйство, обрабатывающая промышленность, культура и индустрия развлечений – прежде всего потому, что ИИ здесь применяется менее активно.
Иными словами, вопрос «заберет ли ИИ наши рабочие места?» может оказаться далеко не главным. Гораздо серьезнее другой вопрос: кто будет контролировать технологии, способные изменить не только рынок труда, но и само устройство общества?
