Photo by Mohamed Hassan form PxHere
Искусственный интеллект (ИИ), ещё недавно рассматривавшийся в основном как драйвер роста, стремительно превращается в одну из самых серьёзных угроз для мирового бизнеса. Согласно новому ежегодному исследованию «Барометр рисков» от Allianz Commercial, дочерней компании мюнхенского концерна Allianz, риски, связанные с ИИ, за год совершили головокружительный скачок — с десятого на второе место в глобальном рейтинге.
Первое место, как и прежде, удерживают кибератаки, но эксперты отмечают, что эти угрозы всё чаще переплетаются.
Рейтинг, опубликованный в начале года, основан на опросе 3 338 экспертов из 97 стран, включая руководителей компаний, страховых брокеров и консультантов по рискам.
- Киберпреступность (включая атаки программ-вымогателей)
- Риски искусственного интеллекта
- Перебои в деятельности бизнеса
«Эти три ключевых риска тесно связаны, — отмечают аналитики Allianz. — Кибератаки, часто усиленные инструментами ИИ, являются одной из главных причин сбоев в работе компаний».
Интересно, что восприятие угрозы ИИ варьируется по странам. Если в Германии она заняла четвёртое место, то в Швейцарии — второе, а в Австрии и вовсе поднялась на первую строчку.
Эксперты единодушны в оценке двойственного влияния технологии. С одной стороны, ИИ — мощный инструмент для оптимизации процессов и даже для создания систем киберзащиты. С другой — он порождает новые, плохо изученные риски.
«Возможно, это и проклятие, и благословение одновременно, — заявил региональный директор Allianz по Германии и Швейцарии Михаэль Фуртшеллер. — ИИ несёт в себе быстро растущий риск, который компании только начинают осознавать».
Главная опасность, по мнению специалистов, — симбиоз ИИ и киберпреступности. Злоумышленники используют алгоритмы для масштабирования и совершенствования атак.
«ИИ позволяет создавать сверхперсонализированные фишинговые письма, подделывать голос и видео в реальном времени, — объясняет Михаэл Даум, руководитель подразделения по киберубыткам Allianz. — Большинство успешных атак по-прежнему требует “человеческого фактора” — ошибки сотрудника, которого искусно вводят в заблуждение».
Однако, как предупреждают в Allianz, внешние атаки — лишь верхушка айсберга. Не менее серьёзную опасность таит в себе легальное использование ИИ внутри компаний.
«ИИ работает с определённой степенью автономии, поэтому его результаты могут быть неверными, предвзятыми или полностью сфабрикованными, — поясняет Александра Браун, менеджер Allianz Commercial. — Использование ошибочных или дискриминирующих данных, сгенерированных ИИ, может привести к судебным искам, репутационным потерям и финансовому ущербу».
К числу ключевых бизнес-рисков также относят нарушение авторских прав, когда алгоритмы используют защищённый контент для обучения или генерации ответов без соответствующей лицензии.
Главный посыл исследования — компаниям необходима продуманная стратегия управления рисками, связанными с ИИ. Это включает не только защиту от внешних атак, но и внутренние политики ответственного использования технологий, аудит алгоритмов, обучение сотрудников и правовой анализ.