Федеральное правительство всерьёз активизирует борьбу с терроризмом и организованной преступностью — и впредь будет делать ставку на искусственный интеллект. В среду кабинет министров утвердил пакет законов, предоставляющий Федеральному ведомству уголовной полиции (БКА) и Федеральной полиции широкий спектр новых цифровых следственных полномочий.
Ядром реформы являются два ключевых инструмента:
• Автоматизированный анализ данных. Отныне органы власти смогут с помощью ИИ прочёсывать большие объёмы данных из различных источников, чтобы выявлять закономерности и скрытые связи.
• Биометрический интернет-сравнение. Фотографии и голоса подозреваемых можно будет автоматически сопоставлять с общедоступными изображениями и аудиозаписями из интернета — например, из социальных сетей — для идентификации лиц, установления их местонахождения и выявления связей между преступлением и преступником.
До сих пор такое сопоставление было возможно только путём трудоёмкого ручного поиска, покадрово.
Федеральный министр внутренних дел Александр Добриндт (ХСС) подчеркнул необходимость этих мер: «Раньше мы работали с дневниками, сегодня — с терабайтами, то есть миллионами и миллиардами данных. Вот почему нам нужны современные следственные полномочия». Автоматизированный анализ данных является «важным рычагом в борьбе с терроризмом и тяжкой преступностью».
Федеральный министр юстиции Стефани Хубиг (СДПГ) заявила, что использование ИИ будет подчинено строгим ограничениям. Решения по уголовным делам и впредь будут приниматься людьми, а не алгоритмами.
«Не всё, что технически возможно, допустимо в правовом государстве», — сказала Хубиг.
Однако было бы халатностью не предоставить следственным органам такие инструменты.
Технология, которая уже используется в некоторых федеральных землях, например, в Северном Рейне-Вестфалии, часто принадлежит американскому концерну Palantir. Один из его соучредителей — технологический миллиардер Питер Тиль, известный своими радикальными и антидемократическими взглядами. Добриндт не захотел явно исключать программное обеспечение Palantir из нового закона, но подчеркнул необходимость цифрового суверенитета Германии.
Здесь позиция коалиционного партнёра отличается. Эксперт СДПГ по внутренней политике Себастьян Фидлер заявил, что «вопрос Palantir полностью снят с повестки». Нужны европейские решения, чтобы выйти из зависимости. Представитель СДПГ по внутренней политике Йоханнес Шэтцль потребовал прямо исключить такие компании, как Palantir, поскольку им доверяют чувствительные государственные данные.
Министр внутренних дел Северного Рейна-Вестфалии Херберт Ройль (ХДС) также высказался за большую независимость от американских фирм: «Нужно следить за тем, чтобы в цифровом пространстве мы не попали в зависимость от Америки».
Планы вызывают ожесточённое сопротивление со стороны защитников данных, правозащитников и оппозиции. Критики опасаются неконтролируемой массовой слежки. Общество гражданских свобод предупредило об опасностях алгоритмической обработки данных. Ошибки и искажения в алгоритмах могут привести к тому, что непричастные люди окажутся под прицелом полиции. Кроме того, исходный код таких компаний, как Palantir, не является общедоступным, поэтому невозможно проверить, как программное обеспечение влияет на полицейскую работу.
Франциска Гёрлиц из Общества гражданских свобод назвала планы «концом анонимности» и предупредила, что люди могут оказаться в базах данных уже при мелких правонарушениях или как случайные прохожие, а последующий анализ этих данных может сделать их подозрительными. Немецкий клуб компьютерных энтузиастов также раскритиковал то, что общественное пространство превращается в полигон для технологий, которые ставят под подозрение всех прохожих.
Политик «Зелёных» по внутренней политике Константин фон Ноц назвал планы «по сути враждебными свободе». Немецкая ассоциация адвокатов предупредила о «надзорной антиутопии» и опасается, что биометрическое прочёсывание интернета может стать «стандартным следственным инструментом».
Бундесрат не высказал возражений против законопроекта. Теперь одобренный кабинетом документ передаётся на окончательное голосование в Бундестаг, где у коалиции ХДС/ХСС и СДПГ есть большинство. Таким образом, новые правила могут вступить в силу уже в ближайшие месяцы — к неудовольствию оппозиции, которая не исключает подачи иска в Федеральный конституционный суд.