В США разгорелись дебаты вокруг новых правил регулирования искусственного интеллекта. Поводом стали резкие предупреждения двух исследователей из компании Anthropic: они опасаются, что стремительное развитие ИИ может привести к вымиранию человечества уже в недалеком будущем.
На этом фоне американские политики из обеих партий призывают к созданию четкой нормативной базы для разработки и применения систем ИИ. «Вашингтону пора проснуться», — заявила сенатор-демократ от Аризоны [Марк Кэлли / Габриэль Гиффордс]. В свою очередь, сенатор-республиканец Тед Круз из Техаса указал на «катастрофические риски» ИИ и поддержал законодательные инициативы по его регулированию.
Эксперты Anthropic заявили, что искусственный интеллект представляет собой постоянно растущую угрозу и существует реальная вероятность того, что уже к концу десятилетия он может стать причиной массовой гибели людей. С аналогичными предупреждениями выступают и другие специалисты отрасли.
Anthropic пресекает попытки использовать ИИ для создания биооружия
Вчера компания Anthropic, занимающаяся разработками в области ИИ, объявила о блокировке нескольких попыток использовать ее нейросеть Claude для создания потенциального биологического оружия. Разработчики из Сан-Франциско пояснили, что за последние месяцы от пользователей из подсанкционных регионов неоднократно поступали подозрительные запросы.
В частности, один из них касался исследования штамма птичьего гриппа, способного передаваться млекопитающим. В другом случае пользователи просили помочь в разработке новых токсинов. При этом в компания подчеркнули: эти запросы поступали от ученых, и речь не идет об их злонамеренных побуждениях.
Технологические гиганты — Google, Microsoft, OpenAI и сама Anthropic — еще в прошлые месяцы предупреждали об опасности неправомерного использования ИИ в области биологического оружия.