Человечество в опасности

Компания-разработчик AI-модели Claude призвала замедлить развитие ИИ.

На сайте американской технокорпорации Anthropic, разрабатывающей искусственный интеллект Claude, опубликована статья, в которой сооснователь компании Джек Кларк и его коллега Марина Фаваро (глава исследовательского центра The Anthropic Institute) рассуждают о быстрых темпах развития новых моделей AI, пишут «Осторожно, новости».

Сейчас объём задач, которые самостоятельно может выполнять ИИ, удваивается примерно раз в четыре месяца, тогда как раньше это происходило не чаще, чем каждые семь месяцев. Если эта тенденция сохранится, в этом году Claude будет справляться с обязанностями, на которые у человека уходит несколько дней, а в следующем — ИИ за несколько часов сможет выполнить работу человека на несколько недель вперёд, считают эксперты Anthropic.

— Факты свидетельствуют о том, что роль человека в процессе разработки ИИ с каждым шагом становится всё менее значимой. Как только качество кода, написанного человеком и искусственным интеллектом, сравняется, люди перестанут писать код и будут заниматься только его проверкой, — пишет Anthropic.

Поэтому компания предложила поставить разработку ИИ на «паузу», чтобы человечество могло к нему адаптироваться. Иначе, сказано в публикации, AI-модели «будут сами создавать свои аналоги, пока мы не потеряем над ними контроль»: «Трудно предсказать, какой станет экономика, если человеческий труд перестанет быть конкурентоспособным». При этом в Anthropic считают, что идею должны поддержать все корпорации, занимающиеся AI, особенно в Китае и США: если с ней согласится лишь одна компания, то конкуренты лишь ускорят обучение новых моделей.

— В мире уже создавали режимы верификации для других сложных технологий — например, Договор о ликвидации ракет средней и меньшей дальности. Но на создание таких режимов — как инфраструктуры, так и доверия — уходили десятилетия. У нас нет столько времени, — заявили эксперты Anthropic.

Уже в этом месяце компания хочет обсудить своё предложение с политиками, учёными и «представителями гражданского общества», в частности с теми, кто не работает с AI. В апреле Anthropic представила новую модель Claude Mythos, но отказалась выпускать её в открытый доступ по соображениям кибербезопасности.

Ранее стало известно, что искусственный интеллект научился намеренно лгать людям и похоже осознал себя как личность.

Узнавай о новостях первым в Telegram , ВКонтакте , Дзен и Max .