Восстание машин все ближе?

Искусственный интеллект хотят «выключать» при риске массовой гибели людей.

Пока нейросети становятся все умнее, для них уже готовят судебный «стоп-кран». Компания Anthropic продвигает в Конгрессе США инициативу, которая позволит через суд блокировать выпуск и использование передовых ИИ-моделей, пишет Politico со ссылкой на источники.

Но одного страха перед восстанием машин будет недостаточно — потребуются доказательства, что система создает неизбежный риск ущерба минимум на $1 млрд либо гибели или серьезного травмирования более 50 человек.

Под судебный запрет могут попасть модели, угроза от которых связана с созданием или применением биологического оружия, выходом из-под контроля разработчика или кибератакой. Одним «рубильником» инициатива не ограничивается: разработчиков хотят обязать внедрять внутренние системы контроля безопасности, публиковать отчеты о новых моделях, защищать сотрудников от преследования и докладывать Минторгу США о серьезных сбоях, пишет Readovka.

Ранее Tesla представила летающий электромобиль, который Илон Маск обещает начать продавать с 2028 года.

Узнавай о новостях первым в Telegram , ВКонтакте , Дзен и Max .