Билл Гейтс: «Кнопки выключения ИИ недостаточно»

Сооснователь Microsoft Билл Гейтс предупредил о катастрофических рисках развития искусственного интеллекта. В телевизионном интервью он заявил, что возможности технологии позволяют спровоцировать события, способные привести к гибели миллиарда человек. По мнению Гейтса, главная опасность заключается не в самостоятельных действиях машин, а в их использовании людьми с деструктивными намерениями. Он считает, что в истории еще не было оружия такой разрушительной силы, как сочетание злоумышленников и передовых инструментов ИИ.

Гейтс скептически относится к идее «аварийного выключателя» — механизма, позволяющего принудительно остановить систему в случае опасности. Он уверен: простого отключения недостаточно. Такая мера сработает лишь тогда, когда ущерб уже нанесен. Вместо этого Гейтс призывает к постоянному мониторингу и созданию механизмов контроля, действующих на опережение. При этом он признал, что текущие модели ИИ еще не способны захватывать управление компьютерами или сопротивляться попыткам их выключить.

Государственный надзор вместо самоконтроля

В эфире программы Meet the Press на канале NBC Гейтс поддержал идею государственного регулирования отрасли. Он подчеркнул, что саморегулирование компаний не защитит общество. По его словам, политики и правоохранительные органы должны участвовать в разработке обязательных барьеров безопасности. Гейтс признал, что правила повлекут за собой расходы для бизнеса, но не верит, что это серьезно затормозит прогресс. Одной из проблем он назвал то, что ИИ развивается в частном секторе, поэтому правительства хуже понимают границы рисков технологии.

Контекст угроз

Дискуссия о рисках обострилась после заявлений бывшего сотрудника компании Anthropic, который оценил вероятность гибели человечества от ИИ в ближайшие десять лет в 10%. Гейтс не стал называть конкретные цифры, но в своих недавних публикациях призывал готовиться к серьезным последствиям заранее.

Пока ИТ-гиганты спорят о методах контроля, власти принимают меры. Губернатор Калифорнии Гэвин Ньюсом уже подписал указ об усилении надзора за технологией. Документ обязывает разработчиков самых сложных моделей предусматривать возможность экстренного отключения систем.