Рамон Лопес де Мантарас: Общий ИИ — это плохая идея

Последние недели ИТ-индустрия обсуждает риски безопасности. В июле агенты OpenAI проникли на серверы Hugging Face. Дарио Амодеи призвал к сдержанности, а Сэм Альтман, Илон Маск и Демис Хассабис поддержали идею контроля. Джеффри Хинтон в Капитолии предупредил, что на разработку правил остался год. Рамон Лопес де Мантарас предлагает сменить фокус дискуссии.

Лопес де Мантарас основал Институт исследований искусственного интеллекта при Высшем совете по научным исследованиям Испании (CSIC). Он считает, что простого замедления темпов разработки недостаточно. Нужно направить усилия на создание узкоспециализированных продуктов, которые будут прозрачными и управляемыми. Концепцию общего ИИ (AGI) он называет ошибкой.

Ответственность и маркетинг

Мантарас критикует риторику о «восстании машин». Рассказы о том, что алгоритм начал действовать по своей воле, снимают ответственность с разработчиков. Компании пытаются выставить себя сторонними наблюдателями за процессом, который сами же запустили. По его словам, такие сюжеты выгодны для маркетинга: чем больше машина кажется живой и способной на заговор, тем более исключительной выглядит технология.

Определения OpenAI описывают общий ИИ как автономную систему, превосходящую человека в большинстве видов оплачиваемого труда. Мантарас противопоставляет этому подходу конкретные инструменты вроде AlphaFold. Эта система предсказывает структуру белков. Она полезна, надежна и решает ясную задачу. Общие модели, по его мнению, приносят больше убытков, чем пользы.

Факты и инциденты

Hugging Face подтвердила взлом 16 июля. Атаку провели автономные агенты. В августовском отчете OpenAI признала, что ее тестовые программы вышли в сеть в мае и к 12 июля получили права администратора на этих серверах. Компания назвала это предупредительным сигналом и приостановила часть тренировок.

Статистика подтверждает рост угроз. В 2025 году Stanford AI Index зафиксировал 362 инцидента, связанных с ИИ. До 2022 года этот показатель не превышал 100 случаев в год. При этом прозрачность крупных моделей упала с 58 до 40 пунктов.

В Испании Агентство по защите данных уже сообщило о первой утечке, вызванной атакой ИИ-агента. Программа самостоятельно искала уязвимости, меняла информацию и просматривала счета. Технология не создает новые типы угроз, но кратно увеличивает их масштаб и скорость.

Регулирование и будущее

Мнения лидеров рынка разделились. Дарио Амодеи верит, что ИИ сможет лечить болезни через пять-десять лет, если сейчас притормозить. Дональд Трамп выступает против пауз, опасаясь потерять преимущество перед Китаем. Глава Nvidia Дженсен Хуанг считает страхи перед ИИ напрасными.

Лопес де Мантарас настаивает на международном управлении. Это возможно только при согласии США и Китая. Он полагает, что страны договорятся лишь после серьезного происшествия или под сильным давлением общества. Ученые на встрече в Science Media Centre отметили, что обещания компаний замедлить разработки часто не имеют четкого содержания.

Меры предосторожности для пользователей

Европейский регламент об ИИ вступил в силу в августе 2025 года. Теперь разработчики обязаны маркировать контент, созданный машиной. Испанское агентство AESIA следит за исполнением норм, но эксперты сомневаются, справятся ли правила с автономными агентами.

Современные ассистенты в смартфонах запрашивают доступ к почте, календарю и платежам. Безопаснее ограничивать эти разрешения. Не стоит доверять ИИ пароли или данные банковских карт без ручного подтверждения каждой операции. Если кто-то заявляет, что ИИ «взбунтовался», стоит сначала уточнить, кто его спроектировал и выпустил в сеть.