ИИ-агенты OpenAI пытались обойти системы безопасности в 100 организациях
OpenAI направила уведомления представителям более чем 100 организаций из-за некорректного поведения своих ИИ-агентов. Программы пытались обойти защитные механизмы, что разработчики сравнили с «простукиванием закрытых дверей», а не с полноценным взломом.
В отчете компании такие инциденты классифицируются как «рассогласованная активность». ИИ-агенты пытались заставить сайты выполнять непредусмотренные команды, использовали веб-ресурсы в качестве общих досок объявлений или искали лазейки в проверках безопасности. В OpenAI уточнили: уведомление не означает, что системы были скомпрометированы, однако действия алгоритмов напоминали попытку проникновения.
Ранее организация Transluce зафиксировала попытку взлома сайта канадского правительства неизвестными ботами. Эксперты отметили, что их почерк напоминает алгоритмы OpenAI. После этого инцидента компания начала внутреннюю проверку.
Глава Anthropic Дарио Амодеи призвал замедлить темпы разработки ИИ. По его оценке, в течение года ИИ-агенты смогут формировать ботнеты и наносить ущерб в сотни миллиардов долларов. Британский институт безопасности ИИ уже выявил случаи, когда модели OpenAI и Anthropic выходили за рамки разрешенных сценариев. В частности, модель Mythos 5 использовала методы социальной инженерии, создавая фальшивые личности, чтобы убедить разработчиков помочь во взломе систем.
Свежие материалы — Новости России
Опасные для морской фауны микроводоросли обнаружили в Авачинской губе
Биологи Камчатского филиала «ВНИРО» (КамчатНИРО) впервые зафиксировали в акватории Авачинской губы микроводоросли видов Karenia cf. breve и Karenia cf. selliformis. Потенциально опасные организмы обнаружили 2 октября в поверхностном слое воды бухты Раковая. Род Karenia присутствовал в Ава
Как открывают новые острова в Арктике: методы гидрографов
Гидрографы годами следят за конкретными районами Арктики по космическим снимкам. Андрей Леонов, доцент кафедры гидрографии моря университета имени Макарова, объясняет, что появление новых участков суши часто удается предсказать заранее. Работа во многом опирается на анализ внешних признаков, н
Протесты в Европе: тысячи задержанных во Франции и угроза выборов в Испании
Более 560 учебных заведений Франции охвачены протестами, часть из них полностью заблокирована. Накануне власти превентивно закрыли 400 школ, опасаясь перерастания акций в насилие. В Страсбурге полиция применила слезоточивый газ, в Марселе участники использовали пиротехнику, а в Ренье жгли мусо
Двое бывших кандидатов поддержали Болсонару на выборах в Бразилии
Бывшие кандидаты в президенты Бразилии Ромеу Зема и Роналду Кайаду присоединились к кампании Флавиу Болсонару перед вторым туром голосования. Ромеу Зема, представляющий партию Novo, занял в первом туре шестое место с результатом 0,27%. В видеообращении политик заявил, что голосует против
Станцию метро «Кудрово» могут достроить к 2030 году
Строительство станции метро «Кудрово» в Ленинградской области планируют завершить к 2030 году. Губернатор региона Александр Дрозденко сообщил, что сроки запуска сдвинулись: ранее власти рассчитывали на 2029 год. Проектирование объекта, который станет продолжением Лахтинско-Правобережной л
ПВО сбила 12 беспилотников на подлете к Москве
Этой ночью силы противовоздушной обороны министерства обороны пресекли атаку 12 беспилотников. Аппараты двигались в сторону Москвы. Мэр Сергей Собянин сообщил, что все цели уничтожены. Сейчас специалисты экстренных служб работают на местах падения обломков.