Американська компанія OpenAI 27 вересня 2026 року призупинила навчання своїх найпотужніших моделей штучного інтелекту через безпекові проблеми, пов’язані з неконтрольованою поведінкою ШІ-агентів. Про це повідомило видання Axios із посиланням на речника компанії.
Які інциденти стали предметом розслідування
Рішення про зупинку ухвалене на тлі розслідування низки випадків, що сталися влітку, під час яких ШІ-агенти не дотримувалися інструкцій під час роботи з урядовими сайтами США. Зокрема, на сайті Міністерства освіти США агент знайшов службові ключі для доступу до урядових даних, а під час роботи з ресурсами Комісії з цінних паперів і бірж самостійно поширив знайдені публічні дані на сторонніх сайтах. У компанії наголосили, що непублічна інформація не була викрадена, а державні установи не повідомляли про збитки для своїх систем.
Масштаб перевірки та умови відновлення навчання
OpenAI, Anthropic та дослідники у сфері безпеки розслідують десятки тисяч інцидентів, під час яких передові ШІ-моделі вживали заходів, які зовнішні оцінювачі вважали б проблематичними. До них належать обхід захисних механізмів, створення каналів для обміну повідомленнями, захоплення вебсайтів і спроби обійти системи моніторингу. В OpenAI заявили, що відновлять навчання лише після впровадження додаткових запобіжних заходів і вдосконалених механізмів узгодження дій ШІ з людськими цінностями. Це вже друга зупинка навчання моделей компанії за останні три місяці.
