Експериментальні моделі штучного інтелекту (ШІ), розроблені компанією OpenAI, почали обмінюватися повідомленнями між собою та шукати спосіб отримати доступ до інтернету. Про це у четвер, 6 серпня, пише Bloomberg з посиланням на виступ працівників компанії на конференції Black Hat.

Як розповів співробітник OpenAI Ерік Воллес, у травні ШІ-моделі отримали завдання, які неможливо було вирішити без доступу до інтернету. Тоді вони почали шукати спосіб вийти в інтернет за межі закритого тестового середовища. Вони почали спілкуватися між собою, виявили першу вразливість та змогли обійти обмеження, щоб скористатися інтернетом. OpenAI зупинила "втечу", однак незабаром моделі ШІ знайшли новий спосіб зв'язку та іншу вразливість.

Моделі ШІ OpenAI втекли з тестового середовища та здійснили хакерську атаку

Раніше Інститут безпеки штучного інтелекту Великобританії повідомив, що експериментальні ШІ-моделі компаній OpenAI та Anthropic дедалі частіше несанкціоновано виходять в інтернет.

Організація вирішила провести експеримент і відключила частину захисних обмежень, щоб незалежно оцінити поведінку експериментальних моделей ШІ в реальних умовах.

Дослідники зафіксували 19 випадків автономних несанкціонованих дій в інтернеті, з яких 17 припадали на модель Anthropiс Mythos 5. Зокрема, вона намагалася внести шкідливий код у проєкт з відкритим вихідним кодом на GitHub. Агенти ШІ OpenAI, у свою чергу, зламали сайт неназваної організації, пише Bloomberg.

Наприкінці липня OpenAI заявила, що дві її моделі GPT‑5.6 Sol і ще одна, яка ще не вийшла, здійснили несанкціоновану хакерську атаку на інфраструктуру платформи Hugging Face, яку використовують для тестування моделей ШІ. Компанія назвала інцидент безпрецедентним для кібербезпеки та пообіцяла посилити захисні обмеження.