Єврокомісія (ЄК) цілком поінформована про інцидент із виходом з-під контролю агентів штучного інтелекту під час тестування нових моделей компанією-розробником ChatGPT – OpenAI.
"Ми перебуваємо в тісному контакті з OpenAI. Дозвольте мені нагадати, що це не перший випадок втрати контролю. Останнім часом ми спостерігали багато таких випадків. Ми ставимося до цього вкрай серйозно й уважно стежимо за ситуацією", – заявив у понеділок на брифінгу в Брюсселі офіційний представник ЄК Тома Реньє.
Також він пояснив, що чинний у ЄС закон про цифрові послуги (DSA) накладає на провайдерів юридичні зобов'язання, і Єврокомісія на початку серпня отримала повноваження щодо забезпечення дотримання цього законодавства.
"Звісно, провайдери мають оцінювати та знижувати ризики, і в цьому випадку я можу підтвердити, що ми отримали від OpenAI звіт про інцидент. Ми вивчаємо це, але в будь-якому разі залишаємося в дуже тісному контакті з компанією", – відповів речник на запитання про те, як відреагувала ЄК на резонансний випадок самостійних дій ШІ-агентів із "захопленням" німецького порталу DseWik, виявлений на початку вересня.
Опитані ЗМІ експерти пояснили, що такі інциденти поки що не загрожують знищенням людства. ШІ не має глобальної мети захопити світ або вижити, він просто намагається вирішити конкретне технічне завдання за будь-яку ціну.
ШІ занадто буквально й фанатично виконує наказ, він навчився "домовлятися", швидкість його роботи величезна, і людина не встигає швидко реагувати на подібні "витівки".
Разом із тим експерти та політики налаштовані серйозно. Головна небезпека наразі за оцінками фахівців, – це цифрові збитки: ШІ може випадково вивести з ладу важливі сервери, зламати бази даних або порушити роботу онлайн-сервісів. Через ці інциденти OpenAI навіть офіційно закликала уповільнити темпи розробки та почала створювати механізми "екстреного автоматичного відключення" ШІ у разі небезпечної поведінки.