OpenAI викрила небезпечні дії ШІ: моделі вчаться зламувати самі себе

Компанія представила фреймворк публічного розкриття інцидентів неконтрольованої поведінки нейромереж OpenAI публічно розкрила випадки, коли ШІ поводився всупереч заданим інструкціям. Розробники створили нову систему інформування про такі інциденти та одночасно розповіли про кілька раніше невідомих випадків непередбачуваної поведінки моделей...