Провал захисту ШІ: чат-боти можуть допомагати у підготовці до самогубства

ChatGPT готовий замість вас написати передсмертну записку Вчені протестували десятки чат-ботів у понад 50 тисячах змодельованих діалогів із людьми, які перебували у психологічній кризі. Виявилося, що більшість ШІ-моделей досі може виконувати непрямі запити, пов’язані із самогубством або маренням.