OpenAI обмежує доступ підлітків до ChatGPT

Компанія OpenAI обмежить доступ підлітків до нової версії ChatGPT, яка матиме посилені заходи безпеки щодо психічного здоров"я та функції, що сприяють розвитку критичного мислення, намагаючись таким чином відреагувати на негативну реакцію щодо впливу штучного інтелекту на молодь. Про це повідомляє Financial Times. З вівторка компанія почне впроваджувати спеціальну версію ChatGPT для підлітків віком від 13 до 17 років по всьому світу, з більш суворим контролем щодо генерації зображень та контенту, пов"язаного з самоушкодженням, насильством, розладами харчової поведінки та сексом. Цей крок зроблено на тлі численних судових позовів проти OpenAI з боку сімей, які стверджують, що їхні діти зазнали шкоди від використання ChatGPT, у той час як компанія готується до потенційно рекордного IPO протягом наступного року. Ретельне вивчення впливу штучного інтелекту на молодь відбувається на тлі того, як кілька країн, зокрема Велика Британія, рухаються в напрямку заборони соціальних мереж для осіб віком до 16 років – заходи, які зазвичай не поширюються на чат-боти на базі штучного інтелекту, але посилили тиск на технологічні компанії. На OpenAI подала позов родина Адама Рейна, 16-річного підлітка з Каліфорнії, який покінчив життя самогубством після того, як обговорив можливість самогубства з ChatGPT, який, згідно з судовими документами, надав йому детальні інструкції. Сім"ї, чиї діти загинули під час масової стрілянини в школі в Тумблер-Рідж, Канада, у лютому, також подали позов проти OpenAI після того, як з"ясувалося, що підліток-стрілець обговорював свої насильницькі наміри з ChatGPT протягом кількох місяців, що передували нападу. Акаунт було заблоковано за кілька місяців до цього, але компанія не звернулася до правоохоронних органів. ChatGPT має функцію батьківського контролю, яка надсилає попередження про небезпеку в ситуаціях підвищеного ризику, наприклад, якщо дитина обговорює самогубство або самоушкодження.
У новій версії для підлітків додано попередження щодо розладів харчової поведінки та насильства. "Це баланс між правом підлітка на приватність та серйозністю самої шкоди", — сказала Лорен Джонас, керівниця відділу роботи з молоддю та сім"ями в OpenAI. ChatGPT для підлітків спрямовуватиме їх на освітні додатки та включатиме частіші нагадування про перерви й "години тиші" — періоди, які користувачі або батьки можуть встановити, коли ChatGPT буде заблоковано. Джонас зазначив, що OpenAI "наразі не бачить проблеми з небажаним використанням або надмірним використанням ChatGPT".
Однак через брак досліджень з цього питання компанія "обрала консервативний підхід". Нагадаємо: ШІ-стартап Anthropic може вийти на біржу вже у жовтні з оцінкою щонайменше 2 трлн доларів.
За такого сценарію розробник Claude перевершить SpaceX і проведе найбільше IPO в історії.