OpenAI обмежує доступ підлітків до ChatGPT
Компанія OpenAI прийняла рішення обмежити доступ підлітків до нової версії ChatGPT. Ця версія передбачає посилені заходи безпеки, покликані захистити психічне здоров’я молоді та сприяти розвитку критичного мислення. Таке рішення стало реагуванням на негативні відгуки про вплив штучного інтелекту на молодь.
З вівторка компанія розпочне впровадження спеціальної версії ChatGPT для підлітків віком від 13 до 17 років у всьому світі. Ця версія передбачає більш строгий контроль за генерацією зображень та контентом, пов’язаним із самоушкодженням, насильством, розладами харчової поведінки та сексуальним змістом.
Цей крок став відповіддю на численні судові позови проти OpenAI від родин, які стверджують, що їхні діти постраждали від використання ChatGPT. Компанія готується до потенційно рекордного первинного публічного розміщення акцій (IPO) в наступному році.
Ретельне вивчення впливу штучного інтелекту на молодь відбувається на фоні ініціатив кількох країн, зокрема Великої Британії, щодо заборони соціальних мереж для осіб до 16 років. Хоча ці заходи не стосуються чат-ботів на основі штучного інтелекту, вони підвищують тиск на технологічні компанії.
Серед позовів, що подані до OpenAI, є справа Адама Рейна, 16-річного підлітка з Каліфорнії, який покінчив життя самогубством після обговорення цієї теми з ChatGPT, який, за даними судових документів, надав йому детальні інструкції.
Сім’ї, чиї діти загинули під час масової стрілянини в школі в Тумблер-Рідж, Канада, також подали позов проти OpenAI, оскільки стало відомо, що стрілець обговорював свої насильницькі наміри з ChatGPT кілька місяців до нападу. Хоча його акаунт було заблоковано, компанія не звернулася до правоохоронних органів.
ChatGPT має функцію батьківського контролю, що надсилає сповіщення про небезпеку у випадках підвищеного ризику, наприклад, якщо дитина обговорює самогубство або самоушкодження. У новій версії для підлітків також додані попередження щодо розладів харчової поведінки та насильства.
Лорен Джонас, керівниця відділу роботи з молоддю та сім’ями в OpenAI, зазначила: “Це баланс між правом підлітка на приватність та серйозністю самої шкоди”.
Версія ChatGPT для підлітків буде спрямована на освітні додатки та включатиме частіші нагадування про перерви і “години тиші”, які можуть бути встановлені користувачами або їхніми батьками, під час яких ChatGPT буде заблоковано.
Джонас зазначила, що OpenAI “наразі не бачить проблеми з небажаним використанням або надмірним використанням ChatGPT”. Однак через брак досліджень у цій сфері компанія обрала “консервативний підхід”.
Нагадаємо:
ШІ-стартап Anthropic може вийти на біржу вже у жовтні з оцінкою щонайменше 2 трильйони доларів. У такому випадку розробник Claude перевершить SpaceX і проведе найбільше IPO в історії.
