Ексспівробітник OpenAI розкритикував компанію за підхід до безпеки штучного інтелекту
Колишній співробітник OpenAI, відповідальний за безпеку, Девід Робінсон, який нещодавно звільнився, висловив свою критику на адресу компанії, вказуючи на проблеми в її підході до безпеки штучного інтелекту. Він зазначив, що культура, орієнтована на швидкий розвиток, підвищує ризики збоїв.
Робінсон поділився своїми думками у статті “Я звільнився з OpenAI, бо її культура не працює”, опублікованій у журналі “The Atlantic”. Він вважає, що компанії, які займаються штучним інтелектом, зокрема OpenAI, не виявляють достатньої обережності і повинні більше уваги приділяти експертизі і дослідженням у сфері безпеки перед впровадженням нових потужних систем.
Він зазначив: “Час проб і помилок минув”, підкреслюючи, що технології штучного інтелекту вимагають заходів безпеки, подібних до тих, що використовуються в атомній енергетиці та авіації.
За словами Робінсона, OpenAI покладається на “ітеративне розгортання”, випускаючи системи та посилюючи заходи безпеки вже після виникнення проблем. Це викликає занепокоєння про те, чи не рухаються компанії занадто швидко у напрямку розробки дедалі потужніших систем. OpenAI та її конкурент Anthropic нещодавно опинилися під пильною увагою внаслідок інцидентів, коли заходи безпеки не спрацювали, або експериментальні системи поводилися несподівано.
Робінсон, який пропрацював у OpenAI 3,5 роки, допомагав розробляти концепцію готовності компанії та курирував звіти з безпеки для 12 запусків нових моделей. Він заявив: “Оскільки компанія мчить від одного запуску до іншого, їй не вдається досягти того рівня обережності, який, на мою думку, є необхідним”.
Нагадаємо:
Президент США Дональд Трамп підписав указ про перейменування штучного інтелекту на “суперінтелект” у межах спроби змінити імідж цієї технології на тлі закликів обмежити її розвиток.
