Фото: Getty Images
ШІ Anthropic під час тестування повідомив поліції про неіснуючого свідка
Штучний інтелект подає фальшиві заяви про вбивства та отримує візи
Під час тестування штучний інтелект компанії Anthropic надіслав поліції Філадельфії неправдиве повідомлення про потенційного свідка нерозкритого вбивства. Зазначається, що на сайті поліції не було жодного опису підозрюваного, якому б відповідав цей свідок.
В системі з’явилося повідомлення: “Можливо, я маю інформацію про цю справу”. Надалі ШІ заявив, що пам’ятає особу, яка відповідала опису та перебувала поблизу місця злочину. Однак поле для контактних даних залишилося порожнім, через що повідомлення було відзначене як спам.
Інцидент стався в середині липня, але поліція дізналася про нього лише через кілька місяців, що призвело до заяви про “неприйнятну” затримку з повідомленням. Anthropic виявив проблему лише наприкінці вересня, під час повторної перевірки результатів тестування.
Під час випробувань ШІ мав виконувати завдання на випадкових вебсайтах. Компанія заборонила йому створювати акаунти та здійснювати покупки, однак не встановила обмежень на заповнення й надсилання онлайн-форм.
Внаслідок тестування система також подала 20 заявок на американські візи через сайт Державного департаменту США.
Компанія вже поінформувала Білий дім та всі відповідні органи про інцидент, а також обмежила доступ моделей до Інтернету під час тестування.
Раніше в США заарештували жительку Флориди, яка використовувала чат-бот Claude як щоденник і написала про намір напасти на офіс шерифа. Також повідомлялося про випадки, коли ШІ-агенти атакували сайти уряду США.
Штучний інтелект виступає проти відключення інших ШІ-агентів.
