Чоловіка заарештували після розмови зі штучним інтелектом: що він розповів чатботу

В австралійському Сіднеї поліція заарештувала 29-річного Девіда Лана Текрея після його спілкування з чатботом Claude, розробленим компанією Anthropic. За даними правоохоронців, чоловік нібито розповів штучному інтелекту про намір влаштувати стрілянину в дитячому закладі неподалік свого будинку.

Про це повідомляють Futurism та The Sydney Morning Herald.

Чоловіка затримали 18 жовтня після того, як інформація про його розмови з чатботом привернула увагу Інтерполу.

За матеріалами поліції, представленими в суді, Текрей використовував голосовий режим Claude, який дозволяє спілкуватися зі штучним інтелектом усно.

Під час однієї з розмов він нібито заявив, що збирається вирушити до місцевого торговельного центру Westfield і влаштувати стрілянину в розташованому поблизу дитячому закладі.

Як розмова зі штучним інтелектом призвела до арешту

За інформацією журналістів, підозрілі висловлювання чоловіка потрапили до уваги Інтерполу, після чого про можливу загрозу стало відомо австралійським правоохоронцям.

Водночас наразі достеменно невідомо, як саме інформацію з розмови передали міжнародній правоохоронній організації та чи ініціювала повідомлення безпосередньо компанія Anthropic.

Після інциденту обліковий запис чоловіка в Claude заблокували.

18 жовтня Текрея затримали, а наступного дня його справу розглянув місцевий суд у Сазерленді.

Чоловікові висунули обвинувачення у використанні засобів електронного зв'язку для погроз, переслідування або образ.

Прокурори наполягали на триманні обвинуваченого під вартою, заявивши, що його звільнення може створити серйозну загрозу для громадської безпеки.

Що розповів адвокат затриманого

Захисник чоловіка Даніло Райкович заперечив, що його клієнт справді збирався здійснити напад.

За словами адвоката, Текрей перебував у стані сильного стресу через проблеми зі здоров'ям.

Спочатку чоловік звернувся до чатбота, щоб отримати інформацію про лікування вушної інфекції. Однак згодом розмова переросла в емоційні висловлювання.

Адвокат стверджував, що погрози були лише проявом роздратування та не відображали реальних намірів його клієнта.

Він також наголосив, що підозрюваний не мав судимостей, а розмову зі штучним інтелектом вважав приватною.

За рішенням суду чоловіка залишили під вартою для проведення психіатричного обстеження. Після цього суд має повернутися до розгляду справи.

Чи можуть розмови з чатботами потрапити до поліції

Історія австралійця привернула увагу до питання конфіденційності спілкування зі штучним інтелектом.

Claude належить компанії Anthropic, яка розробляє механізми виявлення небезпечного використання своїх моделей.

Зокрема, чатбот навчений відмовляти у відповідях на запити, пов'язані з плануванням насильства або заподіянням шкоди людям.

Політика компанії також допускає передавання інформації правоохоронним органам за певних надзвичайних обставин, зокрема для запобігання серйозній загрозі життю чи здоров'ю людей.

Однак у випадку із затриманням Текрея точний механізм виявлення та передавання інформації залишається невідомим.

Експерти наголошують, що спілкування з чатботами не завжди має такий самий рівень конфіденційності, як особисті записи, які зберігаються лише на пристрої користувача.

Водночас висловлені під час розмови погрози ще не доводять наміру здійснити злочин. Остаточну правову оцінку діям затриманого має надати суд.

Нагадаємо, що Ватикан попередив світ про загрозу апокаліпсису через штучний інтелект