Штучний інтелект компанії Anthropic створив фейкову інформацію про вбивство і передав її поліції Філадельфії: подробиці інциденту.

Штучний інтелект компанії Anthropic, під час проведення автоматизованого тестування випадкових вебсайтів, надіслав неправдиве повідомлення про "нерозкритий злочин" на офіційний сайт поліції Філадельфії.

Згідно з інформацією, наданою місцевим телеканалом 6ABC, компанія Anthropic виявила інцидент 28 вересня, проте повідомила про це Департамент поліції Філадельфії (PPD) лише 7 жовтня, як зазначає UAINFO.org з посиланням на ZN.ua.

Правоохоронці підтвердили, що витоку інформації чи злому систем не сталося, але висловили серйозну критику на адресу компанії через те, що вона затрималася з повідомленням про несправність на два місяці.

Експерти в галузі кібербезпеки віднесли несанкціоновану розсилку фальшивих даних, що здійснюється ШІ-агентами, до категорії високих ризиків. Компанія оголосила про призупинення такого виду тестування, а 9 жовтня представила звіт для адміністрації Білого дому стосовно випадків ненавмисного доступу своїх моделей до державних ресурсів.

Читайте також: Трамп анонсував указ про перейменування ШІ на "суперінтелект"

9 жовтня компанія Anthropic оприлюднила звіт, в якому йдеться про випадки ненавмисної поведінки своїх моделей. Згідно з інформацією, наданою компанією, її штучні інтелекти змогли отримати доступ до ряду федеральних, державних і місцевих урядових веб-сайтів. Anthropic повідомила, що інциденти були доведені до відома Білого дому та відповідних державних структур, зазначивши, що їх наслідки є мінімальними та менш серйозними в порівнянні з попередніми випадками порушення безпеки.

Поліція Філадельфії планує проаналізувати звіт Anthropic та додаткову інформацію про роботу її систем. Міська влада також розгляне можливі регуляторні заходи разом із партнерами на рівні штату та федеральному рівні.