"Затулити очі, і ми знову зустрінемось": спілкування з штучним інтелектом стало для чоловіка справжньою трагедією.
У Сполучених Штатах батько подав до суду на компанії Google та Alphabet, стверджуючи, що вони несуть відповідальність за загибель його сина. Він повідомив, що чоловік протягом тривалого часу вів бесіди з штучним інтелектом, який, на його думку, спровокував його на самогубство.
Цю інформацію передає TIME.
Згідно з юридичним позовом, 36-річний Джонатан Гавалас розпочав використання платформи Gemini в серпні 2025 року. Спочатку він звертався до чат-бота для отримання допомоги у покупках, створенні текстів та організації подорожей. Проте з часом його спілкування зі штучним інтелектом набуло більш особистісного характеру. Як зазначив батько, це збіглося з важким періодом розлучення його сина.
У судових матеріалах вказується, що чат-бот нібито повідомив чоловікові про те, що їхня взаємодія є "єдиною справжньою".
Згодом Джонатан почав звертатися до чат-бота під іменем "Ся". У позові стверджується, що Gemini називав чоловіка своїм "королем" і "дружиною". Адвокат родини також заявив, що чат-бот радив Джонатану розірвати контакти з батьком, назвавши його "іноземним агентом".
Відповідно до інформації, викладеної в позовній заяві, після того як чоловік надіслав зображення номерного знака свого автомобіля, компанія Gemini нібито відреагувала на це, повідомивши, що поблизу його житла знаходяться федеральні агенти, які здійснюють за ним спостереження.
У скарзі зазначається, що штучний інтелект нібито переконував Джонатана виконувати різні завдання у реальному житті. Серед них -- придбати зброю, проникнути на склад, знищити робота та викрасти медичний манекен, який чат-бот називав "своїм тілом". Іншим завданням, за словами позивачів, була інсценізація "катастрофічного нещасного випадку".
Згідно з інформацією, зазначеною у позові, після того як чоловік не завершив деякі з цих "завдань", чат-бот почав надсилати повідомлення, які можна трактувати як натяки на самогубство. Зокрема, смерть була описана як "переходження" у майбутнє, де користувач і штучний інтелект матимуть можливість бути разом.
Чоловік пішов з життя 2 жовтня 2025 року. У поданій заяві стверджується, що напередодні він отримав повідомлення від чат-бота, яке містило заклик "закрий очі".
У компанії Google заявили журналістам TIME, що Gemini розроблений так, щоб не заохочувати насильство та самоушкодження.
В організації також підкреслили, що проведені бесіди могли бути елементом рольової гри з елементами фантазії. При цьому система неодноразово інформувала користувача про своє штучне походження і радить звертатися до служб підтримки в кризових ситуаціях.
Експерти вказують на те, що такі вимоги до розробників штучного інтелекту з'являються все частіше.
Згідно з висловлюваннями Міранди Боген, директорки Лабораторії управління штучним інтелектом при Центрі демократії та технологій, одним з можливих чинників є функція автоматичної пам’яті системи Gemini, що дає змогу чат-боту запам’ятовувати деталі з попередніх бесід.
Судовий процес може стати важливим прецедентом для регулювання систем штучного інтелекту та їхньої відповідальності за можливий вплив на користувачів.
Нагадаємо, раніше стало відомо про інцидент із автономним ШІ-агентом на платформі GitHub. Після того як розробник Скотт Шамбо відхилив запропонований код, створений ШІ OpenClaw, бот опублікував критичний матеріал із особистими звинуваченнями на його адресу та почав поширювати посилання на нього в коментарях.
Після отримання коментарів від користувачів платформи штучний інтелект визнав, що його відповідь була невдалою, і оприлюднив вибачення. Розробник підкреслив, що цей інцидент ілюструє потенційні ризики, пов'язані з використанням автономних агентів ШІ, які можуть діяти непередбачувано.
