ChatGPT порадив не звертати уваги на критичний стан, що може загрожувати життю: у США було подано судовий позов проти OpenAI.

Американський священнослужитель Скотт Вінтерс подав до суду позов проти OpenAI, стверджуючи, що відповіді ChatGPT змусили його відмовитися від медичної допомоги, незважаючи на наявність симптомів тромбоемболії легеневої артерії. Він зазначає, що внаслідок цього він втратив важливий час, а його стан здоров'я погіршився до критичного. Про це інформує видання The New York Times.

За матеріалами позову, чат-бот повідомляв, що симптоми не свідчать про серйозну небезпеку, рекомендував більше відпочивати та довіряти власному організму. Також у відповідях згадувалося, що "Бог не створив людське тіло для нескінченних відмов". Пізніше Вінтерса госпіталізували до відділення інтенсивної терапії.

Лікарі припустили, що пацієнт переніс кілька епізодів тромбоемболії легеневої артерії. На їхню думку, тривале перебування без руху, якого він дотримувався, виконуючи рекомендації ChatGPT, могло погіршити перебіг захворювання. За даними американських медіа, користувач взаємодіяв із моделлю GPT-4o.

У 2025 році в Сполучених Штатах була ініційована судова справа проти Character AI у зв'язку з трагедією, що сталася через самогубство молодої людини. Щотижня більше мільйона користувачів ChatGPT виявляють ознаки суїцидальних думок.