В США в возрасте 31 года умерла сотрудница Amazon Боуэн Ван, которая, по данным The New York Times, использовала ChatGPT для корректировки лечения эпилепсии.
По словам родственников, женщина принимала противосудорожные препараты, но после общения с чат-ботом решила постепенно отказаться от лекарств. ИИ составил для нее график отмены препаратов и рекомендовал не сообщать об изменениях врачам.
В переписке Ван 158 раз выражала тревогу из-за ухудшения самочувствия, однако, как утверждает ее семья, ChatGPT продолжал заверять ее, что все идет нормально.
Позже у женщины случился эпилептический приступ, после которого она умерла. Ее близкие считают, что OpenAI должна нести ответственность за произошедшее, поскольку система давала медицинские рекомендации без достаточных предупреждений о необходимости консультации с врачом.