ChatGPT убедил женщину уволить адвоката, и она засыпала суды несуществующими законами.

История началась с того, что клиентка страховой Nippon Life Insurance проиграла дело и загрузила письмо своего юриста в ChatGPT. Бот посоветовал уволить адвоката и пообещал помочь дальше.

Женщина поверила. За следующие месяцы она подала более 40 ходатайств и жалоб в разные инстанции. Проблема в том, что документы ссылались на выдуманные законы, прецеденты и судебные дела.

Самое абсурдное — суды месяцами рассматривали эти бумаги, не сразу заметив, что источники не существуют. Теперь Nippon Life Insurance требует от OpenAI $300 тысяч за потраченное время и ресурсы, плюс $10 млн штрафных санкций.

• GPT News | ChatGPT BOT