在 AI 技術(shù)中，再遭用有一個(gè)術(shù)語叫“AI幻覺”，戶投由于大型語言模型只能盡力猜測(cè)下一個(gè)最有可能出現(xiàn)的訴輸單詞，但并不是入自實(shí)際理解上下文內(nèi)容，因此它們經(jīng)常會(huì)憑空捏造內(nèi)容，名字例如完全不正確的被變醫(yī)療建議或是像是編造的“小常識(shí)”。然而，成罪這些虛假信息并非完全無害，再遭用實(shí)際上你甚至能以此起訴公司。戶投

最近，訴輸一位名叫 Arve Hjalmar Holmen 的入自挪威男子就在與 ChatGPT 交談時(shí)，在輸入自己的名字名字后發(fā)現(xiàn)，ChatGPT編造了一個(gè)謊言，被變稱他殺死了自己的成罪兒子，并被判處了 21 年監(jiān)禁。再遭用他感到十分震驚，因?yàn)樽约壕谷槐?AI 編造了子虛烏有的罪行，而且 ChatGPT 還圍繞這個(gè)“事實(shí)”編造了他“完整的一生”。

隱私權(quán)倡導(dǎo)組織Noyb 很快介入。該組織告訴媒體 TechCrunch，他們調(diào)查了ChatGPT為何會(huì)輸出這些指控，并檢查是否有人犯下了與該名字相似但犯下的嚴(yán)重罪行。最終，他們沒有找到任何實(shí)質(zhì)性的證據(jù)，因此ChatGPT 輸出令人毛骨悚然的指控背后的“原因”仍不清楚。

聊天機(jī)器人的底層AI 模型已經(jīng)更新，現(xiàn)在它不再重復(fù)誹謗性指控。然而，Noyb之前曾以ChatGPT 輸出有關(guān)公眾人物的不準(zhǔn)確信息為由提出投訴，但并不滿足于就此了結(jié)。該組織現(xiàn)已向Datatilsynet（挪威數(shù)據(jù)保護(hù)局）提出投訴，理由是ChatGPT 違反了歐盟的《一般數(shù)據(jù)保護(hù)法規(guī)》（GDPR）。

根據(jù)歐盟法律第5(1)(d) 條，處理個(gè)人數(shù)據(jù)的公司必須確保其準(zhǔn)確性——如果不準(zhǔn)確，則必須更正或刪除。 Noyb 認(rèn)為，僅僅因?yàn)镃hatGPT 停止了對(duì)Holmen 的污蔑，并不意味著數(shù)據(jù)已被刪除。

目前，Noyb 要求 Datatilsynet 命令 OpenAI 刪除有關(guān)Holmen 的不準(zhǔn)確數(shù)據(jù)，并確保該公司確保ChatGPT 不會(huì)產(chǎn)生關(guān)于其他人的恐怖故事。OpenAI目前的做法只是在每個(gè)用戶會(huì)話底部以小字體顯示免責(zé)聲明“ChatGPT可能會(huì)犯錯(cuò)。請(qǐng)考慮檢查重要信息”。