元記事を読む → Reason(英語)ChatGPT Editing Adding Hallucinations to Otherwise Accurate Material?生成AIの編集で架空の判例が混入、弁護士が処分
ChatGPT Editing Adding Hallucinations to Otherwise Accurate Material?
Reason ・ Eugene Volokh ・
AI要約 要約
コネティカット州最高裁判所の判決によると、ある弁護士が正確な法的文書の推敲に生成AIのChatGPTを使用し、気づかないうちに架空の判例が追加されるハルシネーション(幻覚)が発生した。裁判所は、AIによる編集後も引用の再確認を怠ったとして、追加の倫理研修や寄付などの処分を科した。執筆者は、AIを編集に使う場合は再確認を徹底するか、提案のみを受け入れるべきだと指摘している。
論点
- 弁護士が正確な法的草案をChatGPTで推敲したところ、無断で引用が改変・追加された
- 内容は実質的に正しかったため見落とされ、第三者の指摘によって判明した
- 裁判所は弁護士に倫理研修や寄付などの処分を科した
著者の立ち位置
AIツールを利用する際の事実関係を報告しつつ、編集における利用上の注意を促す法的な事実報告の立場
この要約は AI(gemini:gemini-3.5-flash-lite)が作成したもので、誤りを含むことがあります。正確な内容は元記事でご確認ください。
元記事を読む → Reason(英語)ChatGPT Editing Adding Hallucinations to Otherwise Accurate Material?この記事について質問する
AI が記事本文だけを根拠に答えます。本文の一部を日本語に訳すこともできます。本文に無いことは「記事には書かれていません」と答えます。
AI の回答は誤りを含むことがあります。正確な内容は元記事でご確認ください。
AI要約 Pangramは、著者が人間であることを確認できないというメッセージを表示した。
AI要約 GoogleはK–12生徒のアカウントで検索やGeminiを初期設定で無効にする一方、検索と一体化したAI機能は個別に停止できない。
AI要約 著者は、AI業界関係者も参加する「Red Means No」の性行為パーティーをめぐる報道が、根拠の薄いまま女性への職場圧力という問題に仕立てられていると批判する。
AI要約 米国でマイクロソフト、航空管制、銀行などの障害が相次ぎ、公式説明は更新作業やソフトの不具合が中心だ。
AI要約 生成AIが仕事を奪うという懸念は理解できるが、著者は議論が仕事の代替という供給側に偏っていると指摘する。