根據訴訟文件AI幻覺案例資料庫（AI Hallucination Database）維護者 Damien Charlotin 的統計，截至 2026 年 8 月，全球法律實務領域已記錄約 1,934 起AI幻覺案例。這個數字不是科幻小說的設定，而是真實發生在法庭內、判決書上、律師簽名欄背後的荒謬現實——AI正在一本正經地胡說八道，而它編造出來的判例與法條，正被當作真理送進法院。
2023 年美國的 Mata v Avianca, Inc. 訴訟案，是人們第一次大規模意識到這問題的轉折點。ChatGPT 生成的虛假判例被律師引用進聯邦法院檔案，法官一查發現根本沒有這號判決。該名律師最終被處以 5,000 美元罰款，而法院的裁決書裡寫得明白：律師有責任在向法院引用法律依據前，確保其準確性——這句看似基本的職業倫理，如今因為AI的介入，變得比想像中更難落實。
一個月前的印度最高法院：引用AI假判例，裁定直接「無效」
別以為只有美國會出這種事。2026 年 7 月，印度最高法院在 Pooja Ramesh Singh v Jammu and Kashmir Bank Ltd & Anr 案件中做出了一個極具指標意義的裁定：任何基於虛假引用所作出的命令，即使僅有部分引用是捏造的，在法律上均「無效」。這不是警告，是直接廢了那份判決的法律效力。
這起案件之後，印度最高法院要求 Bar Council of India 為律師制訂紀律規則，而喀拉拉邦和古吉拉特邦高等法院則更進一步，直接針對司法官員制定了具體的AI使用政策，明確規範在司法職能中「負責任且有限度」地使用AI。從美國到印度，從聯邦法院到地方高等法院，司法體系正在用判決和罰則，一條一條畫出AI的紅線。
編輯觀點：印度最高法院這步棋，其實點出了一個關鍵問題：AI幻覺不是技術故障，而是「責任真空」的產物。律師把AI生成的內容直接複製貼上，沒有驗證、沒有懷疑、沒有第二道檢查——這不是AI的問題，是人的問題。但弔詭的是，當罰則落在律師頭上，真正該被檢討的卻是整個法律體系對於新工具的「無知」。說白了，AI素養不是選修課，是生存技能。如果連判例真假都分不出來，那簽出去的每一份狀紙，都在拿當事人的權益賭博。
孟加拉首席大法官的警告：AI不該寫判決
鏡頭轉到孟加拉。該國首席大法官祖巴耶爾·拉赫曼·喬杜裡（Zubayer Rahman Chowdhury）近期公開表態，立場非常明確：AI不應被用於撰寫法院判決。他不只喊話，還直接呼籲要制定法律和政策，清楚界定AI技術在司法領域的「使用範圍和程度」——換句話說，哪些事AI可以幫忙做、哪些事AI絕對不能碰，必須白紙黑字寫清楚。
孟加拉政府這半年其實已經在動作了。ICT Division 草擬了一份AI政策草案，聚焦於負責任的AI發展；Cabinet Division 則發布預警，要求公眾和政府機關不要把敏感、機密的資訊輸入AI系統；孟加拉國銀行（Bangladesh Bank）也跟進發出指令，禁止將機密銀行數據輸入AI系統，防範資料外洩風險。看得出來，孟加拉並非毫無警覺，但這些措施都還是「周邊防護」，真正直擊核心的司法AI使用規範，依然付之闕如。
數據誠信靠什麼撐？數位基礎設施是最大痛點
孟加拉在AI司法應用上卡關，有三個結構性問題值得注意。根據報導中引述的分析，首先是司法領域工作者的AI素養普遍偏低——法官、律師、司法人員對這項工具的風險認知不足。其次是數位法律資料庫的可用性和品質問題。說白了，沒有健全的數位化法律索引，就沒有交叉驗證的基礎，AI隨便編一個判例，你連查證的管道都沒有。第三，孟加拉目前缺乏一套有效的引用驗證機制，律師提交的狀紙裡引了什麼法條、哪個判例，沒有標準流程去核實。
這三個問題疊加在一起，讓AI幻覺的風險被放大到一個危險的程度。印度和美國的教訓已經擺在那裡——虛假引用不是「技術失誤」，而是會直接摧毀判決效力的致命瑕疵。
從全球視角來看，英國、澳洲、法國、加拿大等國也都陸續出現類似案例，這已經不是單一國家的偶發事件，而是生成式AI進入法律場域後，必然會面對的系統性風險。Damien Charlotin 的資料庫裡那 1,934 筆記錄，每一筆都代表一次「機器說謊而人差點信了」的真實瞬間。
AI還是可以幫上忙——前提是知道牠哪裡不行
話說回來，我們也不必因噎廢食。AI在法律領域確實有它的價值：法律研究、案件管理、文件草擬、行政職能輔助——這些事情如果運用得當，確實有望減少案件積壓、降低庶務負擔。問題從來不在於「要不要用AI」，而在於「怎麼用、誰來管、錯了怎麼辦」。
報導中點出了一條值得參考的路徑：孟加拉應借鑑國際經驗，迅速制定一套司法AI使用政策，明確定義哪些領域禁止或限制AI介入，並對濫用AI生成資料的行為訂定懲處措施。同時，Bangladesh Bar Council 也應為律師制訂明確的使用規則，確保律師必須驗證AI生成的每一個引用，而且提交虛假法律依據的責任，最終必須回到人身上——不是AI，不是軟體，是簽名的那個人。
同樣重要的是，孟加拉必須建立一套可信任的數位法律資料庫——裡頭要有最新的法規、判決、法律依據，而且要讓法官和律師能輕鬆地交叉驗證AI給出的每一條引用。沒有這層基礎建設，所有關於AI倫理和監管的討論，都只是空中樓閣。
數據背後的啟示
回頭看這 1,934 起AI幻覺案例，可以歸納出一個殘酷的事實：AI的謊言和人的懶惰，正在聯手侵蝕司法誠信。當一位律師把AI生成的狀紙看都不看就送進法院，當一位法官因為時間壓力而跳過引用查證，當一套司法體系連基本的數位驗證機制都付之闕如——AI幻覺就不只是技術問題，而是制度失靈的警訊。
孟加拉首席大法官的呼籲，與印度最高法院的判決，其實指向同一個結論：AI可以用，但底線必須畫清楚。判決書不能讓AI寫，因為司法權是國家公權力，不能外包給一個會胡說八道的黑盒子。法律引用必須經過人眼查證，因為簽名的人要為每一個字負責。
這不僅是孟加拉的問題。台灣的法律科技發展正在加速，司法院的AI輔助判決系統、律師事務所的生成式AI工具導入，都在逐步推進。我們有沒有足夠的數位法律資料庫來驗證AI輸出？我們的律師和法官有沒有足夠的AI素養來辨識幻覺？我們的規範制度跟得上技術的速度嗎？
這些問題沒有標準答案，但它們值得每一個關心司法正義的人認真思考。AI不會停下腳步，幻覺也不會自動消失。真正能守住那條線的，永遠是人的判斷力。
給台灣法律人的一句話：不要等到法院裡出現第一起「AI幻覺導致判決被撤銷」的案件才開始討論這個議題。孟加拉和印度的經驗已經很清楚了——制度永遠跑在技術後面，但你不能讓它落後太多。現在就應該開始盤點現有的法律數位基礎設施、建立引用驗證的標準流程、並且把AI素養放進法律專業的繼續教育裡。這個領域沒有局外人，每一位法律工作者都是第一線把關者。
本文改寫整理自公開新聞來源，原始報導由Yahoo奇摩新聞發布。
常見問題 FAQ
什麼是AI幻覺？為什麼會對司法造成威脅？
AI幻覺指的是生成式AI產出看似合理、但實際上是錯誤或完全捏造的資訊。在法律場域中，這可能表現為AI憑空編造判例、虛構當事人姓名、錯誤引用法條或文獻。當律師或法官未經查證就採用這些內容，會直接影響判決的正確性與司法公信力。
Mata v Avianca, Inc. 案是什麼？為什麼這麼重要？
這是2023年發生在美國的聯邦訴訟案，也是全球首度有大規模媒體關注的AI幻覺司法事件。該案律師在狀紙中引用了ChatGPT生成的虛假判例，被法官發現後遭罰款5,000美元。此案成為後續各國司法體系正視AI幻覺問題的重要分水嶺。
台灣目前有針對AI幻覺的法律規範嗎？
目前台灣尚無專門針對司法領域AI使用的專法或具體規範。不過司法院已陸續推動AI輔助判決系統等科技計畫，法界也開始關注生成式AI對法律實務的影響。建議法律從業人員在明確規範出爐前，應主動對AI生成內容進行嚴謹的人工查證，並建立內部檢核機制。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。