政府獲警告 AI 生成文件將虛假資訊帶入議會

這些內容不僅虛構研究，還將不存在的研究歸公於真實存在的學者和作者。委員會的報告甚至引用了大部分資料來源似乎皆為 AI 生成「幻覺」的提交文件；當大型語言模型（LLM）產出或引用看似真實但實際上根本不存在的內容時，即會發生此現象。

參議院針對調查提交文件的指引警告使用 AI 可能對資訊品質帶來風險，且確保準確性是提交者的責任。自由黨參議員 Paul Scarr 曾於 2023 年任職於某委員會時收到的一份提交文件包含對專業事務所 KPMG 的虛假不法指控，表示相關報導表明幻覺內容提交件增加源於立法者依賴不實資訊，因此存在明顯危險。

勞工黨眾議員兼社會政策與法律事務委員會主席 Miller-Frost 表示曾收到帶有虛構引用文獻的提交文件。她指出委員會正逐漸意識到此問題，但不應因此直接廢棄使用 AI 創作的提交文件，亦補充 AI 對原本在提出意見書上有困難的公眾成員可能有所幫助。

同路點評：

當政府官員提交報告時，大多數人不會想到他們會使用人工智慧來撰寫重要文件。因此，這種做法被揭露顯示政府在立法過程中缺乏透明度，辜負了公眾的信任。

人工智慧雖然已被證明能顯著提升我們的工作效率，但我們不能忘記它高度依賴現有數據，且仍處於發展階段。因此，我們不能指望人工智慧完成所有工作，而應該具備自行核實資訊的能力。否則，公眾將被虛假訊息和錯誤訊息所蒙蔽，導致社會陷入混亂。