logo logo
焦點觀點
::: 首頁 焦點觀點專欄 研究人員使用神奇的工具來了解AI: 哈利波特

研究人員使用神奇的工具來了解AI: 哈利波特

2024-01-02
TAG 人工智慧 AI 哈利波特 Slio Artificial Intelligence

二十多年前,J.K.羅琳著作將一個充滿魔法生物、禁忌的森林和一位青少年巫師介紹給大眾,哈利波特在AI研究中找到新的關聯性。越來越多的研究人員利用暢銷的哈利波特進行生成式人工智慧技術的實驗,該系列在流行文化中持久的影響以及內容豐富的語言數據和複雜的文字遊戲。回顧引用哈利波特的研究和學術論文,可以了解尖端人工智慧研究的概況,以及該技術所面臨的一些最棘手的問題。

在最為顯著的最近一個例子中,哈利、妙麗和榮恩在一篇《哈利波特是誰?》的論文中扮演主角,該論文揭示了一種新技術,有助於大型語言模型有選擇性地遺忘資訊。但這是一項高風險的任務:為人工智慧聊天機器人提供支援的大型語言模型建立在大量線上資料的,包括受版權保護的資料和其他有問題的內容。這也導致了一些人工智慧公司面臨訴訟和公眾審查。論文的作者,微軟研究人員Mark Russinovich 及 Ronen Eldan表示,他們已經證明人工智慧模型可以修改或編輯,刪除有關哈利波特書籍的任何知識,包括人物和情節,而不影響人工智慧系統的整體決策和分析能力。

在另一個研究中,華盛頓大學、加州大學伯克利分校和艾倫人工智慧研究所的研究人員開發了一種名為Silo的新語言模型,,可以刪除資料以降低法律風險。然而,他們在今年稍早時發表的一篇論文中表示,如果只使用低風險文字(如不受版權保護的書籍或政府文件),模型的表現會顯著下降。

為了深入研究,研究人員使用哈利波特書籍來觀察單一文本片段是否會影響人工智慧系統的表現。他們建立了兩個資料庫,即網站和文件的收藏。第一個包含除第一本哈利波特書以外的所有已出版書籍;另一個包含該系列的所有書籍,但不包括第二本,以此類推。研究人員在測量人工智慧模型衡量準確性標準時提到“當哈利波特的書籍從資料庫中刪除時,困惑度變得更嚴重”。

全文請見:https://www.bnnbloomberg.ca/researchers-have-a-magic-tool-to-understand-ai-harry-potter-1.2015648

上一則 回索引頁