跟其他領域的專家一樣，在整合AI服務到工作的過程中同時會面臨到機會與挑戰。圖書館員提供AI服務時會遇到下列幾項議題：

1. 運算法偏見(Algorithmic bias)：AI系統的偏見可能來自於用來訓練他們的資料，圖書館員必須注意AI工具背後資料集(dataset)中可能潛藏的偏見，特別是與資訊檢索相關的工具。

2. 隱私權(Privacy concerns)：AI工具通常需要依賴大量的資料來改善工具性能，圖書館員要注意工具是否在收集與使用圖書館使用者(patron)資訊改善AI服務時會有隱私權問題，要確保在符合隱私規範的情況下保護與使用使用者資料。

3. AI使用倫理(Ethical use of AI)：圖書館員要確保AI服務的佈署符合專業及倫理標準。

 

4. 正確性與可靠性(Accuracy and reliability)：圖書館員必須取用具有正確性及具可靠性的AI生成資訊。

 

5. 使用者教育(User education)：圖書館員會面臨教育使用者關於AI服務的限制與功能的挑戰。

 

6. 對AI的理解有限(Limited understanding of AI)：圖書館員對AI技術認識有限，有效整合AI工具到圖書館服務中匯兌館員形成挑戰。

 

7. 資源徵集(Resource allocation)：實施與維護AI服務會需要額外的資源，包含財務投資、訓練課程及持續性的支援。

 

8. 數位落差(Digital divide)：若是特定的使用者族群缺乏技術取用的管道或是數位素養技巧，則在圖書館實施AI服務可能擴大既存的數位落差，館員要注意在提供AI服務時要提供公平的取用管道。

 

9. 訓練資料的代表性(Representation in training data)：若是發展AI服務的訓練資料集缺乏多元性，可能會導致有偏見的演算法；圖書館員必須支持多元且具代表性的資料集以減輕AI系統中存在永久性種族偏見的風險。

 

10. 公平性與平等性(Fairness and equity)：圖書館員必須確保AI服務的設計與佈署存有公平性及平等性。

 

11. 透明性(Transparency)：圖書館員必須支持AI演算法及決策過程中的透明性。了解AI系統如何運作對辨識及處理系統爭潛在偏見來說很重要。

 

12. 社群參與(Community engagement)：圖書館員可以與所屬社群多互動了解社群對AI及種族偏見的觀點與擔憂。

 

13. 教育與覺知(Education and awareness)：圖書館員在教育員工與使用者有關於AI系統存在的偏見及可能對不同族群產生的影響上扮演重要的角色。

 

14. 持續的監管與評估(Ongoing monitoring and evaluation)：圖書館員應該持續監控及評估AI服務的表現並辨識及處理任何與種族偏見相關的議題。

 

除了上述偏見與倫理議題挑戰以外，還有著作權議題，包含：

1. 在內容中使用AI的著作權問題(copyright questions about using AI in content)

 

2. 提供給AI的授權內容 (Licensing content for AI)

 

3. 技術開發時使用AI的公司守則與策略指令 (Company guidelines and strategic directives around technologies using AI)

 

4. 預算不確定性 (Budget ambiguity)

 

5. 與時俱進 (Stay current) 等五項。

 

AI的議題很廣泛而且需要整個社群共同協助關注。圖書館員是在第一線處理學生、教職員、行政人員、研究者等資訊需求的人員之一，該文作者建議館員可以採取下列步驟：

1. 覺知(awareness)：有目的性地學習關於AI的偏見與倫理學

 

2. 教育(education)：為其社群提供教育與訓練

 

3. 參與(engagement)：鼓勵所屬機構參與AI社群以對AI偏見與倫理有更多的討論

 

4. 行動(action)：積極處理已知的AI偏見與倫理議題。

 

摘譯自 AI challenges for librarians