英國政府發出警告，若是公司機構將人工智能聊天機器人應用到其業務中，則存在網絡安全風險。（圖片來源：LIONEL BONAVENTURE/AFP/Getty Images）
【看中國2023年8月31日訊】（看中國記者東辰雨編譯/綜合報導）2022年11月，OpenAI推出人工智能（AI）聊天機器人ChatGPT風靡全球，隨之所出現的風險引起各國關注。英國政府發出警告，若是公司機構將人工智能聊天機器人應用到其業務中，則存在網絡安全風險。
人工智能聊天機器人存在網絡安全風險
英國路透社報導，8月30日，英國國家網絡安全中心（National Cyber Security Centre，NCSC）發表博客文章（blog post）警告，科技專家尚未解決與可以生成人類發音交互的算法（generate human-sounding interactions）相關的潛在安全問題，這種算法又稱為大型語言模型（large language models，LLM），可能會帶來網絡安全風險。
英國國家網絡安全中心表示，科技專家和研究人員已經多次找到了引導控制人工智能聊天機器人的方法，通過向聊天機器人提供惡意命令或欺騙它們繞過內置的防護系統。例如，銀行使用的人工智能聊天機器人可能會被黑客誘騙進行未經授權的交易。
路透社與伊普索（Ipsos poll）最近一項民意調查發現，許多企業員工正在使用人工智能聊天機器人ChatGPT 等工具來幫助完成基本工作人物，例如起草電子郵件、總結文檔和進行初步調查研究。約10%的受訪者表示，他們的老闆明確禁止使用外部人工智能工具，而25%受訪者不知道他們公司是否允許使用這種人工智能技術。
人工智能的安全影響仍然是全球各國關注的焦點，美國和加拿大當局表示，他們已經發現黑客在利用人工智能聊天機器人。
網絡安全公司RiverSafe首席技術官奧塞洛卡·奧比奧拉（Oseloka Obiora）表示，如果企業沒有引入必要的檢查和防護措施，那麼人工智能融入商業競爭中將產生「災難性後果」。
為全球首部AI法案鋪路 歐盟提出生成式AI新法規
政治新聞網站Politico報導，根據獲得的歐盟執委會4頁文件內容顯示，歐盟執委會針對關於使用ChatGPT、Bard等在內的生成式AI工具制定了職員指南。新職員指南主要目的是「幫助職員評估在線可使用的生成式AI工具的風險和侷限性，並為他們在委員會工作活動中安全使用設定條件。」
除了概述AI功能之外，還制定了委員會職員使用此類工具是應遵守的5項主要規定，包括：使用生成式AI工具時不得洩露不屬於公共領域的信息；要意識到AI存在可能不正確或帶有偏見的回應；思考AI是否可能侵犯知識產權；官方公文禁止複製粘貼AI生成的內容；在處理「關鍵和時間敏感的流程」時避免使用AI工具。
《人工智能法案》是歐盟委員會於2021年4月21日提出的一項法規，旨在為AI引入一個共同的監管和法律框架。它的範圍涵蓋所有部門（軍事除外），以及所有類型的AI。作為產品監管的一部分，該提案不賦予個人權利，而是規範AI系統的提供者，以及以專業身份使用它們的實體。
一些特別關鍵的應用已經需要根據現有歐盟法律監督合格評定，例如醫療設備，供應商根據AI法案要求進行的自我評估是否會被根據該法規進行評估的公告機構考慮，例如醫療器械法規。該提案還將禁止某些類型的應用程序，即遠程生物特徵識別、潛意識操縱人員的應用程序、以有害方式利用特定群體弱點的應用程序以及社會信用評分。對於前三個，提出了執法的授權制度背景，但社會評分將被完全禁止。該法案還提議引入一個歐洲人工智能委員會，該委員會將鼓勵國家合作並確保法規得到遵守。
路透社報導，歐盟AI法案近期提出有關ChatGPT等AI生成工具的新法規，AI生成工具公司必須披露任何用於開發其系統的受版權保護的知識產權，新法規可能為歐盟AI法案成為世界上第一部管理AI技術綜合法律鋪平道路。
2年前，歐盟委員會開始起草有關AI的法案，用以規範新興的AI技術。在OpenAI的AI聊天機器人ChatGPT發布之後，AI技術的投資和受歡迎程度都出現了激增現象。
歐洲議會成員同意將《人工智能法案》提案推進到下一階段，即三方會議。在此期間，歐盟立法者和成員國將討論該法案的最終細節。
根據提案，AI工具將根據其感知風險級別進行分類：從最低到有限、高和不可接受。令人擔憂的AI技術領域可能包括生物識別監控、傳播錯誤信息或歧視性語言。
雖然高風險的AI技術工具不會被禁止，但需要在使用操作過程保持高度透明。例如，ChatGPT或圖像生成器Midjourney等AI生成式工具公司還必須披露用於開發其系統的任何受版權保護的知識產權。
報導引述熟悉內情的消息人士透露，歐盟有關AI的新法規條款是在過去2週內擬定的。歐洲委員會部分成員最初提議完全禁止將受版權保護的知識產權用於訓練生成式AI模型，但由於透明度要求而被放棄。
