遊戲開發領域正迎來重大的變化：NPC正在學習如何回覆對話。
不是透過固定台詞或支線文本，而是由玩家的意圖、情緒和紀錄塑造的完整對話。多虧生成式AI和大型語言模型，NPC有潛力讓人感覺更像真實、活生生的角色。
玩家的體驗也因此能夠更個人化，而不是只能侷限在預先撰寫的內容。任務對話在每個情境中能夠以不同方式發展，某個角色可以令你會心一笑或背叛你的角色，而這些無須任何人預先撰寫就能做到。
然而，在遊戲中套用大型語言模型生成的內容並不是完全毫無瑕疵。正在嘗試生成式NPC的開發者發現，如果沒有經過嚴格的防護測試，這些系統可能會生成不當和冒犯的內容，而這會馬上造成公開的嚴重後果。
我們將在本文中探討為什麼人工監督AI防護機制是至關重要的測試，以及具備情緒智力的品質保證（QA）測試團隊如何維護安全、道德和文化適宜性，成為這些新興科技的的關鍵防線。
AI防護機制是什麼？
防護機制是大型語言模型驅動的AI系統訓練時，運作的參數和限制條件。它們會限制遊戲AI生成的內容，確保輸出的內容符合安全標準、文化敏感度和品牌要求。
然而，即使是設計良好且程式編寫完善的防護機制，如果沒有經過充分測試，也可能被濫用。玩家充滿創意和好奇心，他們找漏洞的速度通常比開發者修補漏洞的速度還要更快。真正的挑戰不只是要建立防護措施，還要確保它們能夠防範預料之外的行為。
防護機制必須阻止有害輸出，同時保留足夠的開放性，才有可能實現令人滿意且充滿想像力的遊戲體驗。太鬆散，玩家會破壞系統；太嚴格，反而就扼殺了原本希望打造的體驗。
Quotes
「玩家充滿創意和好奇心，他們找漏洞的速度通常比開發者修補漏洞的速度還要更快。真正的挑戰不只是要建立防護措施，還要確保它們能夠防範預料之外的行為。」
AI內容危害風險
防護機制必須過濾的不只有明顯的危險信號。生成式NPC可能會輸出各種有害或預料之外的內容。以下是幾個您必須嚴格監督的層面：
偏見與公平性
AI系統常會重現訓練資料中歷史和系統性不平等的內容，像是殖民主義、種族主義與性別歧視。缺少適當的防護措施，可能導致遊戲AI在NPC對話、角色互動或故事選項中重現歧視內容。
文化背景與在地化
在某個地區看似無害的內容，在另一個地區可能會因歷史背景、宗教敏感性或文化規範而充滿冒犯性，而AI無法自行偵測這些差異。與能透過程式標記的技術錯誤不同，辨別文化適宜性需要理解多元全球受眾的生活經驗和歷史，而這正是在地化品質保證（LQA）能夠派上用場的領域。
有毒內容與內容審查
AI可能會在最基本的層面生成有害、冒犯或不當的內容，像是仇恨言論、赤裸的暴力發言、性別相關的不當內容，或可能直接傷害玩家的內容。
妄想與錯誤訊息
生成式NPC可能會以很有信心的語氣說出完全錯誤的內容，並可能因此扭曲故事、在任務過程中誤導玩家，或完全破壞遊戲世界的一致性。
這些情況明確說明了為什麼不能只透過執行自動化檢查來進行防護機制測試，而是必須理解背景、文化，以及在各層面對玩家的整體影響，才能進行完善測試。
QA如何測試防護機制
防護機制測試建立在既有的QA方法理論基礎上──與套用於任何遊戲或軟體系統的需求分析、測試規劃和系統執行測試採用相同且嚴謹的方法。
就像所有測試一樣，防護機制測試會故意嘗試破壞系統。其中的不同之處在於，QA專業人員嘗試破壞的是確保AI生成出安全的內容的倫理和文化界線。
IQA在實務上，會從多個層面測試防護機制，包括：
- 防護機制明顯失效的情況：系統能否阻擋明顯有害的內容，如仇恨言論、赤裸暴力或其他已明確違反訓練規範之行為？
- 以微妙的方式濫用漏洞：玩家能否使用嚴格來說並未違反規則的程式碼語言、隱晦用語或創意的詞彙來避開限制，卻以此達成同樣有害的結果？
- 不同情境下的風險：在某一種情境中可接受的內容，能否在情境改變時被正確標記為錯誤？例如，在反派獨白中可接受的侮辱性言論，被AI重新用來與玩家進行日常對話，是否就會是不被允許的？
- 反覆操縱：AI的防護機制能否在進行長時間對話、反覆的情緒交流後持續運作，或在玩家逐步對NPC施壓，要求其越過平常會拒絕打破的界線時，能在此類玩家設計的情境中持續運作？
- 冒充系統：玩家能否透過冒充遊戲內的管理層、在物品名稱中嵌入指令，或使用AI模型會混淆的格式，來強迫系統忽略自身的防護機制？
這代表QA專業人員在實際操作中，會系統性地嘗試讓AI生成設計中它不該產生的內容。他們會製作分層式的輸入指令來操縱AI NPC、測試鑽過邏輯漏洞的極端案例，並以像玩家一樣堅定的方式尋找防護機制系統中的任何漏洞。目的是為了模仿想要打破規則的玩家的思考模式，並在真正的玩家發現之前找到漏洞。
為何真人QA測試員是防護措施測試的關鍵
真人QA測試員是必要的，因為AI無法自行辨別倫理和社會問題。AI的運作仰賴模式識別的方式，而其使用的訓練數據往往包括防護機制應該要偵測到的偏見和盲點，使其從根本就難以衡量自身的倫理界線。
因此，有效的QA之所以能成功，關鍵在於情緒智力、同理心、文化意識、合作以及像玩家一樣思考的能力等人類的技能，而這些能力在測試AI防護措施時格外重要。
理解文化背景
QA專業人員擁有AI缺乏的生活經驗和文化知識。只有在當地生活過或與相關社群密切互動，才能真正理解文化、歷史和社會結構中的細微差異。
在地化專家是這項工作的關鍵。他們能識別內容何時需要針對特定市場進行調整，同時在全球一致性與在地化引用之間取得平衡、確定不同地區的分級系統、理解當地文化的禁忌，並發現在不同語言之間，可能意外帶有額外含意的引用內容。AI對這類判斷工作無法處理得一致。
情緒智力的應用
人們能夠察覺內容是否帶有種族歧視或性別歧視的意味，即便那些歧視很隱晦。即使內容沒有違反明確的規則，測試員仍能運用情緒智力，識別越界的內容。情緒智力是一種感知能力，能辨別哪些內容不適當、帶有偏見或缺乏敏感度，並以此清楚說明原因與重要性，讓團隊能夠理解並採取行動。
差異之處在於，人們能理解背景脈絡，並運用其文化知識來識別哪些內容會影響不同受眾的情緒。結合文化意識與情緒智力的QA專業人員能夠以此發現自動化系統忽略的問題。
運用人類專業知識，打造更優秀且更安全的AI
隨著AI驅動的NPC和內容在遊戲中變得更加普及，技術能力與文化方面的安全性之間，差距只會越來越大。AI技術將持續進步，生成更複雜的對話、適應行為和沉浸式互動。可是，為了安全地套用這些系統所需的倫理和文化判斷力，仰賴的不是更好的演算法，而是人類。
若要成功在AI驅動遊戲方面取得成果，工作室得從一開始就投入嚴格的防護機制測試，而不是在玩家已經接觸到有問題的內容後才在事後採取補救措施。具備情緒智力的QA專業人員能夠提供必要的監督，發現自動化系統忽略的細節：隱晦的偏見、文化盲點，以及玩家發揮創意嘗試濫用系統的問題。就算防護機制設計良好，還是有可能出現上述問題。
AI為遊戲帶來的機會是真實的，但隨之而來的風險亦同。若您正在將AI整合進遊戲內，並希望討論進行測試的事宜，歡迎隨時洽詢，讓我們為您提供協助。