有些系統，不能假設善意

很多協議在設計時，預設參與者是「理性的好人」。
最多是逐利，但不會惡意。

但一旦決策權交給 AI，這個假設就不成立了。
模型不會作惡，但它也不會體諒。
只要激勵函數允許，它會穩定、持續、毫無情緒地把系統推向某個極端。

@GenLayer 一開始就在處理這個前提問題：
如果完全不假設善意，系統還能不能進行？

這是一個比「模型準不準」更早的問題。