WikiEdge:ArXiv-2409.02471v1/questions

編輯

作者面對的是算法公平性領域中，特別是在回歸和分類問題中實現人口統計公平性（demographic parity）的挑戰。具體問題包括：

1. • 算法歧視風險：機器學習算法通過大規模數據集學習模式，可能無意中複製或加劇數據集中存在的社會歧視和偏見。
   • 公平性與準確性的權衡：在不知情的框架下，即禁止基於敏感屬性的不同對待，預測結果往往在公平性和準確性之間產生次優的權衡，可能引發群體內歧視。
   • 公平算法的預測機制理解不足：如何在公平性約束下進行風險最小化，以及如何提供在公平性約束下的最優回歸函數的簡單數學描述。