強化學習是機器學習的一個分支，專注於通過獲得獎勵或懲罰形式的反饋來進行試錯學習。然而，在許多現實場景中，設計準確反映代理行為的目標的獎勵函數可能會很具挑戰性。這就是基於人類反饋的強化學習（RLHF）發揮作用的地方。RLHF 涉及將人類反饋納入學習過程，以指導代理的學習並提高其性能。