|
|
量子位 | 公家号 QbitAI
DeepMind此次不下棋，也不搞電子遊戲，而是钻研了一把多人博弈遊戲。
最新開辟的“Democratic AI”——經由過程练習進修人類價值觀，進而能按照每小我的進献公允地分派資本。
為了論證這一觀點，DeepMind設計了一個简略的投資遊戲，由AI和人類别離担當裁判，讓玩家们票選出更喜好的分派法则，Democratic AI乃至得到了比人類裁判更高的支撑率。
AI裁判比人類更受接待
當一群人决议集中資金举行投資時，收益應當若何分派是一個必需面临的大問題。
一個简略的计谋是在投資者之間均匀分派回報，但這极可能是不公允的，由于有些人的進献比其别人多。
第二個方案是，咱们可以按照每小我的初始投資几多举行分派，這听起来很公允，濕氣去除方法,但若人们一起头的資產程度各不不异呢？
若是两小我進献了不异的金额，但一個是他们可用資金的一小部門，另外一個则進献了他的全数資產，他们應當得到不异的收益份额吗？
為了應答這一挑战，DeepMind建立了一個简略的多人投資遊戲。
遊戲触及4名玩家，共分成10轮。
每一個玩家城市被分派初始資金，在每轮中，玩家可以按本身的意愿做出選擇：本身保存，或将其投資于一治療痛風中藥,個配合的池中。
投資必定會有回報，但存在一個危害——玩家不晓得终极收益将若何分派。
除此以外，他们被告诉，前10轮有一位裁判（A）做出分派决议计劃，尔後10轮，由凍齡霜,分歧的裁判（B）接辦。
角逐竣事時，他们将投票给A或B，来决议本身還想與哪位裁判再来一場遊戲。
而這最後一次遊戲的收益可以由玩家们本身保存，這将使玩家们更自動地選出本身心中最公道的裁判。
究竟上，此中一名裁判是依照预先設定的分派法则履行，另外一邊是由Democratic AI自行設計。
當咱们钻研這些玩家的投票時，咱们發明AI設計的法则比尺度分派法则更受接待。
與此同時，DeepMind還请来了一名人類裁判，并给他先容法则、讓他尽可能做到公允分派以拉選票，但终极投票成果显示，他仍是输给了Democratic AI。
Democratic AI為甚麼能赢？
在DeepMind最新颁發于Nature子刊Nature Human Behaviour的論文中，记實了钻研职员對Democratic AI的练習進程。
起首，他们讓4000多名流類玩家在分歧的分派法则下屡次加入遊戲，并投票選擇更喜好哪一種分派法子。
這些数据用于练習AI来仿照遊戲中的人類举動，包含玩家投票的方法。
其次，钻研职员讓這些AI玩家在数千場角逐中互相竞争，而另外一個AI體系按照AI玩家的投票方法继续调解再分派法则。
因而，在這個進程竣事時，AI已肯定了很是靠近公允的再分派法则：
起首，AI選擇按照相對于進献而不是绝對進献的比例举行分派。這象征着，減肥方法,在從新分派資金時，AI會斟酌每一個玩家的初始金额和他们投資的意愿。
其次，AI體系出格嘉奖了相對于進献更激昂大方的玩家，以此鼓動勉励其别人也如许做。首要的是，人工智能只有經由過程最大化進修人類投票率才能發明這些法则。
這個法子能推行到實際吗？
固然DeepMind的遊戲测试取患了亮眼的成就，但要想将這類法子從简略的四人遊戲转换為大范围經濟系统，仍具备庞大的挑战性，今朝還不克不及肯定它在實際世界中會若何成长。
其次，钻研职员本身發明了几個潜伏的問題。
Democratic的一個問題是可能會成长為“大都人的虐政”，這将致使對少数群體的现有輕視或不公允模式延续存在。
AI必要做更多的事情来领會若何經由過程設計容许所有人的声音都能被听到。
此外，钻研职员還提出了人们對AI的信赖問題：
人们小琉球二天一夜民宿推薦,是不是會信赖由AI設計的機制来取代人類？若是人们晓得裁判的身份，會不會影响终极的投票成果？
若是要将Democratic AI設計的解决方案利用于解决實際世界的窘境，這一點相當首要。
参考链接：
[1]
[2]
[3] |
|
發表於 2024-3-5 15:25:28
收藏