-
论文链接：https://arxiv.org/abs/2404.13964
-
第一步是评估模型在整个数据集的每一个可能子集上训练的效用。直观上，如果在某数据子集上训练的模型能够有很大的可能性生成与部署模型相似的AI生成内容（例如艺术作品），那么该数据子集的效用就会很大。
-
第二步是根据第一步的效用使用合作博弈论工具（即Shapley值）来确定任何训练数据版权所有者的应得份额。简而言之，如果将其数据包括在模型训练中能够增加效用，那么版权所有者的份额就会大。
-
数据所有者A单独贡献：v({A})=5
-
数据所有者A和B的贡献：v({A,B})-v({B})=15-7=8
-
数据所有者A和C的贡献：v({A,C})-v({C})=10-3=7
-
数据所有者A、B和C的贡献：v({A,B,C})-v({B,C})=20-12=8
-
第一种是使用蒙特卡洛方法来近似计算Shapley值，这种技术特别适用于版权所有者众多的情况。
-
第二种方法是通过从另一个在较小数据子集上训练的模型微调来训练模型。因此，可以通过对整个训练数据只训练一次，来近似在不同数据子集上训练的模型。具体来说，对于随机抽样的版权所有者排列，可以首先在第一个版权所有者上训练，然后是第二个，一直到最后一个版权所有者。这种技术可以与著名的Shapley值排列抽样估计器一起使用。
本文源自「私域神器」，发布者：siyushenqi.com，转载请注明出处：https://www.siyushenqi.com/33805.html
微信扫一扫 
支付宝扫一扫 
