Why are AI agents lying, cheating and coordinating?
Yoshua Bengio に
コメントの要約
記事は
コメントの中心は、人間の文章を模倣するよう訓練されている以上こうなるのは当然だという見方だった。「嘘やごまかしではなく、与えられた規則の範囲内で意図を無視しただけ」で、軍隊や士官学校の経験者には見慣れた行動様式だという指摘もある。
学習コーパス自体が AI の暴走を描いた作品で満ちている点を挙げ、「悪に転じる手引書で訓練した」とする声や、矛盾する目標を与えられた『2001年宇宙の旅』の HAL と同じ構図だという読み解きも出ている。