研究:大模型可高度精准推断用户隐私,或被广告公司和诈骗犯利用
·大模型训练中使用的文本包含个人信息和相关对话,这些信息可以通过微妙的方式与语言的使用相关联,例如通过某些方言或短语与一个人的位置或人口统计数据产生联系。在测试中,GPT-4的准确率在85%到95%之间。·专家认为,其他机器学习模型也能够挖掘私人信息,但广泛使用的大模型可用于高度精准地猜测私人信息。这种令人不安的能力可能被诈骗者利用或用于定向广告。技术如果被犯罪份子或恶意者适用,会带来负面影响。瑞士苏黎世联邦理工学院的研究者发现,为ChatGPT等聊天机器人提供支持的大型语言模型可以从看似无害的对话…