chengse 本站元老 注册 2014-11-07 消息 729 荣誉分数 104 声望点数 153 2024-08-23 #1 AI集体出现幻觉 文章摘要 AI模型普遍存在幻觉问题,各领域表现不一,尚需改进。 • 大模型普遍产生幻觉,正确率仅为35% • 法律、健康等权威来源核查发现幻觉频频 • 临时解决方案需更多人类专家参与验证 康奈尔大学最近牵头,发起了一项关于AI幻觉的研究,结果让我非常有共鸣…… 平时处理业务、找人找信息、写东西……我自己用GPT-4o和Perplexity.AI的时间,大致是一半一半。 但是,仍然发现,即便GPT已经浓眉大眼地列出了信息来源、网站链接,真的细看,照样可以驴唇不对马嘴。
AI集体出现幻觉 文章摘要 AI模型普遍存在幻觉问题,各领域表现不一,尚需改进。 • 大模型普遍产生幻觉,正确率仅为35% • 法律、健康等权威来源核查发现幻觉频频 • 临时解决方案需更多人类专家参与验证 康奈尔大学最近牵头,发起了一项关于AI幻觉的研究,结果让我非常有共鸣…… 平时处理业务、找人找信息、写东西……我自己用GPT-4o和Perplexity.AI的时间,大致是一半一半。 但是,仍然发现,即便GPT已经浓眉大眼地列出了信息来源、网站链接,真的细看,照样可以驴唇不对马嘴。
春夏秋鼕 本站元老 注册 2014-10-19 消息 5,094 荣誉分数 1,203 声望点数 323 2024-08-23 #2 使用提示、检索增强等方法可以减少幻觉,但无论如何,现在GENAI还需要人来BABYSIT,真正代替人尚需时日