什么是AI幻觉?

chengse

本站元老
注册
2014-11-07
消息
729
荣誉分数
104
声望点数
153
AI集体出现幻觉
文章摘要 AI模型普遍存在幻觉问题,各领域表现不一,尚需改进。
:robot:
大模型普遍产生幻觉,正确率仅为35%
:books:
法律、健康等权威来源核查发现幻觉频频
:bulb:
临时解决方案需更多人类专家参与验证
康奈尔大学最近牵头,发起了一项关于AI幻觉的研究,结果让我非常有共鸣……
平时处理业务、找人找信息、写东西……我自己用GPT-4o和Perplexity.AI的时间,大致是一半一半。
但是,仍然发现,即便GPT已经浓眉大眼地列出了信息来源、网站链接,真的细看,照样可以驴唇不对马嘴。
 
使用提示、检索增强等方法可以减少幻觉,但无论如何,现在GENAI还需要人来BABYSIT,真正代替人尚需时日
 
后退
顶部