与AI战斗的一天
@Creative_bot 下学期, 与学生座谈, 如何使用AI做科研文献. 需要使用一个真实的科研问题, 作为案例,
AI所有的模型, 都在一个简单问题上, 误导读者.
问某冷门(前沿)技术的最早作者, 发明人和技术开发历史.
所有AI都将该技术的发明日期, 提前, 均使用错误的发明人, 给出的专利号, 查无此…, 专利人和发明人真有其人, 但是并不是真正的这个技术的首倡者.
我试图通过限定性prompt, 重新问问题, 结果还是错误百出.
问题来了,
- AI是不是在使用cache, 一旦生成, 即便是错的, 它也会不断在cache里需求答案, 这样是不是省心. 它也图省心?
- 如果是这样, AI在简单fact上一旦形成错误信息, 自己无法更正?
- 有没有可能要求AI模型, 抹除这个领域的知识cache, 然后重新建立答案?
- 如果简单fact的问题无法正确解答, 那么更是之内容的科学技术问题, 是否还有意义? 还是, 后者反而不容易出现错误?