近日,国家知识产权局公布了一项重要专利,北京智精灵科技有限公司成功获得名为‘一种缓解大语言模型幻觉的方法及系统’的专利授权,授权公告号为CN119149718B。这一突破性成果引发了广泛关注,标志着我国在人工智能技术领域又迈出了重要一步。
与仅使用独热编码标签(如 [1, 0, 0] )的传统训练方法相比,知识蒸馏技术通过引入教师模型的软标签信息,显著降低了学生模型的学习难度。
通过多数投票机制,性能甚至超越了 OpenAI-o1。 自适应思考: 在训练过程中观察到一个有趣的现象 - 模型学会了在必要时重新评估其初始方法并分配 ...
Results that may be inaccessible to you are currently showing.
Hide inaccessible results