版权说明 操作指南
首页 > 成果 > 详情

基于层次记忆网络的知识追踪系统及方法

认领
导出
反馈
分享
QQ微信 微博
成果类型:
专利
发明/设计人:
刘三女牙(刘三女牙);邹睿;蒋路路;孙建文(孙建文);张凯
申请/专利权人:
华中师范大学
专利类型:
发明专利
语种:
中文
申请时间:
2019-11-14
申请/专利号:
CN201911115390.6
公开时间:
2020-04-21
公开号:
CN111047482A
主申请人地址:
430079 湖北省武汉市洪山区珞喻路152号
申请地区:
湖北
机构署名:
本校为第一完成单位
主权项:
1.基于层次记忆网络的知识追踪系统,包括用于输入知识信息和输出预测信息的控制器组件,其特征在于,还包括层次记忆矩阵组件、读头和写头组件; 所述读头和写头组件设置在所述控制器组件和所述层记忆组件之间,所述读头和写头组件用于将所述控制器组件处理后的输入信息写入到所述层次记忆矩阵组件存储更新,并从所述层次记忆矩阵组件中读取更新后的知识信息; 所述层次记忆矩阵组件包括工作存储单元、长期存储单元、分割模块和衰减模块,所述分割模块用于将输入的信息分为工作记忆信息和长期记忆信息分别存入到工作存储单元和长期存储单元,所述衰减模块用于将存入长期存储单元的长期记忆信息进行衰减后存入到长期存储单元,用于模拟人的记忆模式对知识信息进行存储。 2.根据权利要求1所述的基于层次记忆网络的知识追踪系统,其特征在于,所述层次记忆矩阵包括若干个呈矩阵排列的用于存储信息的插槽,其中部分插槽置于所述工作存储单元内,剩余的插槽置于所述长期存储单元内。 3.根据权利要求1所述的基于层次记忆网络的知识追踪系统,其特征在于,所述衰减模块与所述工作存储单元和所述长期存储单元的插槽连接,用于将信息赋予衰减率后写入到插槽中。 4.根据权利要求1所述的基于层次记忆网络的知识追踪系统,其特征在于,所述控制器组件包括强化输入模块,所述强化输入模块用于强化测评数据和反馈数据的编码。 5.根据权利要求1所述的基于层次记忆网络的知识追踪系统,其特征在于,还包括记录使用位置和使用顺序组件,用于记录层次记忆矩阵中每个插槽的使用情况和每个插槽的使用顺序。 6.如权利要求1~5中任一项所述的基于层次记忆网络的知识追踪方法,其特征在于,包括如下步骤: S1输入知识信息序列,并对其进行编码; S2强化测评数据编码和反馈数据编码,使得二者更好区分; S3利用神经网络处理输入的信息,并将知识分为工作记忆和长期记忆写入层次记忆矩阵,并不断利用输入信息对层次记忆矩阵进行存储和更新; S4从层次记忆矩阵读取信息作为已知的知识信息,与输入的下一步的题目信息做点积运算得出下一步题目正确率的预测结果。 7.根据权利要求6所述的基于层次记忆网络的知识追踪方法,其特征在于,步骤S3具体包括: S31利用输入的信息对层次记忆矩阵进行写入式更新,并对输入的信息按照工作记忆和长期记忆进行分割,将工作记忆直接进行存储,将长期记忆以衰减的方式进行存储; S32从层次记忆矩阵中提取已知的知识信息。 8.根据权利要求7所述的基于层次记忆网络的知识追踪方法,其特征在于,步骤S31中,输入信息的写入其主要根据基于内容的注意力机制和基于使用位置的注意力机制进行信息的写入,基于内容的注意力机制为写头通过对比所述控制器组件的输出信息和所述层次记忆矩阵中每个插槽存储的信息,来决定向每个插槽写入多少信息,基于使用位置的注意力机制为根据位置是否存有信息来决定是否向该位置写入信息。 9.根据权利要求7或8所述的基于层次记忆网络的知识追踪方法,其特征在于,步骤S31中,分割主要的步骤包括引入距离向量衡量两个时间步之间的信息差异,计算累积的信息差异向量,以超参数为阈值与累积的进行比对,超过阈值的存入到长期存储单元,未超过阈值的存入到工作存储单元。 10.根据权利要求9所述的基于层次记忆网络的知识追踪方法,其特征在于,步骤S31中,衰减的方式写入具体包括引入衰减向量 衰减向量decayt用于为记忆矩阵的每个插槽设置写入时的衰减率: 其中,cumsum(·)是累加函数,softmax(·)是softmax函数, 代表逐元素积,dt代表由LSTM神经网络生成的第t个时间步的衰减系数向量,阈值∈是趋于0的正常数。 根据衰减向量decayt,我们将Mt-1更新为Mt: 其中,运算符代表逐元素积,E是全1矩阵,是基于注意力机制的写入权重向量,是擦除向量的转置,是写入向量,decayt是衰减向量。
摘要:
本发明公开了基于层次记忆网络的知识追踪系统,包括控制器组件、层次记忆组件、读头和写头组件,读头和写头组件设置在控制器组件和所述层记忆组件之间,读头和写头组件用于将控制器组件处理后的输入信息写入到所述层次记忆组件存储更新;层次记忆矩阵组件包括工作存储单元、长期存储单元、分割模块和衰减模块,分割模块用于将输入的信息分为工作记忆信息和长期记忆信息分别存入到工作存储单元和长期存储单元,衰减模块用于将存入长期存储单元的长期记忆信息进行衰减后存入到长期存储单元。本发明的基于层次记忆网络的知识追踪系统,模拟人类长期记忆和短期记忆的模式,对输入的知识信息进行分...

反馈

验证码:
看不清楚,换一个
确定
取消

成果认领

标题:
用户 作者 通讯作者
请选择
请选择
确定
取消

提示

该栏目需要登录且有访问权限才可以访问

如果您有访问权限,请直接 登录访问

如果您没有访问权限,请联系管理员申请开通

管理员联系邮箱:yun@hnwdkj.com