长短期记忆网络(LSTM)是什么？它的主要特征

长短期记忆网络(Long Short-Term Memory, LSTM)是一种特殊的循环神经网络，能够学习长期依赖关系。它通过门控机制来控制信息的流动,避免遗忘重要的远期信息。

长短期记忆网络(LSTM)的主要特征

1、遗忘门(Forget Gate):控制上一时刻细胞状态的遗忘程度,一般使用Sigmoid激活函数。
2、输入门(Input Gate):控制当前时刻输入到记忆单元的程度,一般使用Sigmoid激活函数。
3、输出门(Output Gate):控制记忆单元输出的程度,一般使用Sigmoid激活函数。
4、更新门(Update Gate): 将遗忘门和输入门输出相乘作为记忆单元层的输入,一般使用Tanh激活函数。
5、记忆单元(Memory Cell):记录长期信息,一般使用Tanh激活函数。

长短期记忆网络(LSTM)的工作流程

1、定义LSTM输入xt及隐藏层ht-1和Ct-1(上一时刻隐藏层输出和记忆单元)；
2、计算遗忘门:ft = σ(Wf · [ht-1, xt] + bf) (σ为Sigmoid激活函数)；
3、计算输入门:it = σ(Wi · [ht-1, xt] + bi)；
4、计算更新门:ut = tanh(Wu · [ht-1, xt] + bu)；
5、更新记忆单元:Ct = ft * Ct-1 + it * ut；
6、计算输出门:ot = σ(Wo · [ht-1, xt] + bo)；
7、计算当前隐藏层:ht = ot * tanh(Ct)；
8、重复步骤1-7直到序列结束。

Github镜像网站网页版首页入口

Github中国全球用户排名查询、仓库Star排名

GitHub加速下载站合集大盘点

中国区Github开发者排行榜网页版首页入口

Github Proxy官网：一个在线重定向Github链接文件代理加速下载服务

标签： LSTM, 长短期记忆网络

上面是“长短期记忆网络(LSTM)是什么？它的主要特征”的全面内容，想了解更多关于 IT知识 内容，请继续关注web建站教程。

当前网址：https://m.ipkd.cn/webs_4912.html

声明：本站提供的所有资源部分来自互联网，如果有侵犯您的版权或其他权益，请发送到邮箱：admin@ipkd.cn，我们会在看到邮件的第一时间内为您处理！