如何建立神经网络在这种结构?与不同节点连接到不同数量的节点在下一层

0

的问题

我只知道如何使用建立在网络等递归神经网络的LSTM在PyTorch. 但他们往往处理中每个节点上一层,这将提供信息的所有节点在下一层。

我要做不同的东西,但不知道如何编写我自己。 喜欢这个图:节点的 一个 地图给所有[d, e, f]中的三个节点在第2层,同时节点 b 的地图[e,f]和节 c 仅映[f]. 结果,节 d 仅包含的信息从 一个,而 电子 中将包含的信息[a, b]. 和 f 将包含的信息的所有节点上一层。 没有人知道如何编写这种结构? 请给我一些见解,我将非常感谢:D

结构

1

最好的答案

1

当你有一层看起来像完全连接层,但与定义连接,使用一个 面罩 以适当的结构。

让我们说 x = [a, b, c] 是你3-暗淡和输入 W 表示的连通性矩阵。

>> x
tensor([[0.1825],
        [0.9598],
        [0.2871]])
>> W
tensor([[0.7459, 0.4669, 0.9687],
        [0.9016, 0.4690, 0.0471],
        [0.5926, 0.9700, 0.5222]])

然后 W[i][j] 指连接之间的重量 j第输入和 i第输出神经元。 建立的结构类似于你的玩具的例子中,我们将做一个面具这样

>> mask
tensor([[1., 0., 0.],
        [1., 1., 0.],
        [1., 1., 1.]])

然后你可以简单地掩 W

>> (mask * W) @ x
tensor([[0.1361],
        [0.6147],
        [1.1892]])

注: @ 是矩阵和乘法 * 是逐点的乘法运算。

2021-11-21 18:17:35

所以如果我输入昏暗3、输出暗淡的是3。 我的神经网络的结构也会喜欢{输入3暗淡,LSTM_layer(3,64),全connected_layer(64,3),*降低三角形的面罩矩阵(3,3),产出暗淡3}. 将这项工作作为我定制的连接,以使最后的三个节点得到differerent信息? 或者我应该把面膜矩阵之间的输入层(3,1)和LSTM层(3,64)
Aioku Takume

是你输入顺序(你有LSTM之间)? 你的图示仅完全连接层。 解决我所提供的仅仅是为了掩蔽FC层。
ayandas

对不起我制作的图简单。 我输入时间序列的数值(数值,hour_index,week_index)和我想用一个LSTM层提取一些信息之间的输入(3暗淡)和产出(3暗淡). 所以,如果我使用一种面具后LSTM层时,将发出三点是,如:d节点只包含一周的信息,e节点包含每周小时,f节点包含值,小时,每周信息?
Aioku Takume

其他语言

此页面有其他语言版本

Русский
..................................................................................................................
Italiano
..................................................................................................................
Polski
..................................................................................................................
Română
..................................................................................................................
한국어
..................................................................................................................
हिन्दी
..................................................................................................................
Français
..................................................................................................................
Türk
..................................................................................................................
Česk
..................................................................................................................
Português
..................................................................................................................
ไทย
..................................................................................................................
Español
..................................................................................................................
Slovenský
..................................................................................................................