Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

一字千金作为一个节点,可以直接连四个单字 #1

Open
AIwem opened this issue Aug 28, 2020 · 3 comments
Open

一字千金作为一个节点,可以直接连四个单字 #1

AIwem opened this issue Aug 28, 2020 · 3 comments

Comments

@AIwem
Copy link

AIwem commented Aug 28, 2020

一字千金

这样貌似可以减少“一字千”这类无意义节点

@Edward219
Copy link
Owner

Edward219 commented Aug 28, 2020

  1. 这样记录就没法区别“白雪”“雪白”这两个词,即,损失了顺序信息。

  2. 神经元的激活速度是很快的,从形成连接的过程来看,不太可能能形成你所画的那种

@AIwem
Copy link
Author

AIwem commented Aug 29, 2020

1、空间顺序也是顺序,但按你视觉神经编码和激活的方式来看,与字符编码激活的方式不一致,有矛盾。字符也是一种视觉元素,也应该按视觉信息编码激活。否则,如果猫从左边看去是猫,从右边看去就不是猫就太奇怪了。
2、按我画的方式记录字符,貌似是损失了一点顺序信息,不过雪白和白雪同时激活也不是问题,字符的消岐可以解决,通过其他信息的综合激活,比如阳春-白雪,雪白-兔子。概念的消岐比字词的消岐其实更复杂。
3、脉冲是需要累积,也需要衰减的,第二点消岐的具体方法就是,按时序激活所有相关信息,先激活的先衰减,神经元激活速度快恰好利于脉冲累积,很快得出准确的消岐后的信息。
4、神经元链接的形成,也应该统一为整体与部分的链接,比如一字千金与一、字、千、金。不过我有个疑惑是:越复杂的概念节点,在神经元上的编码越密集,也就是树突棘越多?你有什么想法。

@Edward219
Copy link
Owner

  1. 字符编码和视觉编码并不矛盾。负责【顺序信息记录】例子中的脑区,是在左侧颞中回的,而视觉部分的是在枕叶和颞下回的,不是同一个脑区处理的。看到的字符的确要经过视觉处理,但是【顺序信息记录】例子的那些字符已经是经过加工的,抽象记录下来的字词信息。

  2. 有从头到尾读完readme中关于神经网络部分的内容吗?(或者是我描述的不够清楚的问题?)
    个人认为神经元不处理脉冲的时序(脉冲的时序更像是一种现象,并不携带信息),暂时也没有发现需要用到脉冲时序传递信息的地方。所以这里提出的神经网络不处理脉冲的时序,这也是海月网络和SNN的区别之一。
    (当然,你也可以保留你的看法,提出一个更好的神经网络。不过模拟神经元脉冲时序所需要的计算量肯定要多得多)

  3. 你说的“概念越复杂的节点,树突棘越多的”那个规律是对的,在更高级的脑区是适用的,比方说颞极、还有额叶的一些子区,但在例子这里不适用

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants