Aachen - II(ICNCE with Lynx!)

没有想到ICNCE现场会放lynx我哭了TAT，这就是命吗。

• 第一场：

  今天的tutorial讨论到了一个我比较感兴趣的topic：AI意识以及和人类区别的哲学性问题，以及关于AI的alignment，所谓基于人类的广利metric。

  但是我想了一下，based on fisher natural selection theorem：reward function纯粹是replicator equation下策略fitness的演化。从这方面来说, 人类的alignment=进化写入，那么AI的reward alignment这个命题本身是否成立？（即真的有AI alignment吗？在alignment什么？人类被写好的进化性 编码？）其次，从这个角度来说，关于AI和人类所谓好奇心等抽象层面的差异的论点，如果将AI的奖励函数写成人类所谓好奇心，而人类的value纯粹是进化的优化产物、基因的编码，那么这种差异是否可以被看作只是写入奖励函数的造物主的不同而已？

  另外关于AI alignment命题成立性，从哲学层面来说，将AI的奖励函数对齐到一个replicator equation收敛出来的策略且甚至不能被证明是全局最优的策略上，对于metric(这里被定义为超人类主义性质，因为这是我的价值观)，是否真的具有意义？

• 第二场：

  这场计算神经科学是我主场了所以激动到我连着问了两个问题：

  ​第一个：你展示了连接性具有高度的不均匀性，且具有区域特异性。我很好奇是否有证据表明，不同个体间的这些连接模式存在某种拓扑不变性？如果有，我们能否利用这些不变量，找到一种能够保持结构的映射，将一个大脑的连接组映射到另一个大脑的连接组上？

  ​第二个：我问了最后一个问题（全场最后一个）作为计算神经科学家，你怎么看待意识，比如什么是意识，意识是一种process related to bunch of 神经活动，还是a thing itself？

  主讲人be like:能不能问点专业方向内的问题

• 第三场：

  SNN, 有趣是很有趣，重点是用随机自动微分(stochastic AD) 训练SNN, 大概听了点，是说对期望进行微分（由于Spike不可微），另一种classic的方法是使用surrogate gradient（光滑函数代替阶跃函数）。

  full of math!但是感觉还是好工程，感觉数学在这里是工具，而不是本身。