- 主题:Ai几十年发展史兜了一大圈,又回到仿生的路子上了
- 60年代大型机的时候流行专家系统,符号学习,理性主义,其实当时神经网络的雏形就是受生物学启发,当时也觉得通用人工智能会建立在语言的基础上。
 后来计算机小型化,pc普及了,互联网时代来了,手机普及了,移动互联网时代又来了。这几十年产生了大量的数据,面向特定任务的统计学习成为了ai的主流。那时的论调是仿生没用。
 然后随着算力的进步,偶然发现以前仿生设计的cnn在视觉方面很好用,带火了深度学习。直到变形金刚网络又被发现很好用,只要加大网络,数据,计算就能力大砖飞,其实这也是一种仿生,因为人类小孩也是这么学习的,所谓熟读唐诗三百首。再往后,模仿人类学数学的过程,搞分步推理,分步计算,发现变形金刚网络搞分步计算效果也惊人的好。
 惊人么,仔细想也并不惊人,人类也是这么做的啊。
 十年前说神经网络是黑箱,人脑也是黑箱啊,但是在脑神经科学发展以前,人类已经在用人脑创造文明了。
 --
 FROM 111.55.145.*
 
- 汾酒必喝,喝酒必汾
 【 在 Engelberger 的大作中提到: 】
 : 60年代大型机的时候流行专家系统,符号学习,理性主义,其实当时神经网络的雏形就是受生物学启发,当时也觉得通用人工智能会建立在语言的基础上。
 : 后来计算机小型化,pc普及了,互联网时代来了,手机普及了,移动互联网时代又来了。这几十年产生了大量的数据,面向特定任务的统计学习成为了ai的主流。那时的论调是仿生没用。
 : 然后随着算力的进步,偶然发现以前仿生设计的cnn在视觉方面很好用,带火了深度学习。直到变形金刚网络又被发现很好用,只要加大网络,数据,计算就能力大砖飞,其实这也是一种仿生,因为人类小孩也是这么学习的,所谓熟读唐诗三百首。再往后,模仿人类学数学的过程,搞分步推理,分步计算,发现变形金刚网络搞分步计算效果也惊人的好。
 : ...................
 --
 FROM 202.47.106.*
 
- 其实,摸索这么多年,这才逐渐走向正路
 
 当年大佬明斯基写的书,不怀好意命名为《感知机》,严重误导了AI研究方向,否则AI应该
 比现在发展更快若干年
 
 
 【 在 Engelberger 的大作中提到: 】
 : 60年代大型机的时候流行专家系统,符号学习,理性主义,其实当时神经网络的雏形就是受生物学启发,当时也觉得通用人工智能会建立在语言的基础上。
 : 后来计算机小型化,pc普及了,互联网时代来了,手机普及了,移动互联网时代又来了。这几十年产生了大量的数据,面向特定任务的统计学习成为了ai的主流。那时的论调是仿生没用。
 : 然后随着算力的进步,偶然发现以前仿生设计的cnn在视觉方面很好用,带火了深度学习。直到变形金刚网络又被发现很好用,只要加大网络,数据,计算就能力大砖飞,其实这也是一种仿生,因为人类小孩也是这么学习的,所谓熟读唐诗三百首。再往后,模仿人类学数学的过程,搞分步推
 : ...................
 --
 修改:pixYY FROM 111.36.200.*
 FROM 111.36.200.*
 
- 变形金刚的最大作用是支持自然语言对话了。
 这之前CV和棋类对弈都相当成熟,但都不是革命性的。
 
 
 
 【 在 Engelberger 的大作中提到: 】
 60年代大型机的时候流行专家系统,符号学习,理性主义,其实当时神经网络的雏形就是受生物学启发,当时也觉得通用人工智能会建立在语言的基础上。
 后来计算机小型化,pc普及了,互联网时代来了,手机普及了,移动互联网时代又来了。这几十年产生了大量的数据,面向特定任务的统计学习成为了ai的主流。那时的论调是仿生没用。
 然后随着算力的进步,偶然发现以前仿生设计的cnn在视觉方面很好用,带火了深度学习。直到变形金刚网络又被发现很好用,只要加大网络,数据,计算就能力大砖飞,其实这也是一种仿生,因为人类小孩也是这么学习的,所谓熟读唐诗三百首。再往后,模仿人类学数学的过程,搞分步推理,分步计算,发现变形金刚网络搞分步计算效果也惊人的好。
 惊人么,仔细想也并不惊人,人类也是这么做的啊。
 十年前说神经网络是黑箱,人脑也是黑箱啊,但是在脑神经科学发展以前,人类已经在用人脑创造文明了。
 --
 FROM 123.103.9.*
 
- 改正:attention也不是transformer模型原创。
 我觉得embedding才是革命性的想法,transformer不过解决了并行训练的问题。
 
 【 在 reaphone 的大作中提到: 】
 : 变形金刚的最大作用是支持自然语言对话了。
 : 这之前CV和棋类对弈都相当成熟,但都不是革命性的。
 :
 : ...................
 --
 修改:booble FROM 112.41.21.*
 FROM 112.41.21.*
 
- 【 在 butcher 的大作中提到: 】
 : 只要人类不解决从哪里来到哪里去,
 : 人类永远都是造物主的小小玩物。
 : 事实上人类永远不会知道。
 : ...................
 出来看看天吧..
 --
 FROM 61.48.14.*
 
- 大模型拿着人类的显性知识以类型掌握默会知识(隐性知识)的方式在学习。具体说是以海量文字的形式为输入,在词汇和语义空间上的相似性进行大量的训练,得到了一个类似默会知识的人类知识体系。大模型自己也说不清楚是怎么学会的,是怎么用的,反正能解决问题,当然也会出错。
 --
 FROM 114.246.109.*
 
- 人脑还不是一样,人脑能工作,但不知道自己是怎么工作的;人脑有意识,但不知道意识是怎么形成的。
 【 在 schen1999 的大作中提到: 】
 : 大模型拿着人类的显性知识以类型掌握默会知识(隐性知识)的方式在学习。具体说是以海量文字的形式为输入,在词汇和语义空间上的相似性进行大量的训练,得到了一个类似默会知识的人类知识体系。大模型自己也说不清楚是怎么学会的,是怎么用的,反正能解决问题,当然也会出错。
 --
 FROM 183.208.181.*
 
- 以显性知识的掌握来进行默会知识的学习
 
 即便是通过比自然大脑强数亿倍的算力
 
 这一路径大可能是错误的,或者说过于自负了
 
 留待时间证明
 
 【 在 schen1999 的大作中提到: 】
 : 大模型拿着人类的显性知识以类型掌握默会知识(隐性知识)的方式在学习。具体说是以海量文字的形式为输入,在词汇和语义空间上的相似性进行大量的训练,得到了一个类似默会知识的人类知识体系。大模型自己也说不清楚是怎么学会的,是怎么用的,反正能解决问题,当然也会出错。
 --
 FROM 14.11.6.*
 
- 并没有,误导,仿生的路一直有人在走,只是算力和数据不够。
 够了之后,不到5年就爆发了
 【 在 pixYY 的大作中提到: 】
 : 其实,摸索这么多年,这才逐渐走向正路
 : 当年大佬明斯基写的书,不怀好意命名为《感知机》,严重误导了AI研究方向,否则AI应该
 : 比现在发展更快若干年
 : ...................
 --
 FROM 159.226.52.*