人工智能快速发展将对人类构成威胁?

随着传感器技术的不断进步,机器能够感知的事物和变化越来越多,而人工智能的原理就是模拟人类对外界的反馈以及人类的思考方式,将这些传感器结合起来,输入微型芯片处理器,经过计算输出,拥有人工智能的机器人就能够做出自己的行为。这样的人工智能机器人会独立处理更多的事情,而不必人类过多参与。但值得讨论的一点是,机器人能够判断对错,却不能判断善恶,一旦失去人类的控制,有了自己独立的思考,它们就会做出自己认为正确的事情,而不考虑善恶,糟糕一点可能会是,它们计算认为没有人类会更好。
所以有一些人开始担心这方面的技术发展过快,盲目应用会带来灾难。例如当下被热炒的物联网技术,核心是家中的设备相连在一个系统中,会自动监测并开启一些设备,满足生活作息的需要。可有人担心如果设备自动的权限过多,设备中也都有自己的传感器和芯片的话,它们接受了一些错误的反馈或者故障,就会做出错误的行为,比如你可能会被家中的吸尘器杀死。
埃隆·马斯克(Elon Musk)就是这些担忧者中的一员,他是美国的一名知名企业家,电动汽车制造商特斯拉首席执行官、屋顶光伏系统开发商SolarCity Corp董事会主席,他还是私人太空公司Space X的首席执行官和在线支付公司PayPal的联合创始人。他在去年10月接受采访时宣称,快速发展的人工智能技术可能成为人类的重大威胁,危及软件和网络安全。他曾经在视频中称:“显而易见,人类应该确保人工智能的向善性。我们最好现在就做好预防不利情况发生的准备,而不是在事故发生时才开始行动。现在还不清楚人工智能反噬后,人类能否成功恢复自由。但在许多假想中,人类是无法成功的。”近日,他向志愿者组织Future of Life Institute(FLI)捐款1000万美元,帮助人工智能朝向有益于人类的方向发展。需要说明的是,他还是FLI协会的咨询委员会成员。
目前来看,人工智能还是朝着好的方向在发展,但也是存在于现在的人工智能科技水平所限,如果将来技术进步到一定程度,建立一套成熟的规范还是非常有必要的。

 

 

14340619E-13

 

 

物联网的那些事  SuTell

未经允许不得转载:物联网的那些事 - Totiot » 人工智能快速发展将对人类构成威胁?