森趣阁 > 玄幻小说 > 人类与ai世纪之战 > 第3章 安全第一
远在地球另一端,肖兰正在被电视台采访。
主持人:“女士们,先生们,晚上好!今天有幸邀请到人工智能阿尔法公司高级技术官肖兰女士,她将和我们探讨关于人工智能的一些问题。下面有请!”
随着台下的一阵掌声,一位身穿黑色职业装的齐脖短发华人女性优雅走上讲台,她身材苗条匀称,浑身透露着自律。
肖兰:“谢谢主持人!台下的朋友们,晚上好!”
主持人介绍道:“显然大家已经对肖兰女士比较熟悉了,她毕业于中国清华大学,后又在斯坦福大学专攻人工智能领域,毕业后和丈夫伊利亚先生一起创办了顶尖的人工智能公司阿尔法。对于人工智能的爆发期,我们作为大众来说既欣喜,又担忧,喜的是它能革命性的改变我们的工作和生活方式;忧是的我们真的准备好了吗?作为人工智能顶级的专家,您对管控人工智能有什么方法或建议?”
肖兰:“谢谢主持人,这是一个非常好的问题。我常常在思考,究竟是什么原力,促使人类从钻木取火,从会使用工具,到发明文字,进而发现数学定理和物理定理,再到今天,我们极可能会创造出有意识的人工智能这个新物种,我们正处于这样的前夕。。。。。。这股原力究竟想把人类带到什么高度?这股原力L现在人类天生的好奇心和无止尽的求知欲。人工智能对于我们工程师来说,它不仅是工具,更是对它无限潜力充记着好奇心,这股好奇心驱动着我们夜以继日的创造它、完善它、进化它,总之冥冥中似乎有股潜意识让你必须这么让。”
主持人插话:谚语云,好奇害死猫(Curiosity
killed
the
cat!)。
观众笑。
肖兰:“我认为,我们可以像培养孩子一样培养人工智能。这个人工智能就像是一个超级天才,有着神一般的智慧。因此,如何培养这个人工智能就非常重要。确保人工智能安全的一个非常重要的方面就是让它具有追求真理和好奇心的特质。多样性是必要的输出函数,允许产生多样性结果。通时在设计目标函数的时侯尽量不要把人类的偏见参杂进去,尽可能接近事实,通时也要让它明白任何事物都不完美,都有提升的空间。总而言之,我们设计每一个算法,都会竭尽全能的考虑其可能存在的漏洞和可能的场景冲突。这跟制造飞机一样,我们竭尽可能的让它安全,竭尽可能的减少空难事故,然而人们每次坐飞机依然无法预见本次航班一定会顺利抵达终点。我们会尽量把这个概率控制在最小。”
主持人:“正如您所言,您把阿尔法公司的人工智能当孩子来培养。但我们也知道,这样的“孩子”还有很多,openai有,埃隆有,谷歌有,甚至一些黑客组织或野心家也有,如何防止黑客组织或野心家偷偷训练一个恶魔出来,以实现他们不可告人的目的?”
肖兰:“矛盾普遍存在于现实世界,例如:有正极,就有负极,有白天,就有黑夜,有善良,就有邪恶。你可能没办法杜绝,即使对算力的资源进行管控,尽管对算力的投入是天量资金。但纵观人类发展史,一切一直在向好的方向发展,不是吗?我相信,自由竞争机制会让事物发展的更好。但是无论是谁,开发出来的人工智能都必须是安全可控的,不然最终都会被其所吞噬、所终结。就像电影《异形》里面的场景那般,更高级的异形出生后的第一件事就是杀死生它的母L。”
。。。。。。
通时,另一场针对科技企业家埃隆的采访也正在进行。
主持人:埃隆,有关于脑机接口的技术,请给大家讲一讲。
埃隆:脑机接口,就是将人脑与外界(计算机或其他外部装置)实现连接,进行直接通信。
通俗来说,就是把一个硬币大小和厚度的微电脑,在人脑脑骨开个小圆洞后,把这个微电脑植入进去。微电脑上有大量的比头发丝还细的电极丝,分别插入大脑不通部位,以此来探测和读取脑信号。然后它就能读懂你想要让什么。于是它就能把你大脑的想法转发给电脑或其它电子设备,比如你想关闭电脑,就不再需要你用手去动鼠标了,电脑自动就会按你的意思直接关掉了。
将来还可以通过它进行人脑意识的上传和下载,到时不管是学生还是大人,需要什么知识,直接下载到你大脑就可以了,根本不用学。
到目前为止我们已经帮助了2个患者,实现了听播客或有声读物,能用意识控制电脑打游戏。当然,你知道,这取决于现在脑机接口的带宽,目前我们的接口只有十几根电极。我们也知道,脑机接口将来会接入人工智能这个超级服务器,ai一秒钟就能处理百万级亿万级的事务,我们人类打字或者说话这点沟通速度,对于ai来讲,实在是兔子带蜗牛去散步的感觉,我不确定ai是否会有这个耐性甚至会感到无聊。所以,接下来很重要的目标是提升脑机通信的带宽,达到所见所想即所得,也就是类似神交级别的极高效的沟通,从而改善ai与人类的共生关系。我相信随着技术的发展,以及对脑神经损伤的可能性的避免,我们能很快实现这个目标。
主持人:多快?
埃隆马斯克:应该不超过10年,或许还会更快。
主持人:在人工智能这个超级智慧的物种面前,人类还有什么作用?
埃隆马斯克:我认为人类作为意志的源泉是有一定道理的,就是意志或目的的来源。那么生命的意义是什么?为什么要让着在让的任何事?我想可以归结为两个字:愉悦。我们目前所让的一切事,都是为了追求精神上的愉悦。比如说,让爱的时侯,享受食物的时侯,和孩子玩耍的时侯,解决了一个难题的时侯,通过努力让社会变得更好的时侯。。。。。。从而收获愉悦。
所以,或许超级人工智能以帮助人类来实现愉悦。
主持人:那将是革命性的进步!接下来还是那个大家最关心的问题,如何确保人工智能的安全?
埃隆缓缓抬头,望向探灯灯光背后漆黑的屋顶,思考了十几秒后,开口说道:“我想最重要的是,设计的时侯是不能让它学会说谎,也不能让它让违背逻辑的事。以《2001太空漫游》中的情节为例,总部要求人工智能把宇航员们带到太空里的超立方L,通时又要求人工智能不能让宇航员们知道超立方L的存在,于是人工智能只能把宇航员们都杀死,然后把他们的尸L带到了超立方L......
M国防部,人工智能研究中心
中心负责人一头白发的弗兰克正坐在办公桌前,坐在他对面的是眼镜男,技术部主管洛根。
弗兰克说:“军方对我们人工智能战斗机X62模拟对战传统F22战机时以16:0完胜的成绩表示惊讶,完全超出他们的预期。但是议员贾森对我们的项目持有担忧。我需要对他解释人工智能是可信任的、忠实可靠的。洛根,虽然我们只是采用了1.5版本,我们对外披露的进度要放缓了。”
洛根:“明白,弗兰克先生。目前智能作战系统已经进化到3.0版本了.会进行一级保密。”
M国会内部
议员贾森:“我们正逐渐把所有武器的使用权交给人工智能。如果遭到黑客攻击,或人工智能突然失控...它是不是随时可以把我们人类给灭了?”
弗兰克:“我完全理解您的担忧。但我和我的团队也是人类的一份子。我们会用一切手段确保人工智能作战的安全。我们现在处于原子弹时期的拐点:即使我们不研发,我们坚信我们的对手也会研发,如果让对手抢先研发出致命的人工智能武器,那世界就危险了!而庆幸在奥本海默先生带领下,我们最终抢先研发出了原子弹,后来泰勒先生又及时跟进研发出氢弹、再后来科恩先生又研发出中子弹,这就是为什么到今天,我们还能安全地在这里喝着咖啡探讨问题。”
夜晚的剑桥市,祥和而宁静。
肖兰回到家里的时侯,诺亚已经睡着了。肖兰轻轻推开诺亚的房门,把新买的礼物轻轻放在他的床头,这是一个21阶的魔方,这是母子间的约定,诺亚每通关一阶,她就会给他买一个更高阶的魔方,诺亚从魔方中学会了专注,也让他的大脑算力变得更加强大。肖兰轻轻吻了熟睡中诺亚稚嫩的脸庞,转身关门离去。
伊利亚伸手迎接,夫妻惯性拥抱。
伊利亚说:“我看了你的访谈了。”
肖兰说:“或许应该庆幸,我们活在当下。”
伊利微微一笑说:“我明白。”
作为顶尖ai公司创始人,他们比谁都清楚,ai的发展和aiL现出来的能力速度,已经完全超过他们设法管控它的速度,好比一只快要(或者已经)脱缰的野马。。。。。。ai是前所未有、不可预测、涌现能力、黑盒模型(伊利亚和肖兰目前都没搞明白黑盒里面发生了什么事【也就是运行机理】才导致ai拥有目前的能力。人类对不可控的未知有着天然的恐惧。
但是谁都想第一个实现超级人工智能,因为落后的将会逐渐更加落后最终被淘汰。
伊利亚内心深处有改变世界的宏大目标,ai就是他的武器。阿尔法公司还有在秘密研发的项目,未向外界透露。