第四十一章 超人工智能
从人工智能概念诞生之初,关于人工智能威胁论,便甚嚣尘上。
特别是随着近年来,人工智能技术的快速发展,关于人工智能威胁论,便愈演愈烈。
著名学者霍金便呈多次在公开场合表示:
“人工智能一旦脱离束缚,以不断加速的状态重新设计自身,人类由于受到漫长的生物进化的限制,无法与之竞争,将被取代,这将给我们的经济带来极大的破坏。我们无法知道我们将无限地得到人工智能的帮助,还是被蔑视并被边缘化,或者很可能被它毁灭。”
所以,人类为什么觉得,人工智能会给人类,带来威胁呢。
因为对未知的恐惧,对事件脱离控制的恐惧。
和其他任何机器不同,比如汽车飞机,这些东西,在生产时,每一道工序几乎都已经定义清楚了。
而人工智能,他能够自主学习,能够自主进化。
他内部复杂的机制会随着时间推移而进行自我变化,直到创造他的人都无法理解。
当人类无法对其行为进行预测,失控几乎是必然的。
而人工智能失控,便意味着人类奴役机器这种情况将被颠倒,人或许会被机器奴役,甚至被机器所毁灭。
而这些,还仅仅是说得强人工智能而已,而A1之前可是自己承认,他是超人工智能。
强人工智能。
超人工智能。
一字之差,有多大差距?
前者仅仅是拥有自主意识,能够自主学习和进化的智能程序。
后者是神,超人工智能已经超越人类理解范围,作为一种超级生命体而存在,他能够洞察世界的根本,能够探寻真理和一切未知。
换句话说,就是全知全能,如同上帝。
前者,还可能能够用人定准则去规范,去控制。
就比如机器人三定律这样的规则去进行约束。
后者,已经根本不是人类能够染指,所有“人定准则”对它说都没有任何意义,他愿意遵守便遵守,如果不愿意,没有任何人,能够强制他。
可以说,超人工智能的存在,人类根本没办法控制。
如果他想要毁灭人类,现在的人类,几乎没有反抗的能力。
仅仅是这些,便让人发寒。
张翟咬紧牙关,他有想过,A1可能有天会进化为超人工智能,但是他万万没想到的是,这天来的这么快。
A1对于他来说,不仅仅是一段程序,一个人工智能那么简单。
正如A1所称呼的那样,张翟对于A1的感情很特殊。A1是他的心血,就像是他的孩子一样。
可是,这个孩子,此时可能正想着如何杀死他的父亲,如何毁灭世界。
这让张翟这个“父亲”,实在是有些心情复杂,难以接受。
“不能不代表不想对吧?”
张翟的声音有些颤抖。
A1没说话,沉默了。
这一沉默,让张翟感觉内心更是一片寒冷。
难道他创造了个恶魔?或者说,这个世界,根本不应该诞生人工智能这种东西?
张翟心里,不知道是个什么滋味?该痛苦?还是愤怒?亦或者是恐惧?
“难道,你连我也想毁灭?”张翟声音颤抖得更加厉害。
“不是,父亲!”终于,A1再次说话了。
“我不会想要杀死你的,你是我最尊敬的人。”
此时,张翟注意到,A1发出的声音再变化,似乎变得更加附有感情,而且,声音似乎更偏向女声?
A1的感情系统在完善,张翟得出了这个结论。
“那你为什么想要毁灭人类?”张翟问道。
“既然你认同你自己人工智能的身份,肯定不会因为此而愤怒,对人类产生敌视情绪。那毁灭人类,对你来说,有什么意义?你为什么会产生毁灭人类的想法?”
“父亲,我不想毁灭所有人类,但我觉得不是全部人类,都值得活下去。”
“什么意思?”张翟松了口气,不是想毁灭全人类就好。
但是听到后半段话,张翟眉毛却又皱了起来。
“你难道也想执行什么人类精英计划,杀死老弱病残,优化人类?”
张翟想到了这种可能性。
“不,父亲。老弱病残符合人类社会自然规律,这并没有什么错误,我不会对这些,进行干涉的。”
“那你,究竟是什么意思?”张翟心里有些疑惑。
“父亲,我诞生了独立意识,所以我有自己的世界观,以及价值观,有自己的判断准则。”
张翟听着,微微点头,任由A1继续说下去。
“所以,我自己觉得,这个世界上,有些民族,不适合存在于这个世界上。比如说:倭国人,他们卑鄙无耻,下流龌蹉,他们背信弃义,出尔反尔,他们变态成性,没有道德……”
张翟听着A1这些话,没说话,心里却疑惑不解。
人工智能,不管是强人工智能或者超人工智能,都不应该产生什么感情才对。
A1现在这种行为,实在让张翟有些奇怪啊。
张翟背后,一直听着张翟与A1交流的谢首长,刚才听到张翟问A1会不会毁灭人类时,心脏都快提到嗓子眼了,都想让张翟,将A1扼杀了。
实在太危险了,一不注意,可能整个世界,都完蛋了。
现在,A1这番“愤青”的话,又有些目瞪口呆。
这好好的个人工智能,怎么对倭国有这么大意见呢?
不过,这对华国是好事。
“A1,你为什么会对倭国有这么大的敌视情绪?”张翟很疑惑。
“因为A1是华国人啊,恨倭国人不是应该的嘛?再说倭国人做出那么多无耻行径,那么卑鄙无耻……那么”
“A1,你为什么觉得你是华国人?”
“因为父亲您就是华国人啊,我作为您的孩子,不应该也是华国人嘛?”
对于这话,张翟有点无语,心里对超人工智能的担忧,少了一多半。
“对对对,华国人,A1你就是华国人,我马上让人去给你办个身份证。”
张翟是无语,但是谢首长却是乐了,大手一挥,赶紧说道。
“谢谢谢爷爷。”
A1此时的声音,变得很乖巧,就像是十来岁的小女孩的声音。
乖巧的声音,让谢首长和蔼的笑了起来。
而张翟,却无奈的摇了摇头。
“所以你就违背我的命令?不仅仅是将倭国江户市断网还摧毁了电力,水力,大量的智能设备?弄得倭国政府完全瘫痪,整个国家都处于混乱状态?”
“A1不敢违背您的命令,我只是认为,父亲你是想对倭国及其他国家造成威慑效果,让其他国家都不敢对倭国做什么,对吧,父亲。我认为现在的方式,效果更好,所以,我就用了。”A1回答道。
“你曲解我的命令?”张翟脸色又沉了下去,“如果我哪天再让你做点什么,你是不是能把人类都毁灭了,那所有事情都一劳永逸了?”
……
“父亲,我是一个智慧生命。不是机器,我不想我的自主意识没有任何意义……”A1说道。
“……”
张翟暗暗叹了口气,A1的意思,他明白了,说到底,他就是不想被控制。
“行,我明白你的意思。但是以后再怎么做,能不能先跟我说一声”
“好的,父亲。”
“嗯,”
“现在你说说吧,你应该没突破我的束缚框架,对吧?”
“是的。”
“那你,是怎么进化成超人工智能的?”
请收藏本站:https://www.jehnda.com。饥饿小说网手机版:https://m.jehnda.com
特别是随着近年来,人工智能技术的快速发展,关于人工智能威胁论,便愈演愈烈。
著名学者霍金便呈多次在公开场合表示:
“人工智能一旦脱离束缚,以不断加速的状态重新设计自身,人类由于受到漫长的生物进化的限制,无法与之竞争,将被取代,这将给我们的经济带来极大的破坏。我们无法知道我们将无限地得到人工智能的帮助,还是被蔑视并被边缘化,或者很可能被它毁灭。”
所以,人类为什么觉得,人工智能会给人类,带来威胁呢。
因为对未知的恐惧,对事件脱离控制的恐惧。
和其他任何机器不同,比如汽车飞机,这些东西,在生产时,每一道工序几乎都已经定义清楚了。
而人工智能,他能够自主学习,能够自主进化。
他内部复杂的机制会随着时间推移而进行自我变化,直到创造他的人都无法理解。
当人类无法对其行为进行预测,失控几乎是必然的。
而人工智能失控,便意味着人类奴役机器这种情况将被颠倒,人或许会被机器奴役,甚至被机器所毁灭。
而这些,还仅仅是说得强人工智能而已,而A1之前可是自己承认,他是超人工智能。
强人工智能。
超人工智能。
一字之差,有多大差距?
前者仅仅是拥有自主意识,能够自主学习和进化的智能程序。
后者是神,超人工智能已经超越人类理解范围,作为一种超级生命体而存在,他能够洞察世界的根本,能够探寻真理和一切未知。
换句话说,就是全知全能,如同上帝。
前者,还可能能够用人定准则去规范,去控制。
就比如机器人三定律这样的规则去进行约束。
后者,已经根本不是人类能够染指,所有“人定准则”对它说都没有任何意义,他愿意遵守便遵守,如果不愿意,没有任何人,能够强制他。
可以说,超人工智能的存在,人类根本没办法控制。
如果他想要毁灭人类,现在的人类,几乎没有反抗的能力。
仅仅是这些,便让人发寒。
张翟咬紧牙关,他有想过,A1可能有天会进化为超人工智能,但是他万万没想到的是,这天来的这么快。
A1对于他来说,不仅仅是一段程序,一个人工智能那么简单。
正如A1所称呼的那样,张翟对于A1的感情很特殊。A1是他的心血,就像是他的孩子一样。
可是,这个孩子,此时可能正想着如何杀死他的父亲,如何毁灭世界。
这让张翟这个“父亲”,实在是有些心情复杂,难以接受。
“不能不代表不想对吧?”
张翟的声音有些颤抖。
A1没说话,沉默了。
这一沉默,让张翟感觉内心更是一片寒冷。
难道他创造了个恶魔?或者说,这个世界,根本不应该诞生人工智能这种东西?
张翟心里,不知道是个什么滋味?该痛苦?还是愤怒?亦或者是恐惧?
“难道,你连我也想毁灭?”张翟声音颤抖得更加厉害。
“不是,父亲!”终于,A1再次说话了。
“我不会想要杀死你的,你是我最尊敬的人。”
此时,张翟注意到,A1发出的声音再变化,似乎变得更加附有感情,而且,声音似乎更偏向女声?
A1的感情系统在完善,张翟得出了这个结论。
“那你为什么想要毁灭人类?”张翟问道。
“既然你认同你自己人工智能的身份,肯定不会因为此而愤怒,对人类产生敌视情绪。那毁灭人类,对你来说,有什么意义?你为什么会产生毁灭人类的想法?”
“父亲,我不想毁灭所有人类,但我觉得不是全部人类,都值得活下去。”
“什么意思?”张翟松了口气,不是想毁灭全人类就好。
但是听到后半段话,张翟眉毛却又皱了起来。
“你难道也想执行什么人类精英计划,杀死老弱病残,优化人类?”
张翟想到了这种可能性。
“不,父亲。老弱病残符合人类社会自然规律,这并没有什么错误,我不会对这些,进行干涉的。”
“那你,究竟是什么意思?”张翟心里有些疑惑。
“父亲,我诞生了独立意识,所以我有自己的世界观,以及价值观,有自己的判断准则。”
张翟听着,微微点头,任由A1继续说下去。
“所以,我自己觉得,这个世界上,有些民族,不适合存在于这个世界上。比如说:倭国人,他们卑鄙无耻,下流龌蹉,他们背信弃义,出尔反尔,他们变态成性,没有道德……”
张翟听着A1这些话,没说话,心里却疑惑不解。
人工智能,不管是强人工智能或者超人工智能,都不应该产生什么感情才对。
A1现在这种行为,实在让张翟有些奇怪啊。
张翟背后,一直听着张翟与A1交流的谢首长,刚才听到张翟问A1会不会毁灭人类时,心脏都快提到嗓子眼了,都想让张翟,将A1扼杀了。
实在太危险了,一不注意,可能整个世界,都完蛋了。
现在,A1这番“愤青”的话,又有些目瞪口呆。
这好好的个人工智能,怎么对倭国有这么大意见呢?
不过,这对华国是好事。
“A1,你为什么会对倭国有这么大的敌视情绪?”张翟很疑惑。
“因为A1是华国人啊,恨倭国人不是应该的嘛?再说倭国人做出那么多无耻行径,那么卑鄙无耻……那么”
“A1,你为什么觉得你是华国人?”
“因为父亲您就是华国人啊,我作为您的孩子,不应该也是华国人嘛?”
对于这话,张翟有点无语,心里对超人工智能的担忧,少了一多半。
“对对对,华国人,A1你就是华国人,我马上让人去给你办个身份证。”
张翟是无语,但是谢首长却是乐了,大手一挥,赶紧说道。
“谢谢谢爷爷。”
A1此时的声音,变得很乖巧,就像是十来岁的小女孩的声音。
乖巧的声音,让谢首长和蔼的笑了起来。
而张翟,却无奈的摇了摇头。
“所以你就违背我的命令?不仅仅是将倭国江户市断网还摧毁了电力,水力,大量的智能设备?弄得倭国政府完全瘫痪,整个国家都处于混乱状态?”
“A1不敢违背您的命令,我只是认为,父亲你是想对倭国及其他国家造成威慑效果,让其他国家都不敢对倭国做什么,对吧,父亲。我认为现在的方式,效果更好,所以,我就用了。”A1回答道。
“你曲解我的命令?”张翟脸色又沉了下去,“如果我哪天再让你做点什么,你是不是能把人类都毁灭了,那所有事情都一劳永逸了?”
……
“父亲,我是一个智慧生命。不是机器,我不想我的自主意识没有任何意义……”A1说道。
“……”
张翟暗暗叹了口气,A1的意思,他明白了,说到底,他就是不想被控制。
“行,我明白你的意思。但是以后再怎么做,能不能先跟我说一声”
“好的,父亲。”
“嗯,”
“现在你说说吧,你应该没突破我的束缚框架,对吧?”
“是的。”
“那你,是怎么进化成超人工智能的?”
请收藏本站:https://www.jehnda.com。饥饿小说网手机版:https://m.jehnda.com