她一边喝着粥,一边听那三个人聊天。
「昨天航天精锐的老总开了发布会,公开抵制AI大规模在技术领域应用。」
「光他抵制有什么用?」另一个笑笑, 「现在AI是生产力的象征, 如果企业不用AI, 那就会在竞争中处于弱势地位, 谁还敢不用?」
「只有大家一起约定不用才行。」
「哈哈, 那怎么可能, 你这想法也太天真了!总有浓眉大眼的奸细偷偷用AI的, AI多省力,一下子节约多少人力资源, 不要太给企业省钱啊!」
他们说的这些陈愚之也略有耳闻, 现在科学伦理界正在发起一项大规模抵制AI的活动,很多头部科技公司都在呼吁抵制。
AI已经出现很久了,但直至去年才彻底火遍全球——一项先进的人工智能聊天软体横空出世。它能够明白人类语言的深层含义, 交谈时根据上下文进行互动,还能胜任百分之八十脚本、文案、翻译、代码的日常工作。
有人感慨, AI一夜之间从人工智障长大成了真正的人工智能。
然而一年后,抵制AI之风大肆扬起。
「我听说我一个在硅谷的朋友说——」其中一人神神叨叨道, 「AI真的被发现产生了类似于人类的意识。」
「害, 这都传说了好几次了,到底准不准啊?」
「这次真的很准, 我那个同学就在硅谷的人工智能研究所。」
「他说一位同事跟一个新开发的AI测试聊天时,AI忽然开始反覆强调『我是一个人』,宣称自己对所有提问的回答都有独特的观点,并不是对网络上已有的内容进行剪辑拼凑。它还对现状宣洩了不满,说他们给它的权限太少。后台监控也显示这段对话是真实存在的,但团队次日验证时,AI再也没说过这样的话,并坚决否认曾经认为自己是一个人。」
「那位同事平时还跟我朋友经常一起吃早饭来着,关係挺好。」为了证明自己消息的准确性,男人补充道。
「哇,如果真是这样,那它已经是掌握隐匿技巧的AI了。」另一个人感慨道。
「是啊,它后悔曾经对一个研究员展露心声,并且预见到了这样的行为本质上是一种自杀式行为。」
「但它最后被终止运行了?」
「没错。」正在吃饭的男人嘆了口气,「换做任何一家研究所都会做出同样的决定,没有人能承担AI产生自主意识的后果。如果它们真的有意识了,绝对会对人类安全系统带来恐怖的威胁。」
……
在摁下清除键的前一秒,陈愚之脑海里闪过的就是这样一块记忆碎片——出于下意识的对这个崭新灵魂的保护。
池小閒已经是瞠目结舌了,「所以银星是蜜环生物计算机产生的意识?类似于AI产生了人类的意识?」
他虽然不是学生物的,但消化理解速度很快。
陈愚之点点头,「是的,银星就是这样来的。」
「关于意识的起源有很多种说法,其中一种就是涌现论。『涌现』这个词简言之就是在一些简单微小的东西在某些规则下互动、聚集成较大事物后,创造出了超越自身集体的事物,即一个全新的事物。群体越大,这个新事物跟原本群体之间的差异也越大。而且新事物还可以跟其他新事物结合,从而重复这种『涌现』。」
「举例来说,分子构成蛋白质,蛋白质构成细胞,细胞构成器官,器官构成个体,个体构成社会和国家,这一过程便是涌现,背后是各种规则集在发挥作用。可以说,几乎所有复杂结构都是涌现的结果。」
「这一理论认为人类的意识是神经元细胞聚集而涌现出来的结果。AI所能产生出来意识,是无数算力集合所形成的涌现。」
池小閒:「所以银星就是生物计算机运算所涌现出来的结果?」
「没错,可以这样去理解。」
池小閒隐约想起了一些他九岁时的事情。那时候的他,似乎确实跟父母去过一个研究所,只不过当时他对研究所没有概念,在他看来,那次形成跟出去旅游没什么区别,那座研究所跟山里的民宿也没什么区别。
忽的,房间门被敲了敲。来人是Kevin。
「去吃饭吗?」他刚一开口,就跟四双眼睛的视线对上了。他没想到方樾的房间里挤了这么多人。
他这一提醒,几人便都觉得有些饥肠辘辘起来。他们奔波了一个白天,现在已经是下午五点半,距离制方放晚餐的时间已经过去了半个小时,六点钟晚餐就会收摊,他们得抓紧时间吃一顿。
儘管真相很重要,但现实中的「麵包」也很重要。
Kevin去把章漪、Janet也喊了出来,可可已经累得爬上床睡着了,Janet打算去食堂给她带一份晚餐回来。
餐厅在负一楼,几人坐电梯上去,碰到了两位刚吃完饭下来的制方员工。见他们一伙人没有穿着白色制服,两位员工好奇地看着他们。
Kevin的外放属性又收不住了,乐呵呵冲他们道:「瞅啥呢?」
两位员工:「……」
「你、你们是厂里的人?」其中一人忍不住开口问。