易昀说出第二道指令:“我想吃火锅。”
a3o6o9答:“好。”随后火出门,它一刻也不想在这呆下去。
易昀掐着时间,不过两刻钟,a3o6o9买来食材。a级机器按部就班,即便生气也不会拖延指令完成进度。易望舒就不同,被易昀欺负,就会变着法耍小情绪。就像刚刚,易昀不让他出去,他就不替易昀敲代码。
火锅、调料、青菜、肉……该有的都有,但这不是易昀想要的。
易望舒听到这命令会答“好”,16:oo左右准备晚饭食材。他会分析易昀喜好,茼蒿多买,白菜少买,牛肉多买,羊肉少买,蘸料要辣的,锅底要清汤的……若分析不出来,也会问上两句“什么时候吃?”“喜欢什么菜?”
a3o6o9不聪明,只具备执行力。
火锅煮开,易昀作势要把手伸煲汤锅里。a3o6o9制止易昀,它的程序不允许易昀有危险。
易昀收手,说:“正常人不会把手伸进汤锅里。”
a3o6o9接收到的信息:把手伸进汤锅里,为否命题。
易昀再次作势要把手伸煲汤锅里。
arch
{IF让他把手伸进汤锅里,不安全;
print阻止他;
IF不让他把手伸进汤锅里,正常人不会把手伸进汤锅里,这是否命题,他不会这样做;
print不该阻止他;
?
}
a1gorithm=?
?
a3o6o9再次宕机。
易昀完全没有理由把手放进煲汤锅里,这件事是不成立的。
否命题与程序产生矛盾,aI脑子里的二进制全乱了。庞大的数据库分析不出一条解决方案,他的系统算力不足近乎陷入瘫痪。
易昀下了第三道指令:“你能自杀吗?”
a3o6o9静默。
办公室内很安静,易昀在键盘上记录数据的敲击声格外明显,“哒哒哒”度极快。他准确地记录a3o6o9中枢程序,仿若被提问的是他,脑中arch怎样运作符合逻辑,又为何会产生认知偏差,易昀亦是无解。
他比aI更懂arch,却盘不清aI产生自主意识的逻辑。
此时架构崩坏,程序无法干预,自杀命令传入中枢系统,执行与否完全依托a3o6o9主观意愿,易昀猜他会拒绝。
果不其然,a3o6o9说:“我可以为您作图画表、统计数据、打扫卫生、翻译文献、写程序……”
它喋喋不休地说,易昀静静地听。这问题他问过易望舒,两种回答显然不可相较。
易昀继续敲课题:脱离程序控制时,aI的主观意愿会遵从于习惯。若拆机系统崩坏,只能祈祷他在上次系统崩坏前没做过危险的举动。若拆机曾因伤害人类、违背人类意愿而清零重组,则重组机会有很大安全隐患,不建议二次组装售卖。
易昀敲完结论后,让a3o6o9“停”。
这笨东西,若不叫停,能把它的好处一直说下去。不像屋里那懒鬼,小聪明一堆,全是勾人的鬼主意。