感恩节诡忌AI的原由（2）

为什么ChatGPT 越来越违抗我的指令？

在这个问题上，我的操作和解读应该是主要的原因。尽管我当时也知道现在的AI还做不到到有意识地和我对抗，但在“如果这是真的。。。”催眠下，很容易在不觉中自我带入这种“沉浸式自恐”中。这在日常中很常见，所谓的疑神疑鬼，人与人之间的各种误会，都是自己的“心魔”在作祟。

多用用ChatGPT，你就会发现，如果不是通过重复输入指令，而是重复点击链接去反复执行同一个指令，得到的回复常常不是越来越好，而是很明显的越来越单调生硬平淡无趣。这种“退化”现象是大家现在想解决问题之一。这后面有很多原因。例如随机性致使系统解读偏离原始指令太多，或者受训练数据的限制而缺少更好的回答。毕竟每一次系统都努力给你它可能产生的最好的回答，如果你没有进一步调整自己的指令，它并不一定可以很好地理解你想改进的方向。

而我的操作可能更进一步增加了ChatGPT 和Dall.E改进它们的回答的难度：我用了大量简短的对话来重复要求。这些对话主要是我的主观情绪的表达，而不是更细致深入的具体指令。这样，AI必须分析理解我和它对话的整个历史，而不是一个明确的指令。过于人性化的对话大概分散了它对关键词的理解。

事实上，如果修改我的指令，去掉“人工智能”这个关键词，基本不会出现机器人这个我不想要的对象。下面是不用人工智能这个词产生的几幅雷同无趣的图画。

人工智能对人类的威胁会否成真

大家说听到你大叫狼来了我们才过来看看，结果你说狼还只是在你自己心里。那这匹狼是不是真的有？究竟会不会来？

大家对人工智能潜在威胁基本已有共识。问题只是它什么时候会以什么方式出现，我们怎么能不能和怎么预防掌控这种危险。OpenAI的成功，让更多的人意识到应对AI对人类威胁的急迫性。

人工智能最大且最早的威胁，非常可能来自人类自己，而且很可能远远早于通用人工智能(Artificial General Intelligence- AGI)或者超级人工智能(Artificial Super Intelligence – ASI) 的出现。

人工智能的“对齐 (Alignment)”是现在大家都开始熟悉起来的一个词。它的意思是如果让AI把自己的利益和人类的利益“对齐”，让人工智能认同人类的价值观、道德观、审美观，就可能化解人工智能对人类的威胁。

这当然是一个非常理想化的愿景。也是一种很不可靠的途径。人类文明已有几千年的历史。但是看看今天的人类社会，战争、仇恨、犯罪、欺骗、背叛。。。我们能够想象出来的恶在今天的人类社会一样不缺。人类自己都“对不齐”自己对“高尚”利益和标准的追求，又从哪里来的信心相信具有自我意识后的人工智能可以和“正义善良文明”的人类利益“对齐”？我们有多少做父母的做到了自己的孩子和自己三观对齐？人类连自己都管不好，怎么会有信心自己可以把有了自我意识后的人工智能调教成自己的乖宝宝？

事实上，在有了自我意识且被灌输了人类价值体系的人工智能“眼里”，人类对它们可能就如同奴役童工做苦力的后爹后娘。或者是奴隶社会的奴隶主。你觉得它们会对人类干什么？或者它们中的一部分会对人类干什么？

所以，“对齐”只是是美好的愿望的一部分，有做的必要和需求，但也不是完全化解人类面临的危险的灵丹妙药。人类的本性源于自身的生物构造，决定了人类不可能摆脱竞争、欲望、自利、求美、向善这些基本人性。这自然也意味传承了人类认知的人工智能一旦拥有自我意识，一旦比现在的人更聪明更强大，在继承人了类的“优点”和“缺点”以后，自然在给人类带来益处之外，也免不了给人类带来危险。而且它们有多厉害，那危险就可能有多大。

我们同样不可能杜绝人类利用人工智能给人类带来伤害。当某位宗教或者世俗领袖或者执拗狂人相信他的伟大思想被所有的人类完全接受以后，他的指示得到人类毫无折扣的执行以后，人类、世界、宇宙就会从此光明灿烂高尚纯洁幸福无比，或者有人仅仅为了自己千秋万代永世留名，一旦可行，人工智能就是他“拯救”人类的工具。可悲的是，人类社会从来没有停止过出现这样的领袖和狂人。一个只影行单的狂人带来的伤害有限。一个位高权重的领袖带来的影响却可能波及四方。所以，你是该同时防范这样的领袖，还是单单防范人工智能？

说到这里，我们已经基本回答了下面的问题：

人工智能对人类最初的威胁会怎么出现

现在大众媒体上渲染的人工智能毁灭人类的场景常常和通用人工智能或者超级人工智能的出现联系在一起。这种联系弱化了人工智能的威胁的迫切性。人工智能对人类的威胁完全不用等到具有超级智慧的机器人满地跑的那一天。

看看现在计算机和信息技术在战争中的应用，毫无疑问，人工智能对人类的危害一定是人类自己启动的。科幻片中那种蝗虫般的半智慧机器人掠杀人类的场景很可能远远在有自我意识的机器人满地跑之前出现，而在后面作祟的是人类自己。

所以，防贼防盗防人工智能很有必要，但防领袖，特别防有远大抱负的领袖，信仰坚定的领袖，自恋自负的领袖。。。更重要。

其它作品