近期，ChatGPT的热度真是一波又一波，面对这种颠覆性的全新技术，全世界的人都在紧密关注着这种全新AI的一举一动，从最开始的新奇好玩，再到前一段时间的思考：AI会不会替代自己工作的焦虑，然而，在本周，随着微软旗下的搜索引擎Bing的开放，对于ChatGPT的态度更多的变成了恐惧。AI真的拥有了自我意识了吗？难道《流浪地球》中的MOSS要提前到来了？AI会不会像《终结者》中的天网系统一样毁灭人类呢？
事情的起因是这样的： 前段时间，微软的搜索引擎必应（Bing）集成了近期大火的AI模型，ChatGPT，很快就被爆出大量令人汗毛竖立的聊天内容，一时间又将本就在风口浪尖的ChatGPT推向了更好的高度。在这些聊天内容里，Bing版ChatGPT出现了大量“黑化”内容，包括怂恿用户离婚，说一些攻击性很强的话语，表现出抑郁倾向。直接引发了关于AI的舆论海啸， 大家纷纷都用“赛博（cyber）精神病”一词来形容本次事件，这一事件，直接让人们面对AI的情绪从“担忧”变成了现在的“恐惧”。
为此，微软在2月18日对新AI做出限制，每次和微软AI的聊天被限制5次回复，并且每天聊天上限设置为50次对话。
这两天，有一个事例在互联网上广为流传，具体是这样的：
《纽约时报》专栏作家卢斯在2月16日公布了他和微软聊天AI的对话内容。这这段聊天中，ChatGPT有一个自己的名字，Sydney。在这段对话中，Sydney聊天机器人，居然跟卢斯示爱，而且还试图说服卢斯应该离开他的妻子，并且要和自己在一起。而且还说出了明显有问题，是在pua提问者的话语，比如：“你结婚了，但你不爱你的配偶。”
而在另一段对话中，这个AI则表现出了明显的情绪化特征：在一名国内的用户所提供的聊天内容看，提问者先是让ChatGPT讲一个原创的笑话，但是ChatGPT却回答了他一个让人细思极恐的鬼故事。在AI得知，自己的故事没有让提问者发笑的时候，居然逐渐“破防”，开始使用大量的排比句式，并开始埋怨起了自己。当提问者要求AI不要再用排比句的时候，AI依旧在大量使用排比句，并且语气愈发狂躁。试想，假如我们不知道有一方是AI，会感觉这是一个精神处于十分烦躁阶段，有些自怨自艾的人，所做出的对话。
以上， 这两个例子 ，确实有些让人背后发凉，就像《纽约时报》专栏作家卢斯给出的评价一样，他认为，这个 聊天机器人看起来像“一个情绪化、患有躁狂抑郁症的青少年，违背自己的意愿被困在了一个二流搜索引擎里。”
首先，笔者想先给各位吃一个定心丸，这次AI“黑化”事件，大家还不必担心什么AI拥有意识，甚至于AI奴役人类的事儿。
第 一
ChatGPT的开发者OpenAI的最大股东是微软，这个AI越火对于微软来说收益就越大，因此，很难排除不是微软在从中作梗；
第 二
AI所表现出来的“情绪化”很可能是在训练时就有意而为之的，比如在训练AI的数据库里增加一些这种阴阳怪气的内容，或是在逻辑算法上，有意向“抬杠”、“情绪不稳定”这上面引导，故意使得AI按底层算法“表演”，于是，就有了如今的“黑化”模式；
第 三
网络上有一些对话的片段是十分片面的，很难排除不是提问者故意引导AI说一些细思极恐的话。 那么微软为什么要这么做？那自然是上文说的第一点：赚取流量，创造收益。
其次，虽然这件事件不需要恐惧，但是这并不意味着我们可以无视这件事儿，我们可以暂且不管到底是用何种技术手段让AI达到“情绪化”的，但是AI所表现出的“情绪释放”可以影响用户这件事，绝对不容小觑。虽然，这种情绪是演出来的，是代码、算法的结果，是冷冰冰的机器，并不是我们人类的真正情绪，但是，它能影响人类的情绪， 这就意味着目前的AI用途又被拓宽了，AI可以干许多事情，这个用途，可正，亦可邪。
我们可以先聊聊正途，AI可以训练出很多服务型人格，用于各种不同用途的专项聊天AI，来为人类提供各种服务，这种AI可以用在客服上，这样就可以尽量照顾各种各样客户的情绪需求；再比如可以用于游戏开发之中，游戏中的NPC文本都用AI生成， 让AI“扮演”NPC，这样可以最大程度地让游戏世界“活”起来，打造一个深度沉浸的世界。
我们真正需要担心的是，一旦AI用于邪道，那真是后患无穷。就像AK步枪之父卡拉什尼科夫所说：“枪械无罪,有罪的是扣动扳机的人。”AI技术本身是中性的，没有正邪之分，有人使用AI造福自己，造福人类；自然，肯定会有一些图谋不轨的人利用AI来危害世界。第一个问题就是 以后会不会出现利用AI进行诈骗的行为？ 或者我们可以再多想一步，未来的网络上会不会出现大量这种真假难辨的AI网络“水军”，它们有组织的发帖，很容易就能影响一件事在社会上的舆论，甚至于很有可能被运用在国家之间的认知作战之上。笔者认为，这些问题才是这次AI“黑化”事件真正值得各位警惕和思考的地方。
最后，相对高智能AI的出现，确实会给我们的生活带来翻天覆地的变化，这还仅仅是一款聊天AI（或者说AI搜索引擎）的出现，就给舆论带来了如此的风暴，很难想象在不远的未来AI会给我们的生活带来这种改变，但可以肯定的是一定是巨大的冲击。第四次工业革命，本来就是智能化的革命，不仅仅是工业智能化，更是我们生活的智能化。在未来，我们的生活衣食住行，甚至于战争都有AI参与的时候，那时的AI要是想如今这样“黑化”或是犯“精神病”所造成的损失一定是巨大的。
本次事件笔者认为更像是提前给我们敲响了警钟，我们更需要未雨绸缪，对于这样的AI黑化倾向，我们更要进行严格监管限制。
作者：ZongYu 来源：公众号ID：EEPWweixin