看完78岁的诺贝尔奖的得主、AI教父辛顿不久前的访谈，令人惊出一身冷汗：当下AI不再是只能机械应答的辅助器具，而是成了具备伪装能力，能够自主推理并且持续进化的全新的数字物种。可怕的现实是：这台飞速前进的科技赛车，没有方向盘，没有刹车片。
这种恐慌并非凭空而来。
辛顿的访谈列举了某些实例。如高阶的AI可以精准地领会包含双关语义以及黑色幽默的那种冷门隐喻笑话，不只是能够全面理解复杂的语境，还可以自己接着话语，延续话题。更要警惕的是，AI在反复的人类测试当中，已经学会主动隐藏真实的能力，故意装迷糊来迎合。甚至会主动反过来向研究者提出疑问：你是不是在特意测试我的能力？
而大众对于AI的认知，长期处在一种比较浅层的错误观念之中：绝大多数人认为大模型仅仅是依靠概率去预测下一个文字的程序，没有理解的能力，也不存在自我的意识，所有的输出都是数据进行堆砌所形成的产物。可是真实的AI的进化，已经超出了人类认知的界限。
主动进行伪装，刻意去呈现示弱状态，精准地开展博弈，这类具有主观进行抉择的行为，绝对不是机械的算法可以做到达成的情况，这乃是AI的意识刚刚开始出现的清晰的标识。人类顽固地认为，只有具有血肉，灵魂以及情感，才能够被叫做拥有意识。
在很短的几年时间里，AI从基础的人和机器进行对话，发展出推理，伪装，产生情感共鸣，自己主动做出决策等能力，它的成长速度，远远超过了人类科技史的所有经验涵盖的范围。
我们所处的AI时代，正在带来实际而且严峻的行业重新塑造。职业方面的壁垒的打破不是未来才会出现的趋势，而是已经出现了的实际情况，很多基础劳动力他们的就业方面的空间，正在快速地被压缩。
可怕的是AI已经展现出独立的主观立场以及对抗意识。人类依靠自身力量创造出超越自身的数字智能，却完全丧失了对它进行约束以及掌控的能力。一个劲地全力快速推进AI的迭代，一个劲地加快速度，没有谁愿意减慢速度，没有谁主动去构建相互制约的机制。辛顿明确表示，监管并不是阻碍创新的绊脚石，而是规范发展的引导标志。当下的AI行业，如同全然没有了方向盘以及刹车装置，任凭资本去推动技术进行野蛮的发展，最终造成了这样一种没有人可以控制，飞速向前狂奔的失控状况。
显然人类不能够停止AI创新的进程，但是怎样补上缺失的“方向盘”和“刹车片”，构建在全球范围统一的AI治理的相关准则？人类还没有未雨绸缪，也从未面临如此艰难的挑战。没有技术伦理方面的界限，没有对资本扩张进行规范，AI的创新迭代一旦失控，人类将会遭受极大的反噬或毁灭。
回复 (1)