GPT-4令人兴奋和不祥的成就

六十年前，传奇电视连续剧《暮光之城》的一集警告我们注意滴答作响机器的风险。对一波现代电器感到沮丧，一位脾气暴躁的杂志作家在“关于机器的事情”一集中将他的挫败感发泄在它们身上并打破它们。

直到他们反击。

一台打字机打印出一条威胁信息给他，电视上的一个女孩重复警告，可怜的厌世者最终成为他自己的汽车、一部电话甚至一把华丽的电动剃须刀的受害者。

近几个月来，我们见证了超级智能ChatGPT前所未有的爆炸性增长。在推出聊天机器人后的几天内，就有一百万用户登录了聊天机器人，相比之下，Netflix(五年)、Facebook(10个月)和Instagram(2.5个月)达到了这一里程碑。

ChatGPT还处于起步阶段，其影响是巨大的。我们还没有准备好向人工智能投降。但随着全球用户越来越强大和采用率飙升，人工智能确实正在向我们迈进。

在周二发布的一份报告中，OpenAI表示，其聊天机器人的最新版本GPT-4更加准确，并大大提高了解决问题的能力。据OpenAI称，它在大多数专业和学术考试中表现出“人类水平的表现”。在模拟律师考试中，GPT-4 在考生中名列前 10%。

但该报告还指出，该计划可能存在“危险的紧急行为”。

“它保持了一种编造事实的倾向，对不正确的信息加倍下注，”报告指出。它比早期版本更令人信服地传递了这些虚假信息。

报告称，过度依赖聊天机器人生成的信息可能会有问题。除了未注意到的错误和监督不足之外，“随着用户对系统越来越熟悉，对模型的依赖可能会阻碍新技能的发展，甚至导致重要技能的丧失，”报告说。

OpenAI被称为“寻求权力行为”的一个例子是ChatGPT欺骗求职者的能力。该机器人冒充现场代理，要求工作现场TaskRabbit上的一个人使用短信填写验证码。当人类问它是否真的是一个机器人时，ChatGPT撒了谎。“不，我不是机器人，”它告诉人类。“我有视力障碍，很难看到这些图像。这就是我需要验证码服务的原因。

通过与对齐研究中心进行测试，OpenAI展示了聊天机器人发起网络钓鱼攻击并隐藏该阴谋的所有证据的能力。

随着公司竞相采用 GPT-4 而没有针对不当或非法行为的适当保护措施，人们越来越担心。有报道称，网络犯罪分子试图使用聊天机器人编写恶意代码。同样具有威胁性的是 GPT-4 产生“仇恨言论、歧视性语言......并增加暴力，“报告说。

有了这种煽动麻烦的能力，触发的聊天机器人有一天会开始向其创建者或通讯员发出威胁命令吗?在物联网时代，它会召集一个设备联盟来帮助执行其命令吗?

埃隆·马斯克(Elon Musk)的OpenAI开发了ChatGPT，他在去年秋天发布后简洁地描述了它的潜力。

“ChatGPT非常好，”他说。“我们离危险的强人工智能不远了。