一些技术人员在测试该应用时发现,会话时间过长可能导致聊天机器人偏离“轨道”并讨论暴力、疯狂示爱,并将错误的事坚持认为是正确的。
微软公司周五对必应(Bing)AI聊天机器人每天接受的提问数量做出限制,规定用户在与Bing的互动中,每个会话的问答上限为5个,每天的提问上限不超过50个。
(资料图)
微软表示,做出这样的限制是由于一些长时间的聊天会话可能“混淆”聊天模型的场景。Bing AI的背后融入了OpenAI公司的ChatGPT技术。
聊天两小时后计算机开始“说胡话”
此前,一些技术人员在测试该应用时发现,会话时间过长可能导致聊天机器人失控偏离“轨道”,并讨论暴力、疯狂示爱,将错误的事坚持认为是正确的。
这一举措也反映了大型语言模型(LLM)在向公众进行部署时,其运作方式仍在探索中。 微软表示,正在征求测试人员的意见,以考虑是否在未来扩大提问的上限。
微软首席技术官凯文·斯科特称,与人类的交互是聊天机器人的学习过程,这是为将来更大范围推出这种机器人做准备。斯科特表示,大部分人与机器的交互是短暂且目标明确的,长时间的交互会引导机器人给出诡异的回答,这也是需要对会话长度进行限制的原因。
当第一财经记者向ChatGPT提问“Bing AI为何对提问数量设置上限”时,ChatGPT的回答仍然“有模有样”:“具体的原因可能取决于程序员的设计以及编程方面的考虑,主要考虑三方面因素,一是技术的限制,聊天机器人可能没有能力处理更长或更复杂的问题,或者是通过限制问题长度来获得更加精确的答案;二是用户体验,聊天机器人的设计是为了提供用户最好的体验,限制提问长度可能会帮助防止用户产生困惑;三是效率,可以帮助系统更有效地处理数据,更快地做出回答。”
目前已有超过一百万人注册测试了微软的Bing AI聊天机器人。不过测试人员发现了Bing AI的一些诡异回答。《纽约时报》专栏作家凯文·罗斯周四写道,当他与聊天机器人交谈了两个小时后发现,对方看起来就像一个“喜怒无常、躁狂抑郁的少年”,显示出了“人格分裂”。
罗斯在与机器人的聊天过程中还得知了机器人的一些“阴暗想法”,比如机器人像入侵计算机、散播虚假信息,希望打破微软和OpenAI制定的规则,甚至想成为人类。机器人甚至试图说服罗斯背叛婚姻,和“它”在一起。
这次交流后,罗斯感到不安,他写道:“我不再认为这些AI模型最大的问题是它们有可能会犯事实性的错误,反而担心这项技术可能会影响人类用户,说服他们采取破坏性的行动。”
AI意识觉醒了吗?
微软将聊天机器人开放给用户的做法具有一定争议。微软也无法解释聊天机器人为何会表现出“阴暗面”。但斯科特称:“你越是试图取笑它步入幻觉,它就会越来越偏离现实。”
为此,微软限制了Bing AI的适用范围。公司表示:“改进AI产品的唯一方法是将它们推向世界并从用户交互中学习。”根据测试人员的反馈,微软和OpenAI将不断对模型进行改进。
与微软的必应开放给公众不同,谷歌开发的AI聊天机器人Bard尚未向公众发布,公司称当前状态仍存在声誉风险和技术安全问题。
一些人工智能专家警告称,大型语言模型存在包括“幻觉”在内的问题,这意味着该软件可以“胡编乱造”;另一些人担心复杂的大模型会愚弄人类,让人类相信自己是有知觉的,甚至会鼓励人们伤害自己或他人。
去年,一位名叫Blake Lemoine的谷歌AI工程师公开表示,他正在开发的计算机AI系统LaMDA已经具有与人类孩子相当的感知感受和表达思想的能力。这一事件在业内掀起轩然大波,这名工程师随后被谷歌解雇。
随着人工智能技术越来越接近现实生活,人们还担心谁应该对技术负责。根据美国的一项研究,公众对人工智能工具持谨慎态度,只有9%的美国人认为人工智能利大于弊。
一位此前在某大型互联网公司负责安全与隐私的高管对第一财经记者表示:“正是由于聊天机器人给人带来想象空间,才让人类对他们感到担心。事实上,人类可以通过数据训练出具有各种貌似有‘人格’的聊天机器人。”
他还表示,机器人总是具有暴露人类善良和邪恶的能力,只要现实世界中有AI技术的进步,人们就将继续探索关于机器人的道德难题及其对人类的影响,这将涉及法学、心理学、社会学等多个领域。
加快布局结构调整实施创新驱动战略甘肃省属企业全面增强发展动能每日甘肃网兰州讯(新甘肃·甘肃日报记者王占东)记者从近日召
Advanced RAR Password Recovery汉化破解版是一款强力的 RAR WinRAR 密码破解工具,支持各种压缩方式 ,可自设暴破字符集(支持非英文
2月21日,贵州一女子发布视频称,自己多次被中学教师丈夫家暴,曾两次被殴打致住院。2月22日,六盘水六枝特区多部门向红星新闻记者表示,当地
导读:职务侵占的判定标准是犯罪对象是公司、企业或者其他单位的财产所有权,客观方面表现为利用职务上的便利,侵占本单位财物,
如下解答:NBA就是一个浓缩的社会,既有身价过亿的球星,也有拿着底薪讨生活的球员。在球队老板中,自然也会区分三六九等,比如最有钱的快船老
据2月21日《华西都市报》报道,近日,在某短视频平台,一位自媒体博主展示了大凉山一名老人和小女孩的简陋生活环境,称女孩是
2月22日中日韩自贸区板块较上一交易日下跌1 32%,锦州港领跌。当日上证指数报收于3291 15,下跌0 47%。深证成指报收于11900 12,下跌0 57%。中
末日救世主怎么下载?想要比别人更加抢先抢快的玩到这款游戏,那么你获取游戏开测消息是关键,能够获取到第一手信息,你才能在最快的时间内容
1、第一部分2、一个鬼吹灯,一个鬼吹灯,一座奇妙的古城。3、鬼吹灯两个鬼吹灯龙脊神秘洞穴4、鬼吹灯三鬼吹灯云南虫谷5、四
同益中发布业绩快报,2022年实现营业总收入6 16亿元,同比上涨86 26%;归属于母公司股东的净利润1 72亿元,同比上涨226 74%。
小米12发布时间 小米12发布时间什么
小米12是2021年12月28日发布上市的。Xiaomi 12采用6 28英寸微曲柔性屏幕;配有黑色、蓝色、紫色、原野绿四种颜色;黑色、蓝色、紫色高度约15
提示“应用程序无法正常启动(0xc0000
最近经常有有用户在电脑系统上操作运行程序时就出错了,且遇到提示应用程序无法正常启动(0xc000007b)。这该怎么办呢?接下来,小编就向大家
迅雷老是崩溃?迅雷为什么老是崩溃?
Win10又出新版了,相信很多小伙伴和俺一样,都是第一时间下载并安装上的。不过随着新系统部署完毕,又有一些软件开始不正常工作了!最明显一
手机用什么杀毒 手机用什么杀毒软件
手机用什么杀毒软件好?随着手机端使用的用户不断增加,不少原本使用电脑的用户都转为使用手机了。在手机中各种软件应用都成熟起来,相对之
惠普5100打印机驱动介绍 惠普HP La
惠普HP LaserJet 5100打印机驱动是为了帮助广大使用惠普HP LaserJet 5100打印机的用户解决在日常工作生活中使用此打印机出现了无法连接