上千科技人士呼吁暂停训练后
多名AI专家:威胁被夸大了
据第一财经,上周,包括OpenAI共同创始人马斯克在内的上千名科技领袖通过非营利组织未来生命研究所(FLI),签署一份联名信,呼吁OpenAI暂停对GPT的训练,理由是对社会的潜在风险。这份联名信引用了包括OpenAI、谷歌及其子公司DeepMind等机构的12项研究。
不过这份联名信已经引发了激烈的争辩。一些人工智能权威人士认为,人工智能的威胁被夸大了。
3月31日,多名人工智能专家公开指责FLI的独立性,他们表示,该机构主要由马斯克的基金会资助,并将想象中的“世界末日”情景强加于人工智能。谷歌前人工智能伦理专家玛格丽特·米切尔(Margaret Mitchell)是公开批评联名信的专家之一,她表示不应该忽略人工智能的积极作用。
康涅狄格大学助理教授Shiri Dori-Hacohen也对信中提到她的工作提出异议。她认为,目前人工智能系统对人类的风险是一直存在的,与其是否越来越接近达到人类智能的水平无关。“一些尚不存在的风险确实非常重要,但不应该被夸大。”Dori-Hacohen表示。
清华大学智能产业研究院首席研究员聂再清对第一财经记者表示:“我认为GPT-4主要还是人类助手和提升效率的工具,而且是完全在人类的控制下工作的,暂停6个月的训练这一要求过于一刀切了。”
曾毅:ChatGPT可能跟智能没太大关系
据上观新闻,在对人工智能失控的担忧中,不少人担心大型人工智能会在某一天突破“奇点”,获得自我意识。但中国社会科学院哲学研究所学部委员、研究员赵汀阳认为,人工智能目前尚不具备条件获得自我意识,这种担心为时尚早。
“目前图灵机模式下的人工智能,无论运算速度多快、收集资料能力多强,其智商的顶点也不会超越人类。”他说,“因为它工作的方法论来自人类。就像我们突破不了光速,人类的智商就是图灵机的智商常数。”
赵汀阳提到,在人工智能获得自我意识奇点的争论中,计算机科学家约翰·冯·诺依曼曾提出,人工智能在逻辑上可以实现自我复制,即人工智能能够发出指令,借助递归技术实现自我复制。但即便人工智能真的能实现复制自身,它所达到的也只是一般生命体的水平。
“以生成式ai为例,它思维的方法论就是统计学的原理、贝叶斯概率,加上行为统计,强化学习,距离获得自我意识还为时尚早。”
电影《机械姬》剧照。来源:豆瓣
据21财经,中国科学院自动化研究所人工智能伦理与治理中心主任曾毅表示,“我会把ChatGPT、GTP-4这样的技术叫作“看似智能信息处理”,因为它可能跟智能的本质真的没有太大的关系。”
人们之所以觉得它很厉害,因为它的回答真的满足了人们的需求,如果这些输出来自于一个人,你会觉得他太聪明了。但是如果你跟它说“我很不高兴”,它就说“那我怎么能让你高兴一些”,它似乎理解了情感,但是实际上只建立了文本之间的关联。
它经常说“我认为”三个字,但实际上ChatGPT和GPT-4根本没有“我”的概念,因为现在的人工智能不具备自我的感知的能力和真正的自我意识,智能科学现在基本上还处于原点。
编辑|王月龙 杜恒峰
原标题:60天月活破亿,ChatGPT将颠覆移动互联网?短短两个月,ChatGPT大火。
2023-02-07 15:19:58ChatGPT牛在哪里写作业、写剧本、敲代码、和你谈心……最近,如果你还没有和ChatGPT对话,可能就落伍了。
2023-02-10 15:14:31记者让ChatGPT帮忙写新闻据新华财经,针对使用ChatGPT撰写的学术论文,目前,多家知名学术期刊正在更新编辑规则。
2023-02-07 14:45:01多家学术期刊禁止将ChatGPT列为合著者近日,360创始人周鸿祎在《星空下的对话》节目表示,360不会放弃对ChatGPT相关技术的研究和跟踪,如果企业搭不上ChatGPT这班车,很可能会被淘汰。
2023-02-10 10:19:40周鸿祎称搭不上ChatGPT企业会被淘汰新华社北京2月10日电美国执业医师资格考试以难度大著称,而美国研究人员发现,聊天机器人ChatGPT无需经过专门训练或加强学习就能通过或接近通过这一考试
2023-02-10 18:51:00ChatGPT能考上美国医生吗?据央视新闻4月14日消息,当地时间4月13日,法国国家信息自由委员会(CNIL)决定对ChatGPT提出5项指控,并展开调查。
2023-04-14 18:16:40法国宣布调查ChatGPT