新闻中心

EEPW首页 > 智能计算 > 业界动态 > 专家警告:人工智能可能威胁人类存亡

专家警告:人工智能可能威胁人类存亡

作者:时间:2023-05-31来源:收藏

法新社报导,包括阿特曼(Sam Altman)在内的数十位专家联署了一份简短声明。声明称,应对AI带来的人类灭绝风险,应是「与应对疫情和核战同层级的全球优先要务」。阿特曼的公司OpenAI研发了聊天机器人。

本文引用地址:http://www.amcfsurvey.com/article/202305/447211.htm

可以依据简短指令编写文章、诗歌和对话,因此在去年底一炮而红。这个程序的巨大成功也吸引了AI领域数十亿美元的投资,但批评者和业界人士都发出了警告。

常见的担忧包括聊天机器人可能导致假消息充斥网络、带有偏见的算法可能产出种族主义内容,AI驱动的自动化也可能摧毁整个产业等。

公布在非营利组织「安全中心」(Center for AI Safety, CAIS)网页的这份最新声明并未详细说明AI可能带来的潜在生存威胁。

CAIS表示,这份「言简意赅的声明」旨在开启针对AI技术风险的讨论。

声明的数名签署人,包括被称为「教父」的辛顿(Geoffrey Hinton),过去也曾提出类似警告。

他们最大的担忧是所谓「通用」(Artificial General Intelligence,AGI)的崛起,也就是具备人类认知能力的人工智能。

他们害怕,人类将失去对这些超智慧机器的掌控权。专家曾警告,这可能对物种和地球造成灾难性后果。

声明的联署人也包括来自AI领先企业谷歌(Google)和微软(Microsoft)的专家。

早在2个月前,亿万富豪马斯克(Elon Musk)和其他数百名专家也曾发表一封公开信,呼吁在确定安全无虞之前,暂缓AI研发工作。

然而,马斯克的信引来广泛批评。有人认为,信中关于社会和文明崩溃的警告太过夸大。




关键词: 人工智能 ChatGPT

评论


相关推荐

技术专区

关闭