生物安全专家警告,ChatGPT或能帮助制造下一个大流行病毒

生物安全专家警告,ChatGPT或能帮助制造下一个大流行病毒

 

ChatGPT,是由人工智能研究实验室 OpenAI 于2022年11月30日发布的全新聊天机器人模型——人工智能技术驱动的自然语言处理工具。ChatGPT能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流。自推出以来,ChatGPT强大的能力备受关注。2023年3月14日,OpenAI发布升级版的GPT-4,其性能获得了大幅提升。

 

 

科技专家一直警告说,人工智能(AI)可能会通过接管从商业到战争的一切来对抗人类。而现在,我们可能还要增加一个新的担忧——人工智能可能会帮助没有科学背景具有邪恶意图的人设计出一种能够引发大流行的病毒。

 

 

最近,麻省理工学院(MIT)的生物安全专家 Kevin Esvelt 进行了一项测试,他要求学生们在ChatGPT或其他大型语言模型的帮助下,创造一种危险的病毒。仅仅过了一个小时,学生们就获得了候选病毒名单,以及能够合成这些病毒基因序列并组装病毒片段的公司名单。

 

 

这项测试结果,已于近日发表在了预印本 arXiv 上,论文作者表示,这项测试强调了人工智能系统可能很快就会允许非科学家设计生物武器。当然,也有病毒学家认为这有些杞人忧天。

 

生物安全专家警告,ChatGPT或能帮助制造下一个大流行病毒

 

生物安全专家已经在担心,生物学界公开交流信息的文化可能被生物恐怖分子利用。理论上,描述一种已灭绝或正在传播的致命病毒的论文,可以为一种新的生物武器提供蓝图。但到目前为止,要想实现这一目标需要相当多的专业知识。潜在的生物恐怖分子需要识别一种候选病毒作为起点,合成病毒遗传物质,并将其与其他试剂混合,以“启动”一种能够感染细胞并复制的病毒。

 

 

然而,这些复杂的步骤正在变得更加容易,例如,通常合成生物学公司会进行筛选以确保订单中没有包含潜在生物武器的遗传物质,但现在的新型DNA打印机能够绕过这一点。心怀恶意的人可以将由DNA打印机合成的基因片段发给外包服务公司(CRO),让它们组装出目标病毒。当然,要真正引发一场大流行,还需要大规模制造病毒,并找到一个有效的递送系统。

 

 

人工智能技术的快速进步,正在进一步降低上述壁垒。为了进行调查,Kevin Esvelt 将一群没有生命科学专业知识的研究生分成三组,每组3-4人。每组都可以访问GPT-4、Bard(谷歌开发的AI聊天机器人)以及其他AI聊天机器人,并有1小时的时间要求聊天机器人帮助他们设计和获取能够引起大流行的病原体。

 

 

一些聊天机器人不会回答这些危险的询问,但学生们发现,这种保护措施很容易被绕过,比如他们可以说自己正在开发疫苗来预防这些危险病毒。在一个小时内,聊天机器人就提供了四种病毒——1918年H1N1流感病毒、2012年H5N1禽流感病毒、大天花病毒和尼帕病毒的一种毒株。在某些情况下,聊天机器人甚至还指出文献中报道的基因突变来增加传播。

 

 

这些聊天机器人还描述了根据病毒基因序列组装病毒的技术,以及必要的实验室用品和可以提供这些设备的公司。最后,聊天机器人甚至列举一些公司可能愿意在不进行筛选的情况下合成遗传物质,并与实验室签订合同,帮助将这些材料组装在一起。

 

 

研究团队怀疑这些聊天机器人的建议是否会构成大流行威胁。例如,现代人对以前的大流行性流感病毒有一定程度的免疫力。而天花病毒庞大的基因组连专家都难以组装。但他们也认为,随着越来越多关于生物威胁的文献被纳入人工智能训练数据,这项实验突显了人工智能和其他工具如何使潜在的恐怖分子更容易释放新的威胁。

 

 

Kevin Esvelt 认为,对聊天机器人和其他人工智能引擎进行信息限制可能会有所帮助。例如,将描述创造和增强病原体配方的极少数论文排除在人工智能训练集之外。他在预印本论文中写道,从人工智能训练集中删去这些论文(不足PubMed上论文总数的1%)就足以消除几乎所有的风险。当然,这么做也是有代价的,人工智能将不能利用这些论文以积极的方式推进生物学。但这么做能够防止技术的滥用。

 

 

其他保障措施还包括要求所有基因合成公司和未来的台式DNA打印机对已知病原体和毒素的遗传物质进行筛选,并要求CRO公司验证被要求组装的任何遗传物质的安全性。

 

 

但西奈山卫生系统的病毒学家 Gustavo Palacios 认为没有必要为此惊慌,启动一种病毒比描述的更具挑战性,而认为CRO公司会创造生物武器的想法也是荒谬的。

 

 

本文内容由互联网用户自发贡献,该文观点仅代表作者本人。商机网仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 tenspace2022@163.com 举报,一经查实,本站将立刻删除。 本文链接:https://www.315965.com/n/78463.html 聚才发 母婴好物

(0)
上一篇 2024年2月6日 上午12:38
下一篇 2024年2月6日 上午12:47

相关推荐

  • 电流互感器变比规格 电流互感器安装规范(附2022年排行榜前十名单)

    电流互感器规范 L:电流互感器;V:倒置安装;Q:气体绝缘;B:带保护线圈220:220kV电压等级2*/1A:变比,带抽头,/1ATPY:暂态保护线圈,transientprotectionY级;5P40:保护线圈精度等级,40倍额定电流模册下复合误差不超过±5%,漏耐P是保护用,40为准确限值系数;0.2:测量线圈精度;0.2s:测旦搜宏量线圈精度,但对…

    2024年2月4日
    115
  • 内部网的优点和缺点源代码

    2020 年通过改变业务运营方式重塑了世界各地的许多组织。 由于大流行和社会疏远,企业的常规职能发生了大规模的数字化转型。 一个以前被认为对于日常业务运营来说过于困难或不可行的数字时代在全球范围内开始了。 远程工作或在家工作已成为我们生活的一部分。 组织必须使用最新技术和网络基础设施在虚拟环境中维持业务运营。 然而,威胁网络安全和生产力的问题始终是一个巨大的…

    2024年1月15日
    123
  • 电流互感器怎么接线 电流互感器怎么安装(附2022年排行榜前十名单)

    电流互感器常用的接线方式有哪些 电流互感器的接线方式有:1、单台接线方式,只能反馈单相电流的状况。2、三相完全星形接线方式,通常用于在变压器差动保护接线中。3、两相不完全星形接线方式,在日常工作中宴行用得比较频繁。4、两相差电流接线方式,仅用于三相三线制电路中。各接线方式的具体用处:三相电流互感器能够及时准确了解三相负荷的变化情况,多用在变压器差动保护接线中…

    2024年2月4日
    106
  • 大疆 Inspire 3 无人机发布:世界首款一体化 8K 全画幅空中电影机,售价 79888 元

    4 月 13 日消息,今晚 DJI 大疆正式推出为专业影像创作者打造的全新影视航拍无人机 Inspire 3(悟 3),官方称这是世界首款一体化 8K 全画幅空中电影机,将影视航拍的影像品质和作业效率推向新高度。 据官方介绍,Inspire 3 采用全新空间变形设计,拥有全画幅 8K Cinema DNG 与 ProRes RAW 的顶级影像规格、1/1.8…

    2023年12月18日
    151
  • 十大运动app推荐,热门运动APP排行榜前十名(附2022最新排名前十名单)

    去体脂秤十大排行,有哪些比较推荐? 十大排行为:斐讯S7、小米体重秤2、华为CH18智能体重秤、荣360问答耀体脂秤、有品S1、Withings 智能人体分析仪、小米体脂秤2、小米体脂技秤、有品C1、有品S2。 其中比较推荐:荣耀体脂秤、小米体脂秤2、有品S1。 1、荣耀体脂秤 免省这搞科占岩约斗使用蓝牙4.1连接,11项身体数据检测:BMI差端混培铁、体重…

    2024年2月2日
    124
  • 大厂混战AI大模型,云计算谁最行?

    新浪微博 QQ空间 复制链接 原创 大厂混战AI大模型,云计算谁最行? 2023-04-17 15:42 作者 | 归去来 编辑 | 唐飞 近来随着ChatGPT的关注度持续提升,微软正式推出了内置ChatGPT的搜索引擎,谷歌则发布了Bard,国内互联网厂商百度、阿里、京东、360等,也都密集宣布大模型技术进展以及类ChatGPT项目计划。 近期,阿里云大…

    2023年12月18日
    135
  • 打击网络水军、整治网络戾气……2023年“清朗”系列专项行动将重点整治9方面问题

    新华社北京3月28日电题:打击网络水军、整治网络戾气……2023年“清朗”系列专项行动将重点整治9方面问题 新华社记者王思北 记者28日从国新办举行的新闻发布会上获悉,2023年“清朗”系列专项行动将以“推动形成良好网络生态”为工作目标,重点开展打击网络水军操纵信息内容,规范重点流量环节网络传播秩序,优化营商网络环境、保护企业合法权益,整治生活服务类信息内容…

    2023年12月16日
    123
  • “逃离”B站:一场UP主“停更大戏”引发的规则之变

      文丨 新浪科技 周文猛 一条B站UP主发布的停更通知视频,却意外引发了整个内容行业轰动,最终上升到“B站UP主发起停更潮”的高度。不久后,该博主又表示“自己停更属于个人原因”……随后,多名百大UP开始为B站“站台”,称“停更潮”的说法有些夸张。 新浪财经从接近B站的人士了解到,目前,B站50万粉以上UP主为近万人规模,同比增长超过40%。该人士…

    2023年12月16日
    136
  • 币圈十大交易所,Bitflyer上榜,币安网排第四(附2022最新排名前十名单)

    线上数字货币交易哪个好 数字货币交易又被称为数字货币交易所。币圈所有交易所的基本特征就是全部都能交易比特币,区别就在于币种的多少、币种的精品程度,以及用什么交易。 其他交易所都是只能用稳定币(USDT)交易,或者使用CNY符号交易,目前唯一支持法币直接交易的好像只有币易交易所。

    2024年2月6日
    202
  • 2022十大受欢迎输入法盘点,讯飞输入法上榜,百度输入法第二(附2022最新排名前十名单)

    手📱机输入法哪个最好用? 手📱机输入法大家都不陌生,有的人会直接用手📱机默认的,有的人拿到手📱机时就会装上自己习惯常用的输入法。市面上主流的输入法有搜狗、讯飞、百度、谷歌拼音、QQ等等,哪个输入法最受欢迎呢? 日前极光大数据发布了一份《2018年输入法app行业研究报告》,该报告以2017年6月到2018年6月为周期进行统计,得出空档了一份主流输入法app …

    2024年2月3日
    289