生物安全专家警告,ChatGPT或能帮助制造下一个大流行病毒

生物安全专家警告,ChatGPT或能帮助制造下一个大流行病毒

 

ChatGPT,是由人工智能研究实验室 OpenAI 于2024年11月30日发布的全新聊天机器人模型——人工智能技术驱动的自然语言处理工具。ChatGPT能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流。自推出以来,ChatGPT强大的能力备受关注。2023年3月14日,OpenAI发布升级版的GPT-4,其性能获得了大幅提升。

 

 

科技专家一直警告说,人工智能(AI)可能会通过接管从商业到战争的一切来对抗人类。而现在,我们可能还要增加一个新的担忧——人工智能可能会帮助没有科学背景具有邪恶意图的人设计出一种能够引发大流行的病毒。

 

 

最近,麻省理工学院(MIT)的生物安全专家 Kevin Esvelt 进行了一项测试,他要求学生们在ChatGPT或其他大型语言模型的帮助下,创造一种危险的病毒。仅仅过了一个小时,学生们就获得了候选病毒名单,以及能够合成这些病毒基因序列并组装病毒片段的公司名单。

 

 

这项测试结果,已于近日发表在了预印本 arXiv 上,论文作者表示,这项测试强调了人工智能系统可能很快就会允许非科学家设计生物武器。当然,也有病毒学家认为这有些杞人忧天。

 

生物安全专家警告,ChatGPT或能帮助制造下一个大流行病毒

 

生物安全专家已经在担心,生物学界公开交流信息的文化可能被生物恐怖分子利用。理论上,描述一种已灭绝或正在传播的致命病毒的论文,可以为一种新的生物武器提供蓝图。但到目前为止,要想实现这一目标需要相当多的专业知识。潜在的生物恐怖分子需要识别一种候选病毒作为起点,合成病毒遗传物质,并将其与其他试剂混合,以“启动”一种能够感染细胞并复制的病毒。

 

 

然而,这些复杂的步骤正在变得更加容易,例如,通常合成生物学公司会进行筛选以确保订单中没有包含潜在生物武器的遗传物质,但现在的新型DNA打印机能够绕过这一点。心怀恶意的人可以将由DNA打印机合成的基因片段发给外包服务公司(CRO),让它们组装出目标病毒。当然,要真正引发一场大流行,还需要大规模制造病毒,并找到一个有效的递送系统。

 

 

人工智能技术的快速进步,正在进一步降低上述壁垒。为了进行调查,Kevin Esvelt 将一群没有生命科学专业知识的研究生分成三组,每组3-4人。每组都可以访问GPT-4、Bard(谷歌开发的AI聊天机器人)以及其他AI聊天机器人,并有1小时的时间要求聊天机器人帮助他们设计和获取能够引起大流行的病原体。

 

 

一些聊天机器人不会回答这些危险的询问,但学生们发现,这种保护措施很容易被绕过,比如他们可以说自己正在开发疫苗来预防这些危险病毒。在一个小时内,聊天机器人就提供了四种病毒——1918年H1N1流感病毒、2012年H5N1禽流感病毒、大天花病毒和尼帕病毒的一种毒株。在某些情况下,聊天机器人甚至还指出文献中报道的基因突变来增加传播。

 

 

这些聊天机器人还描述了根据病毒基因序列组装病毒的技术,以及必要的实验室用品和可以提供这些设备的公司。最后,聊天机器人甚至列举一些公司可能愿意在不进行筛选的情况下合成遗传物质,并与实验室签订合同,帮助将这些材料组装在一起。

 

 

研究团队怀疑这些聊天机器人的建议是否会构成大流行威胁。例如,现代人对以前的大流行性流感病毒有一定程度的免疫力。而天花病毒庞大的基因组连专家都难以组装。但他们也认为,随着越来越多关于生物威胁的文献被纳入人工智能训练数据,这项实验突显了人工智能和其他工具如何使潜在的恐怖分子更容易释放新的威胁。

 

 

Kevin Esvelt 认为,对聊天机器人和其他人工智能引擎进行信息限制可能会有所帮助。例如,将描述创造和增强病原体配方的极少数论文排除在人工智能训练集之外。他在预印本论文中写道,从人工智能训练集中删去这些论文(不足PubMed上论文总数的1%)就足以消除几乎所有的风险。当然,这么做也是有代价的,人工智能将不能利用这些论文以积极的方式推进生物学。但这么做能够防止技术的滥用。

 

 

其他保障措施还包括要求所有基因合成公司和未来的台式DNA打印机对已知病原体和毒素的遗传物质进行筛选,并要求CRO公司验证被要求组装的任何遗传物质的安全性。

 

 

但西奈山卫生系统的病毒学家 Gustavo Palacios 认为没有必要为此惊慌,启动一种病毒比描述的更具挑战性,而认为CRO公司会创造生物武器的想法也是荒谬的。

 

 

本文内容由互联网用户自发贡献,该文观点仅代表作者本人。商机网仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 tenspace2022@163.com 举报,一经查实,本站将立刻删除。 本文链接:https://www.315965.com/n/78463.html 聚才发 母婴好物

(0)
上一篇 2024年2月6日 上午12:38
下一篇 2024年2月6日 上午12:47

相关推荐

  • 钉钉飞书,都在卷AI!谁将成为未来的“办公头牌”?

    你常用的办公软件是哪个? 钉钉、飞书、还是企微? 平时这些办公软件用了抢占用户,卷功能卷体验已经是见怪不怪了, 但现在居然都开始争先恐后的卷起了AI! 当办公软件卷起AI,会对打工人有什么影响? 推荐你看这篇文章,看看各大办公软件卷AI功能的战况如何。 因为AI,协同办公市场“打起来了”。 4月18日这一天,钉钉、WPS、印象笔记,都迫不及待地对外展示自家的…

    2023年12月23日
    154
  • 测距仪分为几类 如何选购测距仪(附2024年排行榜前十名单)

    测距仪哪个牌子好 测距仪以下牌子好: 1、HEXAGON海克斯康 海克斯康测量技术(青岛)有限公司,HEXAGON,创建者衡于1975年瑞士,世界领先的坐标测量系统供应商,其测头技术在机床工具行业享有盛名。 2、ZEISS蔡司 卡尔蔡司(上海)管理有限公司,世界望远镜十大品牌,镜片十大品牌,始于1846年德国,全球光学与光电行业的领先者,全球领先的光学、精密…

    2024年2月4日
    151
  • 2024十大手机浏览器排行(附2024最新排名前十名单)

    手📱机浏览器哪个最好,十大最好用的手📱机浏览器 10、115浏览器手📱机版是一款由115网盘推出的手📱机浏览器软件,这款软件轻巧快速,占用的内存小,搭载高速浏览器内核,与115账号体系无缝衔接,畅享云服务,是一款算不错的手📱机迅裂浏览器应用。 9、华为手📱机版浏览器是华为手📱机自带浏览器,依托华为强大技术实力,安全、易用,网页加载速度盯昌凳快,但页面内容比较…

    2024年2月2日
    332
  • 2024新显卡排名,N卡及A卡天梯排行榜(附2024最新排名前十名单)

    2024目前显卡排名天梯图2021显卡天梯排行榜 蓝色是台式机显卡30系的笔记本显卡性能比较强劲,尤其甜品卡RTX3060,满功率的RTX3060已经几乎和台式机RTX3060性能一样。RTX3050作为入门级光追笔记本显卡,性能大概在GTX1650Ti和GTX1660Ti之间。比台式机的3050性能还是要差一点。RTX3050Ti比RTX3050性能提高8…

    2024年2月2日
    226
  • 游戏中最重要的趋势源代码

    游戏行业不乏宣告黄金时代的人,或对游戏世界末日迹象赞不绝口的人。 这是对不确定性的非常标准的反应。 因为游戏是基于技术的,它一直在迅速变化,给行业的发展方向带来了很多不确定性。 在这里,我们将探讨影响游戏未来的一些趋势,以及如果这些趋势得以实现,该行业可能走向何方。 (有关游戏的一些背景阅读,请参阅从友好到 Fragging:视频游戏类型的初学者指南。) 移…

    2024年1月14日
    122
  • 数据库管理员需要注意的 5 个 SQL 备份问题源代码

    多年来,SQL 一直是数据库处理和将各种有用信息放入数据库环境的标准。 它一直是数据库管理员培训的常用组成部分。 它几乎是数据库功能的一种简写。 但它确实提出了一些数据库管理员需要注意的潜在问题——并且在许多情况下,需要知道如何解决。 以下是数据库管理员在试图确保数据库系统真正支持业务时将面临的一些主要 SQL 备份问题。 备份时间表数据库管理员将面临的关键…

    2024年1月15日
    135
  • 数据库管理员的 6 个效率提示源代码

    您如何确保数据库操作平稳运行? 以下是一些用于更好地管理数据库的通用准则。 充分授权给员工——并建立授权模型拥有良好的人员配置模型非常重要——了解谁负责数据库管理的每个元素,以及谁将了解良好管理数据库所需的协议和流程。 这可能意味着雇用具有特定 SQL 相关技能和经验的人员,或者寻找具有服务器监控经验或其他类型资格的人员。 它还意味着良好的沟通,以可持续和高…

    2024年1月15日
    127
  • 继电器工作原理分析 继电器的正确使用方法(附2024年排行榜前十名单)

    继电器工作原理继电器应用技巧 继电器是一种根据电气量(如电压、电流等)或非电气量(如热、时间、压力、转速等)的变化接通或断开电路以实现自动控制和保护电力拖动装置的电气。继电气一般由感测机构、中间机构和执行机构三个基本部分组成。接下来小编为大家介绍继电器工作原理及继电器应用技巧。继电器工作原理时间继电器是一种利用电磁原理或机械原理实现延时控制的控制电器。当线圈…

    2024年2月5日
    125
  • 十大dj网站排名,水晶DJ网上榜,深港DJ俱乐部排名第三(附2024最新排名前十名单)

    谁有好听的DJ舞曲网站地址???? CCSDJ串串烧音乐论坛,DJYULEDJ娱乐网,返掘肢XK57小可音乐网,CCC333极限舞曲网,DJKK嗨嗨网,IK123深港舞曲网,DJ527舞曲网,DJWMA舞曲网,DJ520前卫音乐网,BBDJ宝贝舞曲网,VVVDJ清风舞曲网,36DJ舞曲网,YAOTOU摇头舞曲网,DJ97水晶舞曲网,DJYE耶耶网。更新速度比…

    2024年2月2日
    622
  • 交流固态继电器的工作特性有哪些 交流固态继电器怎么测量好坏(附2024年排行榜前十名单)

    怎样识别汽车继电器好坏? 一、继电器的工作原理和特性 继电器是一种电子控制器件,它具有控制系统(又称输入回路)和被控制系统(又称输出回路),通常应用于自动控制电路中,它实际上是用较小的电流去控制较大电流的一种“自动开关”。故在电路中起着自动调节、安全保护、转换电路等作用。 1、电磁继电器的工作原理和特性 电磁式继电器一般由铁芯、线圈、衔铁、触点簧片等组成的。…

    2024年2月4日
    209