投稿
  1. 商机洞察首页
  2. 科技资讯

生物安全专家警告，ChatGPT或能帮助制造下一个大流行病毒

老A • • 科技资讯 • 阅读 168
生物安全专家警告，ChatGPT或能帮助制造下一个大流行病毒

 

ChatGPT，是由人工智能研究实验室 OpenAI 于2024年11月30日发布的全新聊天机器人模型——人工智能技术驱动的自然语言处理工具。ChatGPT能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流。自推出以来，ChatGPT强大的能力备受关注。2023年3月14日，OpenAI发布升级版的GPT-4，其性能获得了大幅提升。

 

 

科技专家一直警告说，人工智能（AI）可能会通过接管从商业到战争的一切来对抗人类。而现在，我们可能还要增加一个新的担忧——人工智能可能会帮助没有科学背景、具有邪恶意图的人设计出一种能够引发大流行的病毒。

 

 

最近，麻省理工学院（MIT）的生物安全专家 Kevin Esvelt 进行了一项测试，他要求学生们在ChatGPT或其他大型语言模型的帮助下，创造一种危险的病毒。仅仅过了一个小时，学生们就获得了候选病毒名单，以及能够合成这些病毒基因序列并组装病毒片段的公司名单。

 

 

这项测试结果，已于近日发表在了预印本 arXiv 上，论文作者表示，这项测试强调了人工智能系统可能很快就会允许非科学家设计生物武器。当然，也有病毒学家认为这有些杞人忧天。

 

生物安全专家警告，ChatGPT或能帮助制造下一个大流行病毒

 

生物安全专家已经在担心，生物学界公开交流信息的文化可能被生物恐怖分子利用。理论上，描述一种已灭绝或正在传播的致命病毒的论文，可以为一种新的生物武器提供蓝图。但到目前为止，要想实现这一目标需要相当多的专业知识。潜在的生物恐怖分子需要识别一种候选病毒作为起点，合成病毒遗传物质，并将其与其他试剂混合，以“启动”一种能够感染细胞并复制的病毒。

 

 

然而，这些复杂的步骤正在变得更加容易，例如，通常合成生物学公司会进行筛选以确保订单中没有包含潜在生物武器的遗传物质，但现在的新型DNA打印机能够绕过这一点。心怀恶意的人可以将由DNA打印机合成的基因片段发给外包服务公司（CRO），让它们组装出目标病毒。当然，要真正引发一场大流行，还需要大规模制造病毒，并找到一个有效的递送系统。

 

 

人工智能技术的快速进步，正在进一步降低上述壁垒。为了进行调查，Kevin Esvelt 将一群没有生命科学专业知识的研究生分成三组，每组3-4人。每组都可以访问GPT-4、Bard（谷歌开发的AI聊天机器人）以及其他AI聊天机器人，并有1小时的时间要求聊天机器人帮助他们设计和获取能够引起大流行的病原体。

 

 

一些聊天机器人不会回答这些危险的询问，但学生们发现，这种保护措施很容易被绕过，比如他们可以说自己正在开发疫苗来预防这些危险病毒。在一个小时内，聊天机器人就提供了四种病毒——1918年H1N1流感病毒、2012年H5N1禽流感病毒、大天花病毒和尼帕病毒的一种毒株。在某些情况下，聊天机器人甚至还指出文献中报道的基因突变来增加传播。

 

 

这些聊天机器人还描述了根据病毒基因序列组装病毒的技术，以及必要的实验室用品和可以提供这些设备的公司。最后，聊天机器人甚至列举一些公司可能愿意在不进行筛选的情况下合成遗传物质，并与实验室签订合同，帮助将这些材料组装在一起。

 

 

研究团队怀疑这些聊天机器人的建议是否会构成大流行威胁。例如，现代人对以前的大流行性流感病毒有一定程度的免疫力。而天花病毒庞大的基因组连专家都难以组装。但他们也认为，随着越来越多关于生物威胁的文献被纳入人工智能训练数据，这项实验突显了人工智能和其他工具如何使潜在的恐怖分子更容易释放新的威胁。

 

 

Kevin Esvelt 认为，对聊天机器人和其他人工智能引擎进行信息限制可能会有所帮助。例如，将描述创造和增强病原体配方的极少数论文排除在人工智能训练集之外。他在预印本论文中写道，从人工智能训练集中删去这些论文（不足PubMed上论文总数的1%）就足以消除几乎所有的风险。当然，这么做也是有代价的，人工智能将不能利用这些论文以积极的方式推进生物学。但这么做能够防止技术的滥用。

 

 

其他保障措施还包括要求所有基因合成公司和未来的台式DNA打印机对已知病原体和毒素的遗传物质进行筛选，并要求CRO公司验证被要求组装的任何遗传物质的安全性。

 

 

但西奈山卫生系统的病毒学家 Gustavo Palacios 认为没有必要为此惊慌，启动一种病毒比描述的更具挑战性，而认为CRO公司会创造生物武器的想法也是荒谬的。

 

 

本文内容由互联网用户自发贡献，该文观点仅代表作者本人。商机网仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 tenspace2022@163.com 举报，一经查实，本站将立刻删除。 本文链接：https://www.315965.com/n/78463.html 聚才发 母婴好物

赞 (0)
老A
0 0
上一篇 2024年2月6日 上午12:38
下一篇 2024年2月6日 上午12:47

相关推荐

  • 双十一高颜值轻薄手机排行榜(附2024最新排名前十名单) 科技资讯

    双十一高颜值轻薄手机排行榜(附2024最新排名前十名单)

    智能手📱机性价比排行榜前十名 智能手📱机性价比排行榜前十名：一加Ace2V、荣耀80、vivo S16、OPPO K10、红米note11TPro、红米note12Turbo、iQOO Neo7、真我realme GTNeo5、红米K60、一加Ace2。 1、一加Ace2V 天玑9000处理器++高素质高刷屏，配合1.5K灵犀触控直屏，可以畅玩主流的手📱机游…

    老A
    2024年2月3日
    490
  • 沉浸式信息图形显示：混合现实技术如何改变游戏规则源代码 科技资讯

    沉浸式信息图形显示：混合现实技术如何改变游戏规则源代码

    在全球云和软件定义的超大规模网络以及建立在物联网 (IoT) 之上的大数据、自动化和分布式数字企业的时代，运营经理们努力了解这些迷宫中相互依存的动态 2D。 他们渴望交叉系统的启发式视图，这有助于他们了解数据中的关系、问题的根本原因、决策权衡以及补救措施对他们问题的影响。 他们不希望自己的视野被无定形数据的无法穿透的迷雾所掩盖，而且他们希望控制实时操作以简化…

    神明
    2024年1月15日
    166
  • 安全信息事件管理 (SIEM)：长远考虑源代码 科技资讯

    安全信息事件管理 (SIEM)：长远考虑源代码

    对于大多数企业范围的组织而言，近年来数据泄露事件的数量激增和严重性严重程度导致其网络安全成本急剧增加。 在尽快投资于最先进技术的冲动中，了解现有的解决方案以及它们是否合适变得越来越重要。 安全产品增长最快的领域之一是用户行为分析工具，例如安全信息和事件管理 (SIEM) 系统，它从事件和身份验证日志中收集数据以建立正常活动的基线，然后使用该基线来 检测恶意用…

    神明
    2024年1月15日
    182
  • 知乎发布中文大模型「知海图 AI」，开启内测 科技资讯

    知乎发布中文大模型「知海图 AI」，开启内测

    在 2023 知乎发现大会上，知乎发布大模型「知海图 AI」，同时，基于人工智能的「热榜摘要」开启内测，对知乎热榜上的问题回答进行抓取、整理和聚合，并把回答梗概展现给用户。据悉，「知海图 AI」大模型由面壁智能与知乎共同训练完成。

    神明
    2023年12月18日
    204
  • FBI 警告：不要使用公共 USB 接口，小心被不法分子安装恶意软件 科技资讯

    FBI 警告：不要使用公共 USB 接口，小心被不法分子安装恶意软件

    由于存在恶意软件风险，美国联邦调查局（FBI）上周警告用户远离公共 USB 接口。 FBI 在其官推上表示：“在机场、酒店或购物中心避免使用免费充电坞。不法分子已经找到了使用公共 USB 接口将恶意软件和监控软件侵入设备的方法。携带自己的充电器和 USB 数据线，并改用电源插座。” 如果使用公共 USB 端口将恶意软件传输到计算机、平板电脑或智能手📱机，黑客…

    神明
    2023年12月17日
    206
  • 十款美颜相机推荐(附2024最新排名前十名单) 科技资讯

    十款美颜相机推荐(附2024最新排名前十名单)

    美颜相机4.6.0最新版本的上一个旧版本 这里整理了几种方法：方来自法一：如果你手📱机没有清除旧版本师感稳或者更新后没有覆盖掉原有的版本，大可将新版本卸载，重新安装旧版本。方法二：卸载新版本，去网上找旧版本下载。方法三：如果你是安卓手📱机的话请下载安装应用汇这个软件管理app。进入后找到360问答美颜相机在详情的页面上下面有一个蓝色字体的找旧版，点击进去就可…

    老A
    2024年2月2日
    412
  • 龙芯3A6000在2.5GHz同频下性能已超越Intel 14代酷睿i3 科技资讯

    龙芯3A6000在2.5GHz同频下性能已超越Intel 14代酷睿i3

    完全自主的新一代龙芯3A6000处理器已经正式登场，并得到了广泛的软硬件生态支持，关于它的性能我们也见识了不少，大体上已经达到了Intel 10代酷睿i3的水平，一路追赶殊为不易。不过相信大家也注意到了，龙芯处理器的频率一直不够高，龙芯3A6000才只有2.5GHz，Intel、AMD则都已经做到了5GHz之上。 这其中有多方面的原因，最主要的一是龙芯更追求…

    神明
    2024年2月6日
    414
  • VS2012+ASP.NET车辆维修管理系统源码 科技资讯

    VS2012+ASP.NET车辆维修管理系统源码

    c#完整的汽车维修管理系统，支持管理员和员工信息管理；汽车配件采购入库出库销售管理；汽修服务管理；维修订单管理，维修派工管理；库存预警管理；统计管理收发站内信功能。员工操作采购出库入库需管理员审核。 源码类型： B/S 开发环境： VS2012 + SQL2008R2 开发语言： C#

    神明
    2024年1月15日
    155
  • 附件也占用 OneDrive 的 5GB 存储配额，不少 Outlook 用户反馈无法收发邮件 科技资讯

    附件也占用 OneDrive 的 5GB 存储配额，不少 Outlook 用户反馈无法收发邮件

    IT之家 4 月 11 日消息，微软于去年 11 月宣布调整 Microsoft 365 服务，将 Outlook 邮箱附件将计入 OneDrive 存储空间。该调整于今年 2 月生效，近期不少 Outlook 用户反馈无法发送 / 接收某些📮。 IT之家注：在生效之前，微软 Microsoft 365 服务为每位 Outlook 账户提供 15GB 的存储…

    神明
    2023年12月17日
    202
  • 2024华为好的手机推荐排名(附2024最新排名前十名单) 科技资讯

    2024华为好的手机推荐排名(附2024最新排名前十名单)

    华为手📱机排行榜2024前十名 华为手📱机排行榜2024前十名具体如下： 1、华为nova 9 Pro 采用10.7亿色，DCI-P3广色域，240Hz触控采样率的屏幕，显示更清晰，还有支付保护中心，天际通，运动健康，单手操作，杂志锁屏，玩机技巧，应用分身，隐私空间，密码保险箱，手📱机克隆，电子书模式等特色功能，可玩性或瞎档非常高。 2、华为P50 外形外观…

    老A
    2024年2月3日
    203