在周五的 YouTube 网络直播中，Meta Platforms 的首席人工智能科学家 Yann LeCun 在监管人工智能科学和监管产品之间划清界限，指出最具争议的人工智能开发，OpenAI 的 ChatGPT，代表的是一种产品，而不是基本的 研发。
“当我们谈论 GPT-4 或 OpenAI 目前推出的任何产品时，我们不是在谈论研发，而是在谈论产品开发，好吗？” 乐存说。
另外：技术领导者签署请愿书以停止进一步的 AI 开发
“OpenAI 从一个相对开放的 AI 研究实验室，顾名思义，转变为一家营利性公司，现在是一种主要为微软服务的合同研究实验室，不再透露任何关于它们如何工作的信息，所以这 是产品开发；这不是研发。”
LeCun 与人工智能应用公司 Landing.ai 的创始人兼首席执行官吴恩达以及人工智能教育机构 DeepLearning.ai 举行了联合网络直播。 两人提出了反对由未来生命研究所提议并由多位知名人士签署的 6 个月人工智能测试暂停令的论点。
该提案要求人工智能实验室暂停——至少六个月——训练比 OpenAI 的 GPT-4 更强大的人工智能系统，这是几种所谓的大型语言模型中的最新模型，是 ChatGPT 等人工智能程序的基础 .
另外：对于 GPT-4，OpenAI 选择保密而不是披露
可以在 YouTube 上观看半小时会议的重播。
LeCun 和 Ng 都认为，延迟对人工智能的研究是不好的，因为它会阻碍进展。
“我觉得，虽然今天的人工智能有一些危害的风险——我认为偏见、公平、权力集中，这些都是真正的问题——它也在创造真正的价值，为教育、为医疗保健，这是令人难以置信的令人兴奋的价值 很多人都在创造来帮助其他人，”Ng 说。
“就像今天的 GPT-4 一样令人惊叹，构建比 GPT-4 更好的东西将帮助所有这些应用程序帮助很多人，”Ng 继续说道。 “因此，暂停这一进展似乎会造成很多伤害，并减缓许多非常有价值的东西的创造，这些东西可以帮助很多人。”
另外：如何使用 ChatGPT 创建应用程序
LeCun 对此表示赞同，同时强调了研究与产品开发之间的区别。
LeCun 说：“我对此的第一反应是，呼吁延迟研发实质上是新一轮的蒙昧主义浪潮。” “为什么要减缓知识和科学的进步？”
“然后是产品问题，”LeCun 继续说道。 “我完全赞成对人们手中的产品进行监管；我不认为监管研发有什么意义，我认为这除了减少我们可以用来实际改进技术的知识之外没有任何目的 ，更安全。”
LeCun 提到 OpenAI 决定通过 GPT-4 大幅限制对其程序工作原理的披露，在上个月向世界介绍该程序的正式研究论文中几乎没有提供任何技术价值。
另外：GPT-4：提供非法建议和显示“危险的紧急行为”的新能力
“部分原因是，人们对 OpenAI 现在的保密感到不满，因为他们在产品中使用的大部分想法都不是来自他们，”LeCun 说。 “它们是由来自谷歌、FAIR [Facebook AI Research] 和其他各种学术团体等的人发表的想法，现在它们有点被锁起来了。”
在问答环节中，LeCun 被问及为什么他的同行、加拿大 MILA 人工智能研究所所长 Yoshua Bengio 签署了暂停信。 LeCun 回答说，Bengio 特别关注 AI 研究的开放性。 事实上，Bengio 曾表示，OpenAI 转向保密可能会对基础研究产生寒蝉效应。
LeCun 说，“我同意他的观点”，即研究需要开放。 “但我们不是在这里谈论研究，我们谈论的是产品。”
另外：“支持创新”的 AI 监管提案关注技术的不可预测性
LeCun 将 OpenAI 的工作描述为仅仅是产品开发，这与之前关于 OpenAI 没有取得实际科学突破的言论是一致的。 1 月份，他表示 OpenAI 的 ChatGPT“不是特别创新”。
在周五的会议上，LeCun 预测研究的自由流动将产生在能力上达到或超过 GPT-4 的程序。
LeCun 说：“这不会持续很长时间，因为在相对较短的时间内，将会有许多其他产品具有类似的功能，如果不是更好的话。”
“OpenAI 取得了一些进步，因为数据的飞轮允许他们对其进行调整，但这不会持续太久。”
本文内容由互联网用户自发贡献，该文观点仅代表作者本人。商机网仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容， 请发送邮件至 tenspace2022@163.com 举报，一经查实，本站将立刻删除。 本文链接：https://www.315965.com/n/67056.html
